GPU-Cloud-Kosten-Rechner
Eingaben
| Stundenpreis pro GPU | 2,5 $ |
|---|---|
| Anzahl der GPUs | 8 |
| Dauer | 24 |
GPU-Cloud-Kosten-Rechner
Schätzt aus dem Stundenpreis, der Anzahl der GPUs und der Dauer die Gesamtrechnung für die Anmietung von Cloud-GPUs für einen Lauf fester Länge sowie die von jeder GPU verursachten Kosten.
Eingaben
Lauf
Ergebnisse
Geben Sie einen Wert ein, um die Ergebnisse zu sehen.
Details
GPU-Cloud-Kosten
Die Anmietung von GPUs in der Cloud hat es möglich gemacht, einen großen Trainings- oder Batch-Job zu starten, ohne eigene Hardware zu besitzen, doch die Rechnung kann schnell steigen, wenn Dutzende Beschleuniger über Tage laufen. Die Arithmetik selbst ist einfach: Die Kosten eines Laufs fester Länge sind der Stundenpreis einer GPU, multipliziert mit der Anzahl der genutzten GPUs, multipliziert mit der Anzahl der Stunden, die sie laufen. Dieser Rechner ermittelt das und schlüsselt die Rechnung zudem nach den Kosten auf, die jede GPU beiträgt.
Die Abrechnung ist linear in Preis, Anzahl und Zeit
Die GPU-Cloud-Abrechnung kennt innerhalb eines einzelnen Laufs keine Skaleneffekte — jede GPU wird für die gesamte Dauer mit demselben Stundentarif berechnet, ob eine oder hundert laufen. Das macht die Gesamtkosten zu einem sauberen Produkt aus drei Zahlen:
C=c⋅n⋅hwobei der Stundenpreis pro GPU ist, die Anzahl der GPUs und die Lauflänge in Stunden. Die einer einzelnen GPU zurechenbaren Kosten sind einfach
g=c⋅hsodass die Gesamtsumme auch ist. Da die Beziehung linear ist, verdoppelt eine Verdopplung der GPU-Anzahl oder der Dauer die Rechnung, und beide sind für eine feste, in GPU-Stunden gemessene Arbeitsmenge austauschbar.
Rechenbeispiel
Angenommen, ein Trainingslauf nutzt 8 GPUs zum Preis von $2,50 pro GPU-Stunde und benötigt 24 Stunden bis zum Abschluss:
gC=2,50×24=$60=2,50×8×24=$480Jede GPU kostet $60 für den Tag, und die acht zusammen kosten $480. Ließe sich dieselbe Arbeit in 12 Stunden auf 16 GPUs erledigen, blieben die GPU-Stunden — und damit die Kosten — unverändert bei $480, da ebenfalls $480 ergibt. Was die Rechnung verändert, sind die verbrauchten GPU-Stunden, nicht wie sie zwischen Anzahl und Zeit aufgeteilt werden.
On-Demand gegenüber Spot-Preisen
Der hier eingegebene Stundenpreis kann aus zwei sehr unterschiedlichen Märkten stammen. On-Demand-Instanzen werden so lange wie nötig zu einem festen Tarif reserviert und nie unterbrochen, was zu Läufen passt, die in einem Durchgang abschließen müssen. Spot- oder Preemptible-Instanzen bieten dieselbe Hardware mit großem Rabatt — häufig zur Hälfte bis zu einem Drittel des On-Demand-Preises —, aber der Anbieter kann sie kurzfristig zurückfordern. Ein mit Checkpoints versehener Job, der nach einer Verdrängung fortgesetzt werden kann, läuft auf Spot-Kapazität oft deutlich günstiger, während ein Job, der von vorne neu starten müsste, auf On-Demand meist sicherer ist. Gib den Tarif ein, der zu den tatsächlich genutzten Instanzen passt.
Die Schätzung nutzen
Diese Zahl deckt nur die GPU-Rechenkosten ab. Eine echte Rechnung umfasst auch Speicher, Datenübertragung und Netzwerk und berechnet weiterhin jede Zeit, in der die Instanzen bereitgestellt, aber ungenutzt vor oder nach dem Lauf bereitstehen. Um diese Leerlaufverschwendung auf einem reservierten Beschleuniger abzuwägen, siehe den GPU-Auslastungskosten-Rechner. Um zu entscheiden, ob die Anmietung überhaupt günstiger ist als der Kauf von Hardware oder der Aufruf einer gehosteten API, siehe den Rechner für den Break-even von Eigenbetrieb gegenüber API.
Häufig gestellte Fragen (FAQ)
Was ist der Unterschied zwischen Spot- und On-Demand-Preisen?
On-Demand-Preise reservieren eine GPU so lange wie nötig zu einem festen Stundentarif, ohne Risiko einer Unterbrechung. Spot- oder Preemptible-Preise bieten dieselbe Hardware mit deutlichem Rabatt — oft zur Hälfte bis zu einem Drittel des On-Demand-Tarifs —, aber der Anbieter kann die Instanz mit kurzer Vorwarnung zurückfordern, wenn anderswo Kapazität benötigt wird.
Spot eignet sich gut für fehlertolerante oder mit Checkpoints versehene Jobs, die nach einer Unterbrechung fortgesetzt werden können, während On-Demand zu Läufen passt, die ohne Neustarts abschließen müssen. Gib den Tarif ein, der auf die verwendete Instanz zutrifft.
Wie sollte ein GPU-Typ gewählt werden?
Die richtige GPU hängt vom Speicherbedarf des Jobs und dem Durchsatz ab, den er nutzen kann. Ein Modell, das in einen kleineren Beschleuniger passt, ist dort günstiger als auf einer Spitzenkarte, die es nicht auslasten kann.
Für große Trainingsläufe verringern speicherstarke Rechenzentrums-GPUs mit schnellem Interconnect die benötigten Stunden und senken trotz höherem Stundentarif oft die Gesamtrechnung. Der nützliche Vergleich sind die Gesamtkosten für den Lauf, nicht der reine Stundenpreis, da eine schnellere GPU in weniger Stunden fertig sein kann.
Wie hängen GPU-Stunden mit den Gesamtkosten zusammen?
GPU-Stunden sind die Anzahl der GPUs multipliziert mit den Stunden, die sie laufen — die Verbrauchseinheit, die die meisten Trainingsberichte angeben. Die Gesamtkosten sind einfach GPU-Stunden mal dem Stundenpreis pro GPU.
Wird für einen Lauf eine bekannte Anzahl an GPU-Stunden erwartet, ergibt die Division durch die GPU-Anzahl die reale Laufdauer, und die Multiplikation mit dem Stundentarif ergibt die Rechnung. Dieser Rechner führt dieselbe Arithmetik aus Preis, Anzahl und Dauer aus.
Haftungsausschluss
Dies schätzt nur die GPU-Rechenkosten für einen Lauf der eingegebenen Länge. Es schließt Speicher, Datenübertragung, Netzwerk, Leerlaufzeiten vor und nach dem Lauf sowie etwaige Unterbrechungen bei Spot-Kapazität aus. Vergleiche das Ergebnis mit Reserved- oder Serverless-Preisen, bevor du dich auf einen langen Lauf festlegst.
Weitere Empfehlungen
GPU-Auslastungskosten-Rechner
Ermitteln Sie die tatsächlichen Kosten eines reservierten Beschleunigers, sobald die Leerlaufzeit mitgezählt wird. Geben Sie Stundenpreis und Auslastung ein und erhalten Sie die effektiven Kosten je nützlicher Stunde sowie das für ungenutzte Kapazität ausgegebene Geld.
Rechner für den Break-even von Eigenbetrieb gegenüber API
Ermittelt das monatliche Tokenvolumen, ab dem feste Kosten für den Eigenbetrieb (gemietete oder eigene GPU-Kapazität zuzüglich marginaler Mehrkosten) günstiger sind als die tokenbasierte API-Preisgestaltung, und zeigt die monatlichen Kosten und die Ersparnis bei deinem tatsächlichen Volumen.