Rechner für Agentenkosten
Eingaben
| Anzahl der Schritte | 8 |
|---|---|
| Eingabe-Token pro Schritt | 4.000 |
| Ausgabe-Token pro Schritt | 600 |
| Eingabepreis (je 1 Mio. Token) | 3 $ |
| Ausgabepreis (je 1 Mio. Token) | 15 $ |
Rechner für Agentenkosten
Schätzung der Kosten eines agentischen LLM-Durchlaufs auf Grundlage der Anzahl der Schritte, der je Schritt verbrauchten Eingabe- und Ausgabe-Token und der Preise des Modells je Million Token, wobei Eingabe und Ausgabe getrennt abgerechnet werden.
Eingaben
Agentendurchlauf
Preise
Ergebnisse
Geben Sie einen Wert ein, um die Ergebnisse zu sehen.
Details
Agentenkosten erklärt
Die Kosten eines agentischen Durchlaufs sind der zusammengefasste Preis der Folge von Aufrufen eines großen Sprachmodells (LLM), die ein Agent zur Erledigung einer Aufgabe vornimmt. Ein Agent wechselt zwischen Schlussfolgern, dem Aufruf eines Werkzeugs und der Einbeziehung des Ergebnisses, wobei jeder Modellaufruf als Schritt zählt. Da jeder Schritt nach den von ihm verbrauchten Token abgerechnet wird, sind die Durchlaufkosten die Kosten je Schritt multipliziert mit der Anzahl der Schritte – üblicherweise ein Mehrfaches der Kosten eines einzelnen direkten Aufrufs.
Warum mehrschrittige Durchläufe mehr kosten
Eine einmalige Anfrage rechnet einen Prompt und eine Vervollständigung ab. Eine Agentenschleife rechnet beides bei jedem Schritt ab, und die Eingabeseite wächst im Verlauf des Durchlaufs: Jeder Schritt sendet den angesammelten Kontext erneut – die ursprünglichen Anweisungen, das bisherige Schlussfolgern und jedes bislang erzielte Werkzeugergebnis –, damit das Modell mit der vollständigen Vorgeschichte handeln kann. Eine Aufgabe, die ein einzelner Aufruf für den Bruchteil eines Cents lösen würde, kann ein Vielfaches davon kosten, sobald derselbe Kontext über ein Dutzend Schritte hinweg bezahlt wird.
Die Formel
Bei Eingabe- und Ausgabe-Token je Schritt zu den Preisen je Million und betragen die Kosten eines Schritts
Cs=106ninpin+noutpoutund ein Durchlauf von Schritten kostet
C=CsNHierbei wird angenommen, dass jeder Schritt dieselbe Token-Anzahl verbraucht. Das hält die Rechnung einfach, ignoriert jedoch das Anwachsen des Kontexts über den Durchlauf hinweg.
Rechenbeispiel
Betrachtet wird ein Durchlauf mit N = 8 Schritten, bei dem jeder Schritt 4000 Eingabe-Token sendet und 600 Ausgabe-Token erzeugt, bepreist mit $3 und $15 je Million. Die Kosten je Schritt betragen
Cs=1064000×3+600×15=10612000+9000=$0.021sodass der Durchlauf C = 0.021 \times 8 = \0.168$ kostet. Die hohe Eingabezahl spiegelt den bei jedem Schritt erneut gesendeten Kontext wider; hier tragen die 4000 Eingabe-Token zum niedrigeren Satz noch immer mehr als die Hälfte der Kosten jedes Schritts bei, und die achtfache Wiederholung ist es, die einen Agentendurchlauf von einem einzelnen Aufruf unterscheidet.
Hinweise und Varianten
Die Annahme einheitlicher Schritte unterschätzt die tatsächlichen Kosten, wenn sich Kontext ansammelt, da spätere Schritte mehr Eingabe tragen als frühere. Für einen genauen Wert sind die Schritte einzeln aufzusummieren statt einen Durchschnitt zu multiplizieren. Prompt-Caching ist hier besonders wirksam, weil sich der stabile Teil des Kontexts – der System-Prompt und die frühe Vorgeschichte – bei jedem Schritt wiederholt und nach dem ersten Aufruf zu einem reduzierten Satz abgerechnet werden kann.
Anwendung
Agentenkosten erweitern das Modell je Aufruf auf Arbeitsabläufe mit Schleifen. Der zugrunde liegende Preis eines einzelnen Schritts ist Gegenstand des Token-Kosten-Rechner, und das Hochrechnen eines Durchlaufs auf eine tägliche oder monatliche Menge von Aufgaben behandelt der Rechner für monatliche LLM-Kosten. Da der erneut gesendete Kontext die Eingaberechnung beherrscht, beziffert Rechner für Einsparungen durch Prompt-Caching den Rabatt, den Caching zurückgewinnen kann.
Häufig gestellte Fragen (FAQ)
Was zählt als Agentenschritt?
Ein Schritt ist ein Aufruf des Modells innerhalb einer agentischen Schleife. Ein Agent wechselt typischerweise zwischen Schlussfolgern, dem Aufruf eines Werkzeugs und der Einbeziehung des Werkzeugergebnisses, wobei jeder Modellaufruf als Schritt zählt. Die Gesamtzahl der Schritte in einem Durchlauf hängt von der Aufgabe ab und davon, wie viele Werkzeugaufrufe der Agent vornimmt.
Warum werden Eingabe- und Ausgabe-Token unterschiedlich bepreist?
Das Lesen des Prompts und das Erzeugen der Antwort sind unterschiedliche Arbeitslasten. Eingabe-Token werden in einem einzigen parallelen Vorwärtsdurchlauf verarbeitet, während Ausgabe-Token einzeln nacheinander erzeugt werden und jeweils einen vollständigen Durchlauf durch das Modell erfordern. Die Generierung ist daher rechenintensiver, weshalb Anbieter Ausgabe-Token höher bepreisen – üblicherweise das Drei- bis Fünffache des Eingabesatzes.
Verbrauchen alle Schritte tatsächlich dieselbe Anzahl an Token?
Nein. Dieses Modell setzt der Einfachheit halber eine einheitliche Token-Anzahl je Schritt voraus. In der Praxis wächst die Eingabe, da sich der Kontext über die Schritte hinweg ansammelt, sodass spätere Schritte üblicherweise mehr kosten als frühere. Für eine Näherung des Durchlaufs sind die durchschnittlichen Token je Schritt zu verwenden, für einen genauen Wert die einzelnen Schritte aufzusummieren.
Haftungsausschluss
Token-Anzahlen hängen vom Tokenizer des Modells ab und davon, wie sich der Kontext über einen agentischen Durchlauf hinweg ansammelt. Veröffentlichte Preise ändern sich im Zeitverlauf und können Rabatte für Caching oder Stapelverarbeitung ausschließen. Aktuelle Sätze und typischer Tokenverbrauch sind beim Anbieter zu prüfen, bevor ein Wert zur Budgetierung herangezogen wird.