Ultimo aggiornamento: 2026-06-22

Che cos'è il costo mensile di un LLM

Il costo mensile di un carico di lavoro su un modello linguistico di grandi dimensioni è la spesa ricorrente prodotta dall'effettuare chiamate API a un volume costante nell'arco di un mese di fatturazione. Esso moltiplica il prezzo di una singola chiamata, a sua volta funzione del conteggio dei token di input e di output e delle tariffe per milione di token del modello, per il numero di richieste al giorno e per il numero di giorni del mese. La stessa cifra giornaliera si proietta in avanti fino a un totale annuale.

Come si scala un prezzo per chiamata

Il costo ricorrente si costruisce con tre moltiplicazioni. Il costo di una richiesta è il costo per chiamata dei token; moltiplicando per il numero di richieste giornaliere si ottiene la spesa giornaliera; moltiplicando questa per i giorni di fatturazione si ottiene la cifra mensile. Poiché ogni fattore è lineare, raddoppiare uno qualsiasi di essi, ossia l'uso di token, il volume di richieste o la tariffa, raddoppia la spesa proiettata.

La formula

Con una media di $n_{in}$ token di input e $n_{out}$ di output per chiamata ai prezzi per milione $p_{in}$ e $p_{out}$, il costo di una richiesta è

Per $N_d$ richieste al giorno su $D$ giorni di fatturazione, i costi giornaliero, mensile e annuale sono

La cifra annuale moltiplica il costo giornaliero direttamente per 365 anziché per dodici mesi, per cui non eredita l'approssimazione presente nel conteggio dei giorni del mese.

Esempio svolto

Si prenda un carico di lavoro di $N_d = 1000$ richieste al giorno, ciascuna con una media di 1500 token di input e 500 di output a $3 e $15 per milione. Il costo per richiesta è C_r = \0.012$. La spesa giornaliera è

Su un mese di 30 giorni risulta C_m = 12 \times 30 = \360$, e su un anno intero$C_y = 12 \times 365 = $4,380$. Si noti che dodici mesi da 30 giorni danno 360 giorni, cinque in meno di un anno, ed è per questo che la cifra annuale supera dodici volte quella mensile.

Note e varianti

Una proiezione presuppone che l'uso e il volume medi restino costanti; il traffico reale varia di giorno in giorno e di stagione in stagione. La tariffa effettiva può inoltre scendere al di sotto della cifra dichiarata: la cache dei prompt sconta il contesto ripetuto, l'elaborazione in batch abbassa la tariffa in cambio della latenza e gli accordi per impegni di consumo riducono il prezzo unitario. Il conteggio dei giorni è una scelta di modellazione: 30 è un'approssimazione tonda, mentre $365/12 \approx 30.44$ è la lunghezza media esatta del mese.

Applicazione

Il costo mensile trasforma una stima per singola chiamata in una voce di budget. La cifra per chiamata da cui parte è oggetto del Calcolatore del costo dei token, e i carichi di lavoro in cui ogni compito effettua molte chiamate in sequenza si stimano con il Calcolatore del costo di un agente. Quando il volume proiettato si avvicina al tetto di capacità di un fornitore, Calcolatore per la pianificazione dei limiti di frequenza degli LLM verifica se i limiti di frequenza possono sostenerlo.