Ultimo aggiornamento: 2026-06-22

Che cos'è il punto di pareggio tra self-hosting e API

Il punto di pareggio tra self-hosting e API è il volume mensile di token al quale il costo fisso di ospitare un modello linguistico su capacità GPU noleggiata o di proprietà eguaglia il costo variabile di chiamare un'API ospitata che addebita per token. Il self-hosting sostituisce un ampio costo fisso mensile e un basso costo marginale per token al prezzo puramente per token dell'API. Al di sotto del volume di pareggio l'API è più conveniente perché il costo fisso è sottoutilizzato; al di sopra, il costo fisso si ammortizza su un numero di token sufficiente a far prevalere il self-hosting.

La formula

Siano $F$ il costo fisso mensile della GPU, $p_a$ il prezzo API per milione di token e $p_v$ il costo variabile del self-hosting per milione di token. Le due opzioni costano uguale quando il costo fisso eguaglia il risparmio per token sul volume elaborato. Risolvendo per il volume di token di pareggio $T_b$:

Un punto di pareggio esiste solo quando $p_a > p_v$; se il prezzo per token dell'API non supera il costo marginale del self-hosting, il self-hosting non lo sorpassa mai. A un volume mensile effettivo $T$, i due costi mensili sono

e il risparmio del self-hosting è $S = C_a - C_s$, positivo al di sopra del pareggio e negativo al di sotto.

Esempio svolto

Si prenda un costo fisso GPU di F = \1,500$al mese, un prezzo API di$p_a = $10$per milione di token e un costo variabile del self-hosting trascurabile$p_v = $0$ su capacità già predisposta. Il volume di pareggio è

Al di sotto di 150 milioni di token l'API è più conveniente; al di sopra lo è il self-hosting. A un volume effettivo di T = 500 milioni di token, l'API costa C_a = 500 \times \10 = $5,000$mentre il self-hosting costa il fisso$C_s = $1,500$, un risparmio di$S = $3,500$ al mese. Il divario si amplia con la crescita del volume, perché il costo dell'API si scala in modo lineare mentre il costo del self-hosting resta fisso una volta predisposta la capacità.

Varianti e avvertenze

Il prezzo API unico è una combinazione delle tariffe di input e output ponderate per la loro quota di traffico; il costo variabile del self-hosting cattura elettricità e banda, che il calcolatore del Calcolatore del costo energetico dell'inferenza può quantificare. Il modello presuppone che la capacità predisposta sia sufficiente per il volume. Se l'utilizzo è basso, ossia GPU inattive in attesa di traffico sporadico, il costo fisso effettivo per token aumenta e il pareggio si sposta più in alto; se una singola istanza non riesce a servire il carico di punta, istanze aggiuntive fanno sì che parte del costo "fisso" si comporti come variabile. Il self-hosting aggiunge inoltre la responsabilità di scalabilità, disponibilità, aggiornamenti del modello e sicurezza che un'API gestita assorbe.

Applicazione

Il volume di pareggio è la soglia di costo per una decisione infrastrutturale. Confrontarlo con l'uso mensile proiettato, che Calcolatore del costo mensile di un LLM aiuta a stimare, indica quale opzione sia più conveniente oggi e quanto margine esista prima che la risposta si inverta. Poiché i prezzi API pubblicati e le tariffe GPU cambiano nel tempo, e il modello omette l'allestimento iniziale e il tempo di inattività, la cifra è una base da convalidare rispetto ai preventivi correnti e all'utilizzo misurato.