AI & LLM
Calculators for LLM cost, inference, training, and model infrastructure.
Cost & Pricing
26Calcolatore da token a paroleCalcolatore dei token per unità di spesaCalcolatore del costo degli embeddingCalcolatore del costo dei tokenCalcolatore del costo della sintesi vocaleCalcolatore del costo delle GPU cloudCalcolatore del costo di fine-tuningCalcolatore del costo di generazione delle immaginiCalcolatore del costo di trascrizione audioCalcolatore del costo di un agenteCalcolatore del costo di un database vettorialeCalcolatore del costo di utilizzo della GPUCalcolatore del costo energetico dell'inferenzaCalcolatore del costo mensile di un LLMCalcolatore del punto di pareggio tra self-hosting e APICalcolatore del risparmio con la cache dei promptCalcolatore del risparmio con le API batchCalcolatore dell'ammortamento del prompt di sistemaCalcolatore dell'impronta di carbonio dell'addestramentoCalcolatore dell'overhead dell'output strutturatoCalcolatore dell'overhead di token della chiamata di funzioniCalcolatore della crescita del costo del contestoCalcolatore della dimensione di un database vettorialeCalcolatore di adattabilità alla finestra di contestoCalcolatore di tempo e costo di addestramentoCalcolatore per la pianificazione dei limiti di frequenza degli LLM
Inference & Serving
8Calcolatore dei FLOPs per tokenCalcolatore dei token al secondo effettiviCalcolatore dei token delle immagini multimodaliCalcolatore del throughput di inferenzaCalcolatore del throughput di inferenza in batchCalcolatore dell'utilizzo dei FLOPs del modelloCalcolatore della latenza di inferenzaCalcolatore dello speedup del decoding speculativo
Training & Scaling
12Calcolatore dei FLOP di addestramentoCalcolatore dei parametri LoRACalcolatore dei token ottimali secondo ChinchillaCalcolatore del numero di token di un datasetCalcolatore del warmup del learning rateCalcolatore della bolla del parallelismo a pipelineCalcolatore della dimensione effettiva del batchCalcolatore della dimensione ottimale del modello rispetto al calcoloCalcolatore della memoria con accumulo del gradienteCalcolatore della scalabilità data-parallelCalcolatore della VRAM di addestramento per LLMCalcolatore delle epoche dal budget di calcolo
Hardware & Memory
8Calcolatore dei parametri attivi MoECalcolatore del numero di GPU per un modelloCalcolatore del numero di parametri di un transformerCalcolatore del tempo di download di un modelloCalcolatore della dimensione del modello dalla quantizzazioneCalcolatore della dimensione della cache KVCalcolatore della memoria dell'attenzioneCalcolatore della VRAM di inferenza per LLM