AI & LLM

Calculators for LLM cost, inference, training, and model infrastructure.

Inference & Serving

8

多模態影像詞元計算器有效每秒標記數計算器批次推論吞吐量計算器每標記 FLOP 計算機推測解碼加速計算機推論吞吐量計算器推論延遲計算器模型 FLOP 使用率計算機

Training & Scaling

12

有效批次大小計算訓練 FLOPs 計算梯度累積記憶體計算機資料平行擴展計算資料集詞元數計算算力最佳模型大小計算算力預算可訓練輪數計算管線平行氣泡計算學習率暖身計算 Chinchilla 最佳詞元數計算 LLM 訓練 VRAM 計算機 LoRA 參數計算機

Hardware & Memory

8

注意力記憶體計算機專家混合活躍參數計算機量化模型大小計算器模型下載時間計算器 GPU 數量需求計算機 KV 快取大小計算機 LLM 推論 VRAM 計算器 Transformer 參數量計算機

RAG & Embeddings

1

RAG 分塊計算器

Evaluation

4

困惑度計算器 A/B 測試顯著性計算器 LLM 評估樣本數計算器 pass@k 計算器

所有工具

1

餘弦相似度計算器

探索其他分類

電腦科學換算工具化學健康商業日常生活數學運動與健身飲食烹飪建築與 DIY 金融環保節能物理