ホーム AI・LLM トークンから単語数への変換 作成日: 2026年7月20日 21:33 トークンから単語数への変換 入力 トークン1,0001単語あたりトークン数1.331トークンあたり文字数4 AI・LLM トークンから単語数への変換 トークナイザーの比率を用いて、トークン数をおおよその単語数と文字数に変換します。英語のテキストは平均して1単語あたり約1.33トークン、1トークンあたり約4文字です。 入力 トークン トークン 変換するトークン数です。トークンはモデルのトークナイザーが生成するテキストの断片で、数文字程度の語の一部であることが多くあります。 トークナイザーの比率 1単語あたりトークン数 ≥ 0.1 1単語あたりの平均トークン数です。英語の文章は平均して1単語あたり約1.33トークンで、コードや英語以外の文字ではこれより高くなる傾向があります。 1トークンあたり文字数 ≥ 0.1 1トークンあたりの平均文字数です。英語のテキストは平均して1トークンあたり約4文字ですが、トークナイザーや内容によって変動します。 結果 値を入力すると計算結果が表示されます。 単語数 おおよその単語数で、1,000を1単語あたり1.33トークンで割って求めます。 詳細 文字数 おおよその文字数で、1,000に1トークンあたり4文字を掛けて求めます。 共有 レポートを印刷 リセット 埋め込み この計算機を埋め込む プレビュー このコードをページに貼り付けると計算機を表示できます。 コードをコピー この計算を共有 このリンクを開くと、入力した値がそのまま表示されます。 リンクをコピー 共有する XFacebookLINE メール 最終更新: 2026-06-22 トークンとは トークンとは、言語モデルが読み書きするテキストの単位です。トークナイザーは生のテキストを固定の語彙の要素へと分割し、各要素は通常、短い断片(一般的な単語の全体、語幹、接尾辞、記号、まれな単語の数文字など)です。モデルは利用量を単語や文字ではなくトークンで課金し制限するため、トークンとより身近な単語数・文字数との間で換算するには、トークナイザーが生み出す平均的な比率が必要です。 換算比率 英語の文章については、2つの経験的な平均値がよく用いられます。単語とトークンの対応はおよそ1単語あたり 1.33 トークン、言い換えると1トークンあたり約 0.75 単語です。文字との対応はおよそ1トークンあたり 4 文字です。トークン数を n、1単語あたりトークン数の比率をrw、1トークンあたり文字数の比率をrcn、1単語あたりトークン数の比率を r_w、1トークンあたり文字数の比率を r_c とすると次のとおりです。 w=nrw,c=n⋅rcw = \frac{n}{r_w}, \qquad c = n \cdot r_cw=rwn,c=n⋅rc 単語数を比率で割るのは、1単語あたりのトークンが多いほど同じトークン予算で得られる単語が少なくなるためです。文字数を掛けるのは、各トークンがおおむね一定の文字数を担うためです。 計算例 通常の英語テキストの n = 1000 トークンを、既定の比率 rw=1.33r_w = 1.33、rc=4r_c = 4 で換算すると次のとおりです。 w=10001.33≈752 words,c=1000⋅4=4000 charactersw = \frac{1000}{1.33} \approx 752 \text{ words}, \qquad c = 1000 \cdot 4 = 4000 \text{ characters}w=1.331000≈752 words,c=1000⋅4=4000 characters すなわち1000トークンの文章は約752単語、4000文字で、数段落の文章、ダブルスペースで1ページ半程度にあたります。これらの数値は概算です。特定の文章の実際の分割は平均から外れ、単語数は最も近い整数に丸められます。 変動要因 比率は普遍的な定数ではありません。次の3つの要因によって変わります。 言語。 トークナイザーが効率的に表現できない文字(多くの非ラテン文字や、形態が豊かな言語)は、1単語あたりのトークンが多くなり、1トークンあたりの単語数を下げます。 内容の種類。 ソースコード、表、数式、数字やまれな記号が多いテキストは、流れるような文章よりも多くのトークンに分割され、rwr_w を上げ rcr_c を下げます。 トークナイザー。 モデルの系統ごとに独自の語彙を用いるため、同じテキストでもモデルによってトークン数が異なります。ここでの比率は英語の平均値であり、正確な数値には対象モデルのトークナイザーにテキストを通す必要があります。 活用 トークンと単語の換算は、主に成果物とそれが消費するトークン予算との間を結ぶために用いられます。単語数での目標長を概算のトークン数に換算すれば、コンテキスト長の判定 でモデルの制限と照合したり、トークンコスト計算 で支出を見積もったりできます。比率は平均値であるため、結果は正確な測定ではなく計画の概算として扱い、数値が厳格な制限に近い場合は余地を確保してください。 よくある質問 (FAQ)1単語は何トークンに相当しますか英語の文章は平均しておよそ1単語あたり1.33トークン、言い換えると1トークンあたり約0.75単語です。正確な比率は語彙、記号、トークナイザーによって異なります。技術的な文章、コード、英語以外の文字では、1単語あたりのトークン数が多くなることがよくあります。 1トークンは何文字に相当しますか1トークンは平均して英語の約4文字に対応します。一般的な単語は1トークンになることがある一方、まれな単語、数字、記号は複数のトークンに分割され、1トークンあたりの文字数を下げます。 この変換が近似にとどまるのはなぜですかトークン化は、テキストを固定の語彙に対応付けるモデル固有のアルゴリズムで行われます。モデルごとに語彙が異なるため、同じテキストでもトークン数は変わります。ここでの比率は平均値であり、正確な数値を得るには対象モデルのトークナイザーにテキストを通す必要があります。 免責事項 トークン化はモデルのトークナイザーに依存し、言語や内容によって変動します。単語数と文字数は平均的な比率からの近似であり、正確な数値ではありません。正確な値はプロバイダーのトークナイザーで確認してください。 次のおすすめ トークンコスト計算 入力トークン数と出力トークン数、モデルの100万トークンあたり単価から、大規模言語モデル(LLM)への単一API呼び出しにかかるコストを算出します。入力と出力は別々に課金されます。 詳しく解説コンテキスト長の判定 プロンプトと確保した出力トークンが、モデルのコンテキストウィンドウに収まるかを確認します。コンテキストウィンドウは、1回の呼び出しの入力と出力の合計を上限として定めます。 詳しく解説 200+ ツール · 10 言語対応 · 完全無料 コスト・料金の他の計算 1ドルあたりトークン数の計算GPU クラウド費用を計算GPU利用率コストの計算LLMファインチューニング費用の計算LLMレート制限の計画トークンから単語数への変換 +20 more Show less LLM学習のカーボンフットプリントの計算LLM学習時間とコストの計算LLM月額コストの計算エージェントコストの計算コンテキストコストの増加の計算コンテキスト長の判定システムプロンプトの償却コストトークンコスト計算バッチAPIの節約額の計算プロンプトキャッシュの節約額の計算ベクトルDBコストの計算ベクトルDBサイズの計算音声合成コストの計算音声文字起こしコストの計算画像生成コストの計算関数呼び出しのトークンオーバーヘッド構造化出力のトークンオーバーヘッド自己ホストとAPIの損益分岐の計算推論エネルギーコストの計算埋め込みコストの計算 AI・LLMの他のカテゴリ 推論・サービング トークンあたりFLOPsの計算バッチ推論スループットの計算モデルFLOPs利用率の計算画像入力トークン数の計算実効トークン毎秒の計算推論スループットの計算推論レイテンシの計算投機的デコーディングの高速化の計算学習・スケーリング Chinchilla最適トークン数LLMトレーニングVRAMの計算LoRA の学習パラメータ数を計算データセットのトークン数の計算データ並列スケーリングの計算パイプライン並列のバブルの計算学習FLOPsの計算学習率ウォームアップの計算計算最適なモデルサイズ計算予算から求めるエポック数勾配累積のメモリ計算実効バッチサイズの計算ハードウェア・メモリ KVキャッシュサイズの計算LLM推論のVRAM計算MoE のアクティブパラメータ数を計算Transformerのパラメータ数の計算アテンションメモリの計算モデルに必要なGPU台数の計算モデルのダウンロード時間の計算量子化によるモデルサイズの計算RAG・埋め込み RAGチャンク分割の設計評価 A/Bテスト有意性の計算LLM評価のサンプルサイズの計算pass@k の計算パープレキシティの計算すべてのツール コサイン類似度の計算 この計算機は役に立ちましたか? 役に立った 改善が必要 改善が必要 どのような点が改善されると良いですか? フィードバックを送信 Powered by OneCalc ↗
最終更新: 2026-06-22 トークンとは トークンとは、言語モデルが読み書きするテキストの単位です。トークナイザーは生のテキストを固定の語彙の要素へと分割し、各要素は通常、短い断片(一般的な単語の全体、語幹、接尾辞、記号、まれな単語の数文字など)です。モデルは利用量を単語や文字ではなくトークンで課金し制限するため、トークンとより身近な単語数・文字数との間で換算するには、トークナイザーが生み出す平均的な比率が必要です。 換算比率 英語の文章については、2つの経験的な平均値がよく用いられます。単語とトークンの対応はおよそ1単語あたり 1.33 トークン、言い換えると1トークンあたり約 0.75 単語です。文字との対応はおよそ1トークンあたり 4 文字です。トークン数を n、1単語あたりトークン数の比率をrw、1トークンあたり文字数の比率をrcn、1単語あたりトークン数の比率を r_w、1トークンあたり文字数の比率を r_c とすると次のとおりです。 w=nrw,c=n⋅rcw = \frac{n}{r_w}, \qquad c = n \cdot r_cw=rwn,c=n⋅rc 単語数を比率で割るのは、1単語あたりのトークンが多いほど同じトークン予算で得られる単語が少なくなるためです。文字数を掛けるのは、各トークンがおおむね一定の文字数を担うためです。 計算例 通常の英語テキストの n = 1000 トークンを、既定の比率 rw=1.33r_w = 1.33、rc=4r_c = 4 で換算すると次のとおりです。 w=10001.33≈752 words,c=1000⋅4=4000 charactersw = \frac{1000}{1.33} \approx 752 \text{ words}, \qquad c = 1000 \cdot 4 = 4000 \text{ characters}w=1.331000≈752 words,c=1000⋅4=4000 characters すなわち1000トークンの文章は約752単語、4000文字で、数段落の文章、ダブルスペースで1ページ半程度にあたります。これらの数値は概算です。特定の文章の実際の分割は平均から外れ、単語数は最も近い整数に丸められます。 変動要因 比率は普遍的な定数ではありません。次の3つの要因によって変わります。 言語。 トークナイザーが効率的に表現できない文字(多くの非ラテン文字や、形態が豊かな言語)は、1単語あたりのトークンが多くなり、1トークンあたりの単語数を下げます。 内容の種類。 ソースコード、表、数式、数字やまれな記号が多いテキストは、流れるような文章よりも多くのトークンに分割され、rwr_w を上げ rcr_c を下げます。 トークナイザー。 モデルの系統ごとに独自の語彙を用いるため、同じテキストでもモデルによってトークン数が異なります。ここでの比率は英語の平均値であり、正確な数値には対象モデルのトークナイザーにテキストを通す必要があります。 活用 トークンと単語の換算は、主に成果物とそれが消費するトークン予算との間を結ぶために用いられます。単語数での目標長を概算のトークン数に換算すれば、コンテキスト長の判定 でモデルの制限と照合したり、トークンコスト計算 で支出を見積もったりできます。比率は平均値であるため、結果は正確な測定ではなく計画の概算として扱い、数値が厳格な制限に近い場合は余地を確保してください。 よくある質問 (FAQ)1単語は何トークンに相当しますか英語の文章は平均しておよそ1単語あたり1.33トークン、言い換えると1トークンあたり約0.75単語です。正確な比率は語彙、記号、トークナイザーによって異なります。技術的な文章、コード、英語以外の文字では、1単語あたりのトークン数が多くなることがよくあります。 1トークンは何文字に相当しますか1トークンは平均して英語の約4文字に対応します。一般的な単語は1トークンになることがある一方、まれな単語、数字、記号は複数のトークンに分割され、1トークンあたりの文字数を下げます。 この変換が近似にとどまるのはなぜですかトークン化は、テキストを固定の語彙に対応付けるモデル固有のアルゴリズムで行われます。モデルごとに語彙が異なるため、同じテキストでもトークン数は変わります。ここでの比率は平均値であり、正確な数値を得るには対象モデルのトークナイザーにテキストを通す必要があります。 免責事項 トークン化はモデルのトークナイザーに依存し、言語や内容によって変動します。単語数と文字数は平均的な比率からの近似であり、正確な数値ではありません。正確な値はプロバイダーのトークナイザーで確認してください。