トークンとは?
トークンとは、LLMが文章を処理する際の最小単位のこと。日本語ではおおむね1文字=1〜2トークン、英語では1単語=1〜2トークン程度です。APIの料金はこのトークン数に単価を掛けて計算されます。
実務での使い方
例えば日本語2,000字の文書は約2,000〜3,000トークンです。API料金は「入力トークン数×入力単価+出力トークン数×出力単価」で決まり、出力単価は入力単価の3〜5倍に設定されているのが一般的です。
コスト見積もりの実務では、①定型業務の1回あたりトークン数を概算する②月間実行回数を掛ける③モデル単価を掛ける、の順で月額を試算します。長い社内文書を毎回丸ごと入力する使い方はコストがかさむため、要約やRAGでの絞り込みが節約の定石です。
この用語に関連する無料ツール
もっと詳しく学ぶ
- 生成AI APIのコスト管理入門｜料金の仕組みとトークン削減の実務
生成AI APIの料金は「トークン数×単価」の従量課金。課金の仕組み、月額コストの見積もり手順、モデル選定・プロンプトキャッシュ・バッチ処理による削減の定石を実…