ローカルLLMとAPIはどちらが安いか|損益分岐点の計算式と試算
ローカルLLMとAPIのコスト比較は、固定費と従量課金の損益分岐点の問題です。 ローカル運用は月額固定費が先に立ち、APIは使った分だけかかるため、月間トークン量が一定を超えたところで逆転します。この記事では分岐点の計算式、数値例、そして公開されている試算値が桁違いにばらつく理由を整理します。
コスト構造は「固定費」と「従量課金」で対称ではない
| 項目 | ローカルLLM(自社運用) | API利用 |
|---|---|---|
| 初期費用 | GPU搭載機の購入・構築 | ほぼゼロ |
| 月額の性質 | 固定(使わなくても発生) | 従量(使った分だけ) |
| 主なコスト | ハード償却・電力・運用工数 | 入力/出力トークンの単価 |
| モデル更新 | 自分で入れ替える | 提供側の更新が反映される |
| 遊休時のコスト | 発生し続ける | ゼロ |
損益分岐点の計算式
APIの単価は入力と出力で異なるため、自社の入出力比で加重平均を取ります。入力:出力=4:1の場合、加重単価=(4×入力単価+1×出力単価)÷5です。
以下は試算の前提です。自社の数字に置き換えて計算してください。
ローカル側(前提)
| 費目 | 前提 | 月額 |
|---|---|---|
| ハード償却 | 150万円 ÷ 36か月 | 41,700円 |
| 電力 | 500W × 24h × 30日 × 30円/kWh | 10,800円 |
| 運用工数 | 月4時間 × 5,000円/時 | 20,000円 |
| 合計 | — | 約72,500円 |
API側(前提)
2026年7月時点のClaude APIの公開単価を例に、1ドル150円で換算します。
| モデル階層 | 入力/出力(100万トークンあたり) | 加重単価(4:1) |
|---|---|---|
| 上位(Opus 5) | $5 / $25 | 約1,350円 |
| 中位(Sonnet 5) | $3 / $15 | 約810円 |
| 軽量(Haiku 4.5) | $1 / $5 | 約270円 |
分岐点
| 比較対象 | 計算 | 分岐点(月間トークン) |
|---|---|---|
| 上位モデル | 72,500 ÷ 1,350 | 約5,400万 |
| 中位モデル | 72,500 ÷ 810 | 約9,000万 |
| 軽量モデル | 72,500 ÷ 270 | 約2億7,000万 |
月間トークン量を人数で見積もらない
分岐点の数字だけ見ても判断できません。自社が月に何トークン使うかを積み上げる必要があります。用途によって1人あたりの消費量が2桁変わるためです。
| 用途 | 1リクエストの目安 | 月間トークン量の例 |
|---|---|---|
| 社内チャット(相談・文章作成) | 3,000トークン | 1人あたり月100万〜150万 |
| 議事録・メールの要約 | 1万〜3万トークン | 1業務あたり月500万〜1,000万 |
| 社内文書を参照するRAG構成 | 3万〜10万トークン | 1業務あたり月3,000万〜1億 |
社内チャット中心なら、中位モデルとの分岐点9,000万トークンに届くのは概ね数十人〜100人規模を超えてからです。一方、社内文書を大量に参照させる構成なら、数業務の展開で分岐点に到達します。参照文書を毎回送る設計ではコンテキストウィンドウいっぱいまで入力が膨らむため、入力側のトークンが支配的になる点にも注意してください。詳しい内訳の抑え方はAI利用コストの管理で解説しています。
公開されている損益分岐点が桁違いにばらつく理由
ローカルLLMのコスト試算は、記事によって「月300万トークンで逆転」から「月100億トークン規模」まで3桁の開きがあります。どれかが間違っているというより、前提が違うだけです。比較するときは次の4点を揃えてください。
- ハード費を含めているか — 電力だけを数えると月1万円程度に見えます。償却費を入れると4倍以上になります
- 運用工数を含めているか — モデル更新・障害対応・チューニングの人件費は、多くの試算で省かれています
- GPUの稼働率をどう置いているか — 常時フル稼働前提の試算は、実運用(業務時間内の断続利用)より大幅に安く出ます
- どのAPIモデルと比べているか — 上位モデルと比べれば分岐点は早く、軽量モデルと比べれば5倍遠くなります
自社で判断するときは、他社の分岐点をそのまま持ってこず、上の計算式に自社の前提を入れ直すのが確実です。
コストが拮抗したときの判断軸
分岐点付近では、コスト以外の要件で決めることになります。
- データの持ち出し可否 — 外部送信が許容されない情報を扱うならローカルLLMに固有の価値があります。ただし社内ルール上「APIは全面禁止」としている場合は、その前提自体が実態と合っているか(AI利用ガイドラインの作り方)を先に確認してください
- 出力の再現性が要るか — 生成のばらつきを制御するTemperatureなどのパラメータは、自社運用のほうが細かく固定できます
- 自社データに合わせ込むか — ファインチューニングで専門用語や文体を学習させる構成は自社運用と相性がよい一方、情報の鮮度が問題なら学習ではなくRAGで解く方が安く済みます
- 外部システムと繋ぐか — MCPのような接続仕様への対応は提供側の更新に追随する必要があり、自社運用では負担が継続します
- モデルの新旧が成果に直結するか — 直結する用途では、更新が自動で反映されるAPIの方が実質性能を保ちやすくなります
よくある失敗
- PoCの利用量で本番の分岐点を判断する — 検証期間は利用量が小さく、ほぼ必ずAPIが安く出ます。分岐点は本番の想定量で計算します
- 電力だけを比べて「ほぼ無料」と結論する — 月額の過半はハード償却と運用工数です。ここを外すと2桁ずれます
- プロンプトの肥大を放置したまま比較する — 参照文書や会話履歴を毎回全量送る設計は、モデル選定より先に見直すべきコスト要因です(プロンプトの書き方)
- 性能差を無視して単価だけで比べる — 同じトークン単価で比較しても、必要な品質が出なければ再実行分のコストが上乗せされます
クラウドと買い切りの選択という同じ構造の判断はクラウドとオンプレミスのTCO比較でも扱っています。自社の数字で試すなら、まず生成AI API料金計算ツールでAPI側の月額を出し、上の計算式でローカル側の月額と突き合わせてください。
よくある質問
ローカルLLMは本当にAPIより安いのですか?
利用量が十分に大きい場合だけです。ローカル運用は月額固定費(ハード償却・電力・運用工数)が先に発生し、APIは使った分だけの従量課金なので、両者はどこかで交差します。本文の前提(月額7.3万円のローカル環境)では、中位モデルのAPIと比べた分岐点は月9,000万トークン前後。社内チャット用途なら数十人〜100人規模を超えて初めて逆転する計算です。
トークン消費量はどう見積もればいいですか?
用途で桁が変わります。社内チャット中心なら1人あたり月100万〜150万トークンが目安ですが、社内文書を参照させるRAG構成では1リクエストの入力だけで数万トークンに達し、1業務で月3,000万トークンを超えることもあります。人数ではなく「1リクエストの平均トークン数×月間リクエスト数」で積み上げてください。
コストが同じならどちらを選ぶべきですか?
コストが拮抗する水準なら、判断軸はデータの持ち出し可否と運用体制です。外部送信が許容されない機密データを扱う、通信断でも止められない、といった要件があるなら自社運用に価値があります。逆にモデルの新旧が成果に直結する用途では、更新が自動で反映されるAPIのほうが実質的な性能は高く保てます。