ClaudeやChatGPTのAPI料金が想定より高い原因——キャッシュとコンテキスト長の仕組み

API料金が想定より高い原因は、ほぼ入力トークンの積み上がり

LLM APIの料金は「トークン数×単価」で、入力と出力で単価が違います。掲載中のモデルでは出力単価が入力単価の5〜8倍なので、単価表だけを見ると出力側が高く感じます。ところが実際の請求では、入力側のほうが大きくなることがよくあります。

理由は単純で、入力は「毎回・全部」送り直されるからです。チャットの会話履歴は往復のたびに長くなり、RAGは検索でヒットした文書を丸ごと詰め込みます。システムプロンプトや業務ルールの説明文も、リクエストのたびに先頭に付きます。1回あたりでは気にならない量でも、月に数千回まわると入力トークンが支配的になります。

当サイトの計算機に入っている「RAG検索応答」の想定(月5,000回・入力6,000文字・出力500文字・日本語)で計算すると、Claude Sonnet 5では請求の約71%が入力側になります(キャッシュなしの場合)。出力単価のほうが高いのに、金額としては入力が主役ということです。

日本語はさらに不利に働きます。当サイトの計算機は日本語を1文字あたり約1トークン、英語を1文字あたり約0.25トークンとして概算しています。英語の事例やベンチマークを基準に見積もると、同じ文章量でも実際のトークン数が数倍になり、請求が見積もりを超えます。なお、この係数はあくまで概算です(料金データ側の注記:「文字数からの概算係数。トークナイザにより実際は0.7〜1.5倍程度の幅がある。正確な値は各社のトークンカウントAPIで確認のこと。」)。

キャッシュ料金の仕組み——読み取りは入力単価の約10分の1

プロンプトキャッシュは、リクエストの前半にある共通部分(システムプロンプト、業務ルール、参照文書など)をサーバー側に保持し、2回目以降はその部分を安い単価で課金する仕組みです。掲載中の14モデルでは、キャッシュ読み取り単価は通常の入力単価の10分の1です。

ここで見落としやすいのが、読み取りが安くなる代わりに書き込みには追加の料金がかかる点です。Anthropicは書き込みに1.25倍(5分TTL)または2倍(1時間TTL)、Googleはキャッシュの保持時間に対してストレージ料金がかかります。キャッシュの内容が毎回変わる設計だと、書き込みばかり発生して逆効果になります。

キャッシュヒット率を上げると月額はいくら変わるか

RAG検索応答の想定で、キャッシュヒット率0%と90%の月額を比べます。数字は当サイトが追跡している各社の公式単価と為替レート(158.02円/ドル・2026-08-04時点)から計算しているので、料金改定があれば自動で入れ替わります。

Claude Sonnet 5では月額が約57%下がります。モデルを1段安いものに置き換える判断より先に、いまのモデルのまま構成を変えるだけで届く範囲があるということです。

キャッシュが効かない・効きにくいケース

都合のいい話だけ書くのは不誠実なので、効かない条件を先に挙げます。

• 前置きが共通していない構成。キャッシュはリクエストの先頭から一致している部分にしか効きません。ユーザーの入力を先頭に置く実装では、後ろにどれだけ共通の文書があってもヒットしません
• 共通部分が短い場合。キャッシュの対象になる最小トークン数はモデルごとに決まっており、短いシステムプロンプトだけでは対象外になることがあります。条件は提供元の公式ドキュメントで確認してください
• 呼び出しの間隔が空く場合。キャッシュには保持時間があり、Anthropicの料金表には5分と1時間の2種類が載っています。1日に数回しか叩かないバッチでは、毎回書き込みからやり直しになります
• 出力が支配的な用途。記事生成やコード生成のように出力が長い場合、入力側をいくら削っても効きません。出力単価は入力単価の5〜8倍なので、この場合はモデル選択と出力上限の設定のほうが効きます

キャッシュより先にコンテキスト長を削るべき場合

キャッシュは「送る量はそのままで単価を下げる」手段です。これに対してコンテキスト長を削るのは「送る量そのものを減らす」手段で、こちらが先に効く場面があります。

1. まず請求の内訳を入力と出力に分ける：

   どちらが支配的かで打ち手が変わります。入力側が支配的ならキャッシュとコンテキスト長、出力側が支配的ならモデル選択と出力上限です。ここを見ずに対策を選ぶと外します
2. 会話履歴の持ち方を見る：

   全履歴を毎回送っていないかを確認します。直近N往復だけを渡す、要約して圧縮するといった変更は、キャッシュを入れるより実装が軽く済むことがあります
3. RAGで渡すチャンク数を見直す：

   上位10件を渡していたものを3件に減らしても回答品質が落ちないなら、入力トークンはそのまま3割になります。単価を10分の1にするより、量を3分の1にするほうが手っ取り早いケースです
4. そのうえでキャッシュを設計する：

   共通の前置きを先頭にまとめ、変わる部分を後ろに置く構成に直します。この順番で並べ替えて初めてキャッシュが効きます

参考までに、当サイトの計算機のRAG検索応答プリセットは初期値としてヒット率50%を置いています。この状態での月額はClaude Sonnet 5で13,748円/月です。0%と90%の中間にあたる、現実的によくある水準として置いた値です。

まとめ

1. 出力単価は入力単価の5〜8倍だが、入力は毎回全部送り直されるため、請求では入力側が支配的になりやすい
2. プロンプトキャッシュの読み取り単価は通常の入力単価の10分の1。ただし書き込みには追加料金(Anthropicは1.25〜2倍、Googleはストレージ料金)がかかる
3. RAG検索応答の想定では、ヒット率0%→90%でClaude Sonnet 5の月額が約57%下がる
4. 共通の前置きが先頭にない構成、呼び出し間隔が空くバッチ、出力が支配的な用途ではキャッシュは効かない
5. 打ち手を選ぶ前に、請求を入力と出力に分けて内訳を見る。順序を間違えると効かない対策に工数を使う