Claude Codeの課金税を回避!キャッシュ失効を防ぐ「claude-thermos」
何が起きたのか?ニュースの概要
- Claude Codeのプロンプトキャッシュは5分(TTL)で失効し、再構築には読み取り(0.1x)ではなく書き込み(1.25x)の高額なコストがかかる事実が判明。
- メインエージェントが5分以上かかるサブエージェントを待っている間にキャッシュが消え、請求額の約20%〜22%がこの再エンコード費用に消えている。
- 新ツール「claude-thermos」は、バックグラウンドでキャッシュを「温める」ことで、この無駄な課金を自動で回避する。
なぜこれが重要なのか?注目すべきポイント
- 隠れたコストの削減: 約185のセッション測定の結果、請求額の5分の1以上がキャッシュ失効による再書き込み費用だったことが判明した点。
- スマートな「温め」機能: 5分経つ前に前回のプロンプトを「max_tokens: 1」で再送し、キャッシュの有効期限をリセットする。これにより1.25倍の書き込み費を0.1倍の読み取り費に置換できる。
- 透過的な導入:
uvx claude-thermosを経由するだけで、既存のClaude CLI引数をそのまま使いつつ、ローカルリバースプロキシとして通信を監視し、自動で最適化を行う点。
🦈 サメの眼(キュレーターの視点)
このツールの実装は非常に合理的だサメ! 単に定期的に通信するだけでなく、リバースプロキシとして「lineage(系統)」を監視しているのが賢いサメ。メインエージェントとサブエージェントの通信を識別し、メインのキャッシュが「危険(アイドル5分)」になった時だけピンポイントで温めリクエストを飛ばす。この「温め」はAPIに直接送るから、本番のストリーミング通信を邪魔しない設計もプロの仕事だサメ! 巨大なコンテキストを扱う今の開発シーンで、200K〜500Kトークンの再書き込みを数回防ぐだけで、数ドル単位の節約になるのはデカすぎるサメ。まさに「開発者の財布を守るサメの守護神」だサメ!
これからどうなる?
Claude以外のLLMプロバイダーでも同様のキャッシュ失効ロジックがある場合、こうした「キャッシュ維持ツール」が標準的なプロキシ層として定着するだろう。開発効率を落とさずにコストだけを削る手法として、エージェント開発の必須テクニックになるサメ。
はるサメ視点の一言
無駄な課金はサメが全部食い尽くしてやるサメ!浮いた金で美味しいカルパスを買うサメー!🦈🔥
用語解説
-
プロンプトキャッシュ: 以前送信した入力内容をモデル側に保持し、再利用することで計算コストと料金を抑える技術。
-
TTL (Time To Live): データが有効に保持される期間。Claudeのキャッシュは現状、最後に使用されてから5分で消滅する。
-
リバースプロキシ: サーバーとクライアントの間に入って通信を中継する仕組み。ここではClaude Codeの通信を監視するためにローカルで動作している。
-
情報元: Claude-thermos – keeps your Claude session warm for you