LLM のチャットUI と API で挙動が違う？プロバイダー横断で原因と対策を整理

Claude・OpenAI・Gemini 3社のプロンプトキャッシュは設計思想が異なります。Claude は開発者が明示的に cache_control breakpoint を配置する手動制御型、OpenAI は設定不要の全自動型、Gemini は明示的・暗黙的キャッシュの二層構造。コスト・プレフィックスマッチング・TTL・ストレージ課金で大きく異なるため、用途に応じた使い分けが重要です。

OpenAI の reasoning_effort、Claude の budget_tokens、Gemini の thinkingLevel という3社の推論量制御パラメータを比較。OpenAI はレベル指定でシンプル、Claude はトークン数指定で精密制御、Gemini はレベル指定で思考OFF可能という異なる設計思想を持ち、コスト管理の粒度や適用ユースケースが異なる。

sqlite-utils 開発者 Simon Willison 氏が Claude Fable 5 を使った最終レビューの実費 $149.25 を公開。内訳を分析すると、94.5% が 37 回の対話型レビュー 1 セッションに集中し、5 つの検査エージェント合計 $8.23（5.5%）に比べて圧倒的に高コスト。1 か月前のデータでも同じ構造が確認でき、トークン消費量の多さが課金を左右する実例を示す。

Vercel AI SDKとClaudeを使い、サッカー試合ログ（スタメン・交代・出場時間）を指導者向けのフィードバック文に変換する実装を解説。streamTextでリアルタイムストリーミング生成し、DBに保存してクライアント側で逐次表示。BYOK方式でユーザー自身のAPIキーを使用する設計も含む。