ローカルLLMはクラウドAIに勝てるのか――2026年の性能比較と実務での使い分け

Claude API の Messages API にオンデマンドで会話履歴を圧縮できる compaction 機能がベータ追加されました。ベータヘッダー compact-2026-09-04 と compaction パラメータを使うことで、長時間対話やエージェントループでのコンテキスト肥大化を API 側で自動要約できるようになり、開発者が独自に実装していた圧縮ロジックが不要になります。直近ターンは verbatim で保持可能なため、古い文脈だけを効率的に圧縮する運用が実現できます。

GPT-5.6系・Claude Opus/Sonnet/Haiku・Gemini Flash・Llama/Mistral等のOSS系について、公開情報から比較可能なコスト・コンテキスト長・ライセンスの実務軸で整理。アーキテクチャ仕様の非公開噂に振り回されず、段階的なモデルルーティング設計を前提にした選定指針を提示。

ChatGPT・Claude・Gemini の 3 社は「答える前にどれだけ考えるか」を選べる reasoning effort 設定を持つが、ChatGPT はスライダー統一、Claude は 3 つの独立レイヤー、Gemini は 2 階建て構造と実装が異なる。一部モデル・Effort 段階では Thinking を完全にオフにできない仕様制約がある。モデルに現在の設定を聞いても返ってくるのは「分かりません」という正直な回答で、これは設定値がランタイムパラメータであり学習データに手がかりがないため。

ユーザーが 166 MB のセッションログ 389 ファイルを走査した結果、thinking ブロック 6,258 件のうち 99.8% は本文が空で暗号署名だけが残っていることが判明。署名はログ全体の 9.03% を占める一方、読める推論の本文はわずか 0.0077%。5 つのモデルは思考本文を 0% 記録している一方、1 つのモデルだけ 100% 記録しており、モデル側の挙動切り替えが示唆される。