日本のAIプラットフォームでGLM・DeepSeekなど7モデルのコードレビュー性能を検証

LLM APIを組み込んだアプリケーションのトークンコストを70～80%削減するための7つの戦略をROI順に提示。出力トークンの制御、セマンティックキャッシュ、モデルカスケードなどの実装パターン、Langfuse や LiteLLM を活用したモニタリング手法、各手法の適用条件・トレードオフを解説。

OpenRouter の :free サフィックスモデル 9 種類（Qwen3、Llama 3.3、DeepSeek R1 等）を、コーディング・要約・JSON 抽出の 3 軸で実測比較。月額 $0 でも GPT-4 クラスの推論が可能で、用途別の使い分けマップを示す。

Claude等のLLM API利用時に月次コストが想定の2〜3倍に膨らむ事例から、実装現場で繰り返される7つのアンチパターンを整理。モデル選定、max_tokens未設定、Prompt Cachingの未活用など、各パターンごとに「なぜ起きるか」「コスト影響」「実装による対処法」をセットで解説。

Claude Haiku 4.5、Sonnet 4.6、Opus 4.8、Fable 5 の 4 つのモデルに同じコードレビュータスクを実行させ、第三者 LLM で指摘の正誤を判定。トークン単価は最安価層が 10 倍安いが、確認済みバグ単価は約 3.7 倍の差にとどまった。トークン効率とコンテキストキャッシュの活用により、定価差を削減。誤答コストが高いタスク選択では単価より信頼性を重視すべき。