AgentCore ハーネスのプロンプトキャッシュ有効化方法

日本国内インフラで稼働するQwen・GLM・Kimi・DeepSeekなど7モデルについて、財務データパイプラインの3ファイルを対象にコードレビュー精度を検証。GLM-5.2が85.1%、Kimi-K2.7-Codeが81.6%の精度を示す一方、最安モデルの精度は52.1%まで低下。確認済み指摘1件当たりのコストはClaude Haiku 4.5比で無料～約3.7分の1だが、単発API呼び出しとエージェント型の差異により直接比較は困難。

LLM APIを組み込んだアプリケーションのトークンコストを70～80%削減するための7つの戦略をROI順に提示。出力トークンの制御、セマンティックキャッシュ、モデルカスケードなどの実装パターン、Langfuse や LiteLLM を活用したモニタリング手法、各手法の適用条件・トレードオフを解説。

OpenRouter の :free サフィックスモデル 9 種類（Qwen3、Llama 3.3、DeepSeek R1 等）を、コーディング・要約・JSON 抽出の 3 軸で実測比較。月額 $0 でも GPT-4 クラスの推論が可能で、用途別の使い分けマップを示す。

Claude等のLLM API利用時に月次コストが想定の2〜3倍に膨らむ事例から、実装現場で繰り返される7つのアンチパターンを整理。モデル選定、max_tokens未設定、Prompt Cachingの未活用など、各パターンごとに「なぜ起きるか」「コスト影響」「実装による対処法」をセットで解説。