LLM APIコスト削減の落とし穴——開発現場で繰り返される7つのアンチパターンと対処法

AI開発のコスト削減は単価の安いモデル選択よりも、無駄なトークン送信の削減が効果的。著者が自作プロキシで1年間の開発を測定した結果、モデルと成果は変えずに54.7%のトークンを削減。curl・ログ・プロセス一覧など「高ノイズ出力」を圧縮してから渡すことで、誤差レベルではなく桁違いのコスト改善が可能。

Claude Admin API の `/v1/organizations/usage_report/messages` と `/v1/organizations/cost_report` を使用して、組織全体のトークン消費量と USD コストを自動監視する実装方法を解説。Admin API キー発行、Python スクリプトでの前日コスト超過アラート、集計遅延やバケット粒度上限といった3つの実装上の落とし穴を詳説。

AWS AgentCore ハーネスをエクスポート後、Strands Agents の model/load.py を修正して CacheConfig を追加することで、Claude のプロンプトキャッシュを有効化できる。エクスポート手順が不完全なため、AgentCore CLI での初期化から手動対応までの手順を解説。

日本国内インフラで稼働するQwen・GLM・Kimi・DeepSeekなど7モデルについて、財務データパイプラインの3ファイルを対象にコードレビュー精度を検証。GLM-5.2が85.1%、Kimi-K2.7-Codeが81.6%の精度を示す一方、最安モデルの精度は52.1%まで低下。確認済み指摘1件当たりのコストはClaude Haiku 4.5比で無料～約3.7分の1だが、単発API呼び出しとエージェント型の差異により直接比較は困難。