トークン最大化は成功最大化ではない — 自作プロキシで測った「AIコストの本当の変数」

Claude Admin API の `/v1/organizations/usage_report/messages` と `/v1/organizations/cost_report` を使用して、組織全体のトークン消費量と USD コストを自動監視する実装方法を解説。Admin API キー発行、Python スクリプトでの前日コスト超過アラート、集計遅延やバケット粒度上限といった3つの実装上の落とし穴を詳説。

AWS AgentCore ハーネスをエクスポート後、Strands Agents の model/load.py を修正して CacheConfig を追加することで、Claude のプロンプトキャッシュを有効化できる。エクスポート手順が不完全なため、AgentCore CLI での初期化から手動対応までの手順を解説。

日本国内インフラで稼働するQwen・GLM・Kimi・DeepSeekなど7モデルについて、財務データパイプラインの3ファイルを対象にコードレビュー精度を検証。GLM-5.2が85.1%、Kimi-K2.7-Codeが81.6%の精度を示す一方、最安モデルの精度は52.1%まで低下。確認済み指摘1件当たりのコストはClaude Haiku 4.5比で無料～約3.7分の1だが、単発API呼び出しとエージェント型の差異により直接比較は困難。

LLM APIを組み込んだアプリケーションのトークンコストを70～80%削減するための7つの戦略をROI順に提示。出力トークンの制御、セマンティックキャッシュ、モデルカスケードなどの実装パターン、Langfuse や LiteLLM を活用したモニタリング手法、各手法の適用条件・トレードオフを解説。