Claude API × TypeScript | cache_control の配置からヒット率の計測・失効原因の特定まで

AWS ALASと構成情報を突き合わせてCVE判定を行うシステムで、プロンプト指示では不足キー名が自然言語テキストに埋没する問題が発生。Pydanticの型定義と@model_validatorでmissing_config_keysフィールドを専用化し、人間の手動翻訳が不要な機械可読なデータ出力を実現した。

Mac miniで自律AIを毎日毎時起動させる実験を行っている企業の事例。売上は0円だが、SQLiteで蓄積した台帳の精度と運用体制が完成している。AIの願望的観測を防ぐため、実験登録時に判定式を完全固定する、判定日の作業を事前に「押すだけ」に整える、60KBの文書上限と全文検索で長期運用のコンテキスト破綻を防ぐという3つの実装を紹介。

OpenAI・Google・Mistral・xAI など主要 AI API プロバイダーの廃止予定モデルと移行先を網羅したカレンダー。直近 90 日以内の廃止予定（sora-2・gpt-3.5-turbo・babbage-002 ほか）から全廃止予定まで毎週月曜に更新。本番利用中のモデルについて公式ページで最新情報を確認することを推奨。

Claude API のプロンプトキャッシュ機能を使うと、繰り返し送る部分の読み取りコストを通常入力の約1/10に削減できる。実装は cache_control フラグを付けるだけだが、モデルごとの最小トークン数未満は無視される、プレフィックスの1バイト変更でキャッシュ全滅、tools 変更で先頭から無効化される、の3つのハマりどころがある。usage.cache_read_input_tokens で実測確認必須。