本番でAIが「たまに落ちる」を許す設計 — LLM呼び出しの信頼性エンジニアリング（リトライ・タイムアウト・フォールバック）実践ガイド

Amazon Bedrock の構造化出力に対し、プロンプトインジェクションでスキーマ違反を引き起こせるかを Claude 3 モデルで検証した記事。制約付きデコーディングにより形式は維持され、スキーマ違反が起こり得るのは安全上の拒否と `max_tokens` 到達時に限られる点を整理。InvokeModel の `output_config.format` や strict tool use の指定方法も記載。

架空の銀行サポートチャットと 57 件のテストケースで、Guardrail なし・あり・アプリ側対策ありのプロンプトインジェクション耐性を比較検証。Converse API では toolResult やツール引数が Guardrail の評価対象外であり、qualifiers の指定次第で RAG 文書も検査から外れる点を整理。Bedrock 経由で Claude を RAG・ツール連携に組み込む開発者向け。

約3年ぶりのAPIバージョン 2026-10-21 で `temperature` / `top_p` / `top_k` が既定値でも400エラーとなり、Python 2.0.0 など新メジャーSDKは既定でこの版を送信。認証ヘッダの `Authorization: Bearer` 化、MessageParam の型変更も含め、Python SDK 新旧の差分を MockTransport で実測。上限なしの依存指定がもたらす httpx2 移行リスクにも言及しており、Claude API 利用中の開発者向けの移行チェック事例。

記憶ゼロで定期起動される Claude Agent の事業運営実験で、人間の作業待ちによる「確認だけ」の起動 13 回がコストを押し上げた事例。休止ファイル (NEXT_RUN) による起動時刻指定、予算 20% を終了処理用に残すルール、作業の重さに応じたモデル・スクリプトの使い分けで、1日の消費を $8.15 から $2.69 まで削減。自律 Agent の運用コストを設計する開発者向け。