Bedrock の構造化出力でスキーマが prompt cache を分断するため、本文に JSON Schema を書く方式に変更した実測
出典: Qiita (Claude tag)
Hiroba による自動要約
Amazon Bedrock で同じ資料に対して異なる JSON スキーマで複数回の呼び出しをする際、構造化出力機能でスキーマを渡すとキャッシュが schema ごとに分断されることが判明。スキーマを本文に記述する方式に変更することで、4 種のスキーマで 1 つのキャッシュを共有でき、費用 28%、実行時間 31% 削減を実現。
出典・元記事
Qiita (Claude tag) の記事を Hiroba が自動要約しました。元記事を読む
読んで良かったら、シェアしてみてください。
同じタグの記事が他に 5450 件あります。
関連する記事
同じタグの記事
Claude API の Citations 機能で回答の根拠を取得する実装手順——細切れ text ブロック返却・PDF ページ番号排他仕様・Structured Outputs 併用時エラーの対処法
QiitaClaude API の Citations 機能を使い、社内ドキュメント照会時に回答の根拠箇所を構造化データで取得する実装方法を解説。Python での実装例、回答が複数 text ブロックに分割される仕様、PDF のページ番号が排他的 (end が その手前まで) である点、Structured Outputs との併用が 400 エラーになる制限をカバーし、脚注形式での表示例まで提供。
