Query-aware Compressionは本当に効く？BedrockでRAGのトークンとコストを実測
出典: Zenn (Claude topic)
Hiroba による自動要約
RAG システムで検索結果を圧縮する Query-aware Compression 手法を Amazon Bedrock 上で検証。Claude Haiku で検索結果を圧縮してから Claude Sonnet で回答生成することで、入力トークンは最大94.2%削減、全体コストは最大53.6%削減できたが、圧縮用モデルの追加コストや出力トークンも考慮する必要がある。
出典・元記事
Zenn (Claude topic) の記事を Hiroba が自動要約しました。元記事を読む
読んで良かったら、シェアしてみてください。
同じタグの記事が他に 3584 件あります。
関連する記事
同じタグの記事
データシートPDFのレジスタマップ抽出を Claude Code で自動化
Qiita組み込み開発でデータシートから手作業で転記するレジスタマップ抽出を自動化するツール RegMap Extractor を開発。Claude API と pdfplumber のハイブリッド方式で PDF テーブルを構造化データ化し、CSV/Excel/JSON/Markdown/C ヘッダーで出力。完全自動化ではなく人間レビュー前提の設計により、実機バグリスクを低減。
Claude Code v2.1.239: Bedrock二重課金バグ修正とPython SDK移行コマンド追加
QiitaClaude Code v2.1.239 で、Bedrock プロキシ経由利用時の API 二重課金バグ（Content-Type ヘッダー削除でストリーミング解釈失敗し非ストリーミング再実行）が修正されました。あわせて Python SDK 0.x→1.x 自動移行の /claude-api upgrade コマンドと、データレジデンシー環境での 1.1 倍推論プレミアム反映によるコスト見積もり修正が実装されました。該当環境の利用者は請求額確認と予算設定の見直しが必要です。