Claude API の Message Batches API で大量リクエストのコストを半額にする実装手順
出典: Qiita (Claude tag)
Hiroba による自動要約
Claude API の Message Batches API を使うと、即時レスポンスが不要な大量処理でトークン単価を50%削減できる。ただし結果の順序が投入順と異なるため custom_id での突き合わせが必須、バッチ全体が ended でも個別リクエストは失敗する可能性、24時間の処理期限と29日の結果保持期限がある3つのハマりどころを回避する必要がある。
出典・元記事
Qiita (Claude tag) の記事を Hiroba が自動要約しました。元記事を読む
読んで良かったら、シェアしてみてください。
同じタグの記事が他に 5394 件あります。
関連する記事
同じタグの記事

Claude専用ドキュメント駆動開発ツールでコスト爆発:cold start と cache_write の落とし穴
Zenn自作の Claude ベースのエージェントツール(タスク分割・自動レビュー方式)で実装フェーズの請求が想定外に膨張した事例。出力は全コストの 21% に過ぎず、92.1M トークンのコンテキスト読み直しが 51% を占めた。原因は `claude -p` の毎回起動による cold start の cache_write(×1.25 倍課金)で、チャット利用時の「warm session 再利用」と異なり、タスクごとに固定コンテキストを×1.25 で焼き直していた。


Haiku 5.5 に書かせた確信度は当てになるか。同じ306問を3回聞いたら、1問ずつはぶれても0.8以上は8割当たった
QiitaClaude Haiku 5.5 に306問の9択分類を3回解かせ、自己申告の確信度の安定性を検証。同一問題の確率は中央値0.10ぶれ、19%で回答が変化。一方、0.8以上と書いた問題の正解率は3回とも8割強で安定。「3回一致なら信じる」は確率より弱い結果。LLM の確信度を自動判定の閾値に使う開発者向けの実測データ。
