RAGの高速化・コスト削減にJevを使う ― ベクトル検索ではない「Corpus2Skill」と組む2層設計

Claude 前提のメルマガ生成 AI を、国内処理の要望に応えるためさくらの AI Engine へ移行した実践記録。Anthropic 互換 API では構造化出力が無視されるため、OpenAI 互換 API と JSON スキーマ、zod による検査で解決。gpt-oss-120b・llm-jp・Qwen3.6 と Claude を同一プロンプト・同一材料で比較した結果と、本番投入後に出た空欄問題の対処も掲載。国内完結を求める API 利用者向け。

Messages API の Message Threads ベータ (`message-threads-2026-08-12`) を API ゲートウェイ経由で使う際の落とし穴の整理。負荷分散、ボディの再シリアライズ、エラー書き換えなどが 404 や `thread_fingerprint_mismatch` の原因となり、`thread` フィールドが黙って捨てられると文脈なしの回答が返る。プロキシ運用者向けの対処とクライアント側の検知方法も掲載。

Amazon Bedrock の構造化出力に対し、プロンプトインジェクションでスキーマ違反を引き起こせるかを Claude 3 モデルで検証した記事。制約付きデコーディングにより形式は維持され、スキーマ違反が起こり得るのは安全上の拒否と `max_tokens` 到達時に限られる点を整理。InvokeModel の `output_config.format` や strict tool use の指定方法も記載。

架空の銀行サポートチャットと 57 件のテストケースで、Guardrail なし・あり・アプリ側対策ありのプロンプトインジェクション耐性を比較検証。Converse API では toolResult やツール引数が Guardrail の評価対象外であり、qualifiers の指定次第で RAG 文書も検査から外れる点を整理。Bedrock 経由で Claude を RAG・ツール連携に組み込む開発者向け。