開発AIと監査AIを分離する——自己申告に頼らないセキュリティパイプラインを自作した話

Anthropicが2026年4月に発表した Claude Mythos Preview は Opus 4.6 比でコーディング能力が大幅向上（SWE-bench 93.9% vs 80.8%）し、主要OSやブラウザに存在する数千件のゼロデイ脆弱性を自律的に発見・悪用可能な水準に達した。攻撃リスクが高いため一般公開せず、AWS・Apple・Microsoft・Google など12社からなる防衛的コンソーシアム Project Glasswing に限定提供し、攻撃者より先に脆弱性を検出・修正する取り組みが始まった。

OWASP Top 10で2年連続1位のプロンプトインジェクション脅威に対し、DifyとClaudeを用いた3層防御（入力・メイン処理・出力ガードレール）の実装方法を解説。直接型・間接型・マルチモーダル型など5つの攻撃パターンの仕組みと、システムプロンプトのXML構造化、キーワードフィルタ、LLMガードレールなどの具体的対策を情シス視点で提示。

Anthropic の Claude Managed Agents 向け Dreaming 機能は、エージェントが過去ログを読み返しメモリを自動統合・削除・パターン抽出する。この仕組みは構造的に自己プロンプトインジェクション となり得る。外部攻撃者を介さず、AI 自身の出力が自身への命令として再解釈される経路を持つため、長期運用時の状態ドリフトと関連するメモリ汚染リスクがある。

Cloudflare の Project Glasswing に関する分析記事。Mythos というプロジェクトを通じて、Claude を含む AI モデルのセキュリティと機能に関する新たな知見が得られた。赤チーム活動やモデルの脆弱性テストから得られた教訓をまとめている。