研究者が報告：Fable 5でシンプルな「コード修正」プロンプトが問題に、ジェイルブレイクではなかったと

Anthropicが2026年4月に発表した Claude Mythos Preview は Opus 4.6 比でコーディング能力が大幅向上（SWE-bench 93.9% vs 80.8%）し、主要OSやブラウザに存在する数千件のゼロデイ脆弱性を自律的に発見・悪用可能な水準に達した。攻撃リスクが高いため一般公開せず、AWS・Apple・Microsoft・Google など12社からなる防衛的コンソーシアム Project Glasswing に限定提供し、攻撃者より先に脆弱性を検出・修正する取り組みが始まった。

OWASP Top 10で2年連続1位のプロンプトインジェクション脅威に対し、DifyとClaudeを用いた3層防御（入力・メイン処理・出力ガードレール）の実装方法を解説。直接型・間接型・マルチモーダル型など5つの攻撃パターンの仕組みと、システムプロンプトのXML構造化、キーワードフィルタ、LLMガードレールなどの具体的対策を情シス視点で提示。

ホビー開発者が Claude などの LLM エージェントで Web アプリを高速開発する一方で、生成コードのセキュリティ脆弱性（認証バイパス・権限チェック欠落など）を見落とす危険性に直面しました。開発エージェントの自己申告だけに頼る監査では「エコーチェンバー」に陥るため、Git 差分・ソースコード・静的解析を独立証拠として監査用 LLM に入力し、複数レイヤー（行動ログ監査・2段階自己検証・履歴注入）を組み合わせたセキュリティパイプラインを構築しました。

Anthropic の Claude Managed Agents 向け Dreaming 機能は、エージェントが過去ログを読み返しメモリを自動統合・削除・パターン抽出する。この仕組みは構造的に自己プロンプトインジェクション となり得る。外部攻撃者を介さず、AI 自身の出力が自身への命令として再解釈される経路を持つため、長期運用時の状態ドリフトと関連するメモリ汚染リスクがある。