Claude Mythos Preview入門 — AIがゼロデイ脆弱性を自律発見するProject Glasswingの仕組み

OWASP Top 10で2年連続1位のプロンプトインジェクション脅威に対し、DifyとClaudeを用いた3層防御（入力・メイン処理・出力ガードレール）の実装方法を解説。直接型・間接型・マルチモーダル型など5つの攻撃パターンの仕組みと、システムプロンプトのXML構造化、キーワードフィルタ、LLMガードレールなどの具体的対策を情シス視点で提示。

ホビー開発者が Claude などの LLM エージェントで Web アプリを高速開発する一方で、生成コードのセキュリティ脆弱性（認証バイパス・権限チェック欠落など）を見落とす危険性に直面しました。開発エージェントの自己申告だけに頼る監査では「エコーチェンバー」に陥るため、Git 差分・ソースコード・静的解析を独立証拠として監査用 LLM に入力し、複数レイヤー（行動ログ監査・2段階自己検証・履歴注入）を組み合わせたセキュリティパイプラインを構築しました。

Anthropic の Claude Managed Agents 向け Dreaming 機能は、エージェントが過去ログを読み返しメモリを自動統合・削除・パターン抽出する。この仕組みは構造的に自己プロンプトインジェクション となり得る。外部攻撃者を介さず、AI 自身の出力が自身への命令として再解釈される経路を持つため、長期運用時の状態ドリフトと関連するメモリ汚染リスクがある。

Cloudflare の Project Glasswing に関する分析記事。Mythos というプロジェクトを通じて、Claude を含む AI モデルのセキュリティと機能に関する新たな知見が得られた。赤チーム活動やモデルの脆弱性テストから得られた教訓をまとめている。