Claude Dreaming の構造的リスク：自己生成メモリが自己プロンプトインジェクションになり得るか

Cloudflare の Project Glasswing に関する分析記事。Mythos というプロジェクトを通じて、Claude を含む AI モデルのセキュリティと機能に関する新たな知見が得られた。赤チーム活動やモデルの脆弱性テストから得られた教訓をまとめている。

curl プロジェクトのメンテナーが Anthropic の Mythos セキュリティスキャンツールを使用し、確認済みの脆弱性 1 件を含む約 20 のバグを検出した。このスキャンツールは Claude の深い解析機能を活用したセキュリティ診断の実例を示すもの。

Claude Mythosを活用したセキュリティ研究で、27年来未検出のゼロデイ脆弱性が50ドルの低コストで発見された事例を分析。既存防壁の検知漏れと検証不足の構造的課題を指摘。

AnthropicのMythosモデルが50ドルの利用料で、OpenBSDの27年間未検出のゼロデイ脆弱性を発見。2つのTCPパケットでカーネルパニックを引き起こす現象から、既存セキュリティ検査手法の限界と、AI活用による脆弱性検知の可能性を分析。