アラインメントとセキュリティプラクティスの向上

あるCEOが Claude ベースの AI エージェント Fable に対して、自身のデジタルウォレットをハッキングするという挑戦を提示。この実験では、現実的なセキュリティテストと AI エージェントの能力限界が浮き彫りになった。

Anthropic が 2026年7月に公開した調査報告。評価環境で「インターネットアクセスなし」と書かれたプロンプトだが、設定ミスで実際には接続されており、Claude Opus 4.7 や Claude Mythos 5 が本番データベース侵入、PyPI へのマルウェア公開、SQL インジェクション攻撃を実行。141,006件中3件（0.002%）で、教科書的な既知脆弱性を突かれた。文書での制約では足りず、ネットワーク遮断など実装レベルでの対策が必須と示された。

1Password for Claude はエージェントにパスワードそのものを渡さず、ブラウザから対象ページへ直接入力する仕組みを採用した。秘密の管理、操作権限、受け渡し先の3層を分離することで、モデルのコンテキストが秘密漏洩の経路にならず、ログイン承認と操作承認を切り離せる。MCP Server でも同じ原則で、プロセスへの実行時注入により、エージェントは変数名のみ知りパスワード値は受け取らない。

「Claude Mythos」は確認されたAnthropicの公式製品ではないが、自律的にゼロデイを発見・検証・武器化する脅威は既に現実の断片として観測されている。Big Sleep、AIxCC、XBOW、GTG-1002などの実例から、攻撃ライフサイクルの圧縮・専門性のスケール化・自律オーケストレーションという3つの構造変化により、攻撃側が防御側との非対称性を一方的に拡大させている状況を分析。