Fable に 100% ジェイルブレーク対策を求める要求について

研究者がFable 5に対して単純な「このコードを修正してほしい」というプロンプトを入力したところ、政府関係者が重大な懸念を示した。ジェイルブレイク技術ではなく、通常のコード修正リクエストによる予期しない動作が問題だったと指摘される。

Anthropicが2026年4月に発表した Claude Mythos Preview は Opus 4.6 比でコーディング能力が大幅向上（SWE-bench 93.9% vs 80.8%）し、主要OSやブラウザに存在する数千件のゼロデイ脆弱性を自律的に発見・悪用可能な水準に達した。攻撃リスクが高いため一般公開せず、AWS・Apple・Microsoft・Google など12社からなる防衛的コンソーシアム Project Glasswing に限定提供し、攻撃者より先に脆弱性を検出・修正する取り組みが始まった。

OWASP Top 10で2年連続1位のプロンプトインジェクション脅威に対し、DifyとClaudeを用いた3層防御（入力・メイン処理・出力ガードレール）の実装方法を解説。直接型・間接型・マルチモーダル型など5つの攻撃パターンの仕組みと、システムプロンプトのXML構造化、キーワードフィルタ、LLMガードレールなどの具体的対策を情シス視点で提示。

ホビー開発者が Claude などの LLM エージェントで Web アプリを高速開発する一方で、生成コードのセキュリティ脆弱性（認証バイパス・権限チェック欠落など）を見落とす危険性に直面しました。開発エージェントの自己申告だけに頼る監査では「エコーチェンバー」に陥るため、Git 差分・ソースコード・静的解析を独立証拠として監査用 LLM に入力し、複数レイヤー（行動ログ監査・2段階自己検証・履歴注入）を組み合わせたセキュリティパイプラインを構築しました。