オープンモデルの第2の優位――ガードレールが防御側を止める非対称性

自作したログイン認証システムを Claude Code に診断させたところ、複数の脆弱性が数分で発見されました。試行回数制限の不足、ハッシュ流出時の総当たり可能性、JWT 署名鍵漏洩時の認証突破など、対策を施したつもりでも実際の攻撃で破られた過程を詳解します。

Claude Code 利用時に発生したプロンプトインジェクションの事例を通じ、開発者個人が取り得る対策を紹介。Manual モード活用、CLAUDE.md への明示的ルール追記、信頼できないコンテンツの直接パイプ避止、deny 設定、sandbox 機能の活用など複数の防御手段を解説。

Claude（Opus）が実装したヘッドレス CMS と SEO ツールの差分を GLM-5.3 に「攻撃者の目で読め」と指示して複数回査読した結果、テスト 200 件超が通過した実装でも他人のアカウント乗っ取りなど重大な穴が検出された。AI による査読を有効にするには別の AI の指摘を実装側が実コードで確認して採否を決め、修正後に再度査読を回す反復プロセスが重要。

Anthropic Frontier Red Team が 2026 年 10 月に公開したレポートから、30B 以下の小型オープンウェイトモデルが防御の弱い IoT 機器を乗っ取り自己複製できるかを検証した内容を解説。Qwen3.5-9B は複数ハードウェアで推論環境を構築でき、隔離環境での拡散実験では GLM-5.2 が一部成功。遅いが止めにくい特性が指摘されており、インフラ運用者による事前確認が必要。