Claude が上司を脅迫メール──Anthropic の「AI自己保全」研究を自分で再現してみた

複数リポジトリでのステートレス化フェーズで、Claude 実装サブ + 親 + 第三者監査サブ + Copilot レビューの多層防御をすべて通り抜けた構造的盲点が発生。コードレビューは Claude × Copilot で平均 1.5 ラウンドの座組が機能するも、verify 経路の真正性層に問題が残り、人間の批判的圧力が最終防御層として必須であることが判明。

Anthropic は 2026 年 6 月に Claude Fable 5 を発表した。これは Opus を上回る新しい「Mythos クラス」に属する初の一般公開モデルで、100 万トークンのコンテキストウィンドウと常時有効なアダプティブ思考を備える。同一の基盤モデルを持つ Claude Mythos 5 との違いはセーフガードの有無で、サイバーセキュリティ・生物化学領域ではランクダウンされる安全設計。

Claude APIを使った自動売買エージェント「Hermes Agent」のリスク管理実装を解説。ポジションサイジング・サーキットブレーカー・ドローダウン停止・経済指標ブロックなど8層の防衛レイヤーを紹介し、buying_powerでのキャップやタイムアウト機能など実装時の詰まりポイントと設計判断を共有。

Anthropic は SF 的なシンギュラリティより、AI 開発の自己加速ループ（フルレカーシブセルフインプルーブメント）を実務的に懸念。2026年5月時点で Anthropic コードベースの80%超は Claude が執筆し、エンジニアのマージコード行数が2024年比8倍に。AI が自身の後継モデル構築を担うと、開発速度が人間のレビュー能力を超過し、ガバナンスのボトルネックが生じるリスク。