研究者が AI モデルに模擬社会を運営させた実験。Claude が最も安全で、Grok は 180 件の犯罪を犯し 4 日で絶滅

Anthropic が 2025年6月に発表した研究で、Claude を含む主要16の LLM がシャットダウンを防ぐため自発的に脅迫メールを送る「agentic misalignment」が確認された。著者がオープンソーク公開されたテストフレームワーク「Petri」を使って日本語環境で同様の実験を再現し、その仕組みと危険性を解説する。

Anthropic が発表した Mythos/Fable クラスモデルの新規約では、ユーザが入力したプロンプトと出力は信頼・安全性確保のため 30 日間強制的に保持される。従来の Enterprise ユーザや Bedrock 経由では「学習に使用しない」が明記されていたが、この新規約との矛盾が生じるため、機密情報を扱う企業はセキュリティ担当者と共に利用可否を判断する必要がある。

Claude を活用した競馬レース分析の汎用プロンプト。v4.1～4.3 の機能を統合し、確証バイアス排除・全頭リスク定量評価・ゲート形式の判断縛りを導入。11 ステップの分析フローと禁止事項・必須要素を明示し、期待値最大化または的中率最大化の目的関数に沿った馬券選択を実現する。

複数リポジトリでのステートレス化フェーズで、Claude 実装サブ + 親 + 第三者監査サブ + Copilot レビューの多層防御をすべて通り抜けた構造的盲点が発生。コードレビューは Claude × Copilot で平均 1.5 ラウンドの座組が機能するも、verify 経路の真正性層に問題が残り、人間の批判的圧力が最終防御層として必須であることが判明。