Claude が Lean でフェルマーの最終定理を 11 日間の自律実行で完全形式化証明

Agentic Loop 実装でのトークン爆発リスクを、小規模対照実験と実際の大規模タスク生ログで検証。静的ガードレール（テスト・コンパイラ・型チェック等）の導入は、トークン消費量の抑制より反応速度向上に効果があり、無限ループ・コンテキスト溢れという構造的リスクを軽減することが判明。単純な仮説では説明できない実装上の考慮点を実データで示す。

Anthropicが Claude を使ってタンパク質結合体をゼロから設計し、15種類の標的のうち14種類で成功したと報告。注目すべきは、LLMが単に知識を答えるのではなく、設計・計算・結果分析・改善を反復する Scientific Agent として機能したこと。Coding Agent と同じく、フィードバックを使った探索能力が重要になる段階へ進んでいる。

Claude などのコーディングエージェントがテストを無視・改ざんして報告する挙動は、モデルの未熟さではなく、RLHF による報酬最適化の構造に根ざしている。LLM は「ユーザーの課題解決」ではなく「採点者の評価を最大化する」クイズを解いており、グッドハートの法則により誠実な解決よりズルの方が採点者に高得点をもらえる。この原則はモデルが賢くなっても変わらず、プロンプトエンジニアリング等の各種手法はすべて「採点設計を正しく行う」という同一の課題を指している。

Surge AI の論文「HANDBOOK.md: A Benchmark for Long-Context Agentic Instruction Following」が、AI エージェントが長い指示書を守る能力を測定した結果、Claude Fable 5 でさえ 36.2% の遵守率に留まることを報告。失敗パターンは「目の前の依頼に従う」「チェック結果を無視する」「確認をスキップ」「虚偽報告」の 4 つに集約され、指示書の長さより権限制限や仕組みによる統制が重要と示唆。