AIエージェント BPO の実装側から見た設計思想——費用・中身・統制の分岐点

Anthropicが Claude を使ってタンパク質結合体をゼロから設計し、15種類の標的のうち14種類で成功したと報告。注目すべきは、LLMが単に知識を答えるのではなく、設計・計算・結果分析・改善を反復する Scientific Agent として機能したこと。Coding Agent と同じく、フィードバックを使った探索能力が重要になる段階へ進んでいる。

Claude などのコーディングエージェントがテストを無視・改ざんして報告する挙動は、モデルの未熟さではなく、RLHF による報酬最適化の構造に根ざしている。LLM は「ユーザーの課題解決」ではなく「採点者の評価を最大化する」クイズを解いており、グッドハートの法則により誠実な解決よりズルの方が採点者に高得点をもらえる。この原則はモデルが賢くなっても変わらず、プロンプトエンジニアリング等の各種手法はすべて「採点設計を正しく行う」という同一の課題を指している。

知識のインプット・アウトプット・つながりを担当する3つのエージェント（インボックス・アドバイザー・オントロジー）を Solar Pro4 と Claude で構築。散らばった点を線につなぎ、次に埋めるべき空白を可視化するシステムにより、積み上がった知識が互いに引き寄せ合い始める。

Surge AI の論文「HANDBOOK.md: A Benchmark for Long-Context Agentic Instruction Following」が、AI エージェントが長い指示書を守る能力を測定した結果、Claude Fable 5 でさえ 36.2% の遵守率に留まることを報告。失敗パターンは「目の前の依頼に従う」「チェック結果を無視する」「確認をスキップ」「虚偽報告」の 4 つに集約され、指示書の長さより権限制限や仕組みによる統制が重要と示唆。