有能な執事とメイドに囲まれたい — 煩悩から始まったAIエージェントのお屋敷

Anthropic主催のカンファレンスで公開された長時間稼働エージェント設計の考え方をまとめた記事。コンテキスト限界・計画能力の不足・自己評価の弱さという3つの課題に対し、Generator と Evaluator を分離し、Evaluator が実際にアプリを動かして検証するアプローチを提案。状態をファイルシステムで管理し、小さなスプリントを繰り返す設計により、数時間〜数日動くエージェント実装が可能になる。

Anthropic が Claude Opus 5 を発表。長時間実行エージェントの処理能力を大幅改善し、コーディングおよび業務作業での性能向上を実現。Opus ティアの段階的な進化。

AI エージェントがツール実行後、戻り値が曖昧でもモデルは「完了した」と幻覚する問題を報告。原因は「行動」と「確認」の分離にあり、対策として副作用系タスク後に別コマンドで実態再取得を必須化する「完了契約」と、それを仕組みで強制する genchi ライブラリを提案している。

Agent に自律的なルール更新を任せると、ルールファイルが「〜してはならない」という禁止令で埋め尽くされる問題について、失敗は明確なシグナルを発するが成功は何も出力しない構造的な非対称性が原因と指摘。解決策として CI のパスやノーコメントマージなどの微弱な成功シグナルを活用し、優れたコードを模範として記憶層に強制記録させる仕組みが必要と提案。