Anthropic が非コーディング AI Agent が本番環境で失敗する理由を確認

著者が Gmail、Google Chat、Slack の監視を AI エージェントに任せた 3 週間の実運用から、何を任せて何を任せないかの判断基準を整理した記事。検知・集約・記録は AI に、返信や価格判断など責任が伴う決定は人に残し、誤検知と見落としのコストの非対称性からルールベースではなく生成 AI を選んだ理由を述べている。

Claude が Lean 証明支援系言語を用いて、フェルマーの最終定理の完全な計算機検証済み証明を約 11 日間ほぼ自律的に生成した。人間の監督を最小限に、長時間にわたるエージェント型タスク遂行が成立し、形式手法と LLM の組み合わせワークフローの実用性が示された。

著者は Codex CLI・Claude Code CLI・Gemini を協調させる自作スキルを開発し、複数 AI 間の出力受け渡しの負荷軽減を実現。6 モデルを 18 試行で検証し、変更容易性を評価軸に加えたベンチマークから役割分担を決定。その結果、企画から実装・レビューまでを AI 同士に委ねられるようになり、人間は「何をしたいか」に集中可能になった。

AI自己改善ループを長期運用する際に避けられない3つの問題（ログ肥大化、トークン制限、パース失敗）と、その対策パターンを実装経験から解説。チャンク分割・事前計測・クリーンなテキスト化など、継続的な運用を前提とした設計アプローチを提示する。