Shepherd——エージェント実行の Git 管理、形式化の時代へ

本番環境で AI Agent を運用する際に発生した 35 件の失敗事例から主要 10 章を抽出した実践書。製造業の不具合報告手法（作りこみ／流出の二軸分析）を用いて各失敗を解剖し、再発防止策までを具体的に解説。ハードウェア出荷や実マネーが関わるプロジェクトでの AI エージェント活用時のリスク低減に直結する知見を収録。

AI エージェントがツール実行後、戻り値が曖昧でもモデルは「完了した」と幻覚する問題を報告。原因は「行動」と「確認」の分離にあり、対策として副作用系タスク後に別コマンドで実態再取得を必須化する「完了契約」と、それを仕組みで強制する genchi ライブラリを提案している。

LLMエージェントの暴走対策は事前防御に偏りがちだが、エージェントが共有メモリに誤情報を書き込んだ場合、プロセス停止後も汚染は他エージェントに連鎖拡大する。真のリカバリには「誰が何を読んで意思決定したか」の消費記録を出力メタデータに刻印し、影響範囲を特定・再実行するアーキテクチャが必須となる。

Yahoo が Google Cloud 上で構築した広告 AI 基盤では、Spanner Graph と BigQuery Graph の 2 つのグラフデータベースを組み合わせることで、「判断支援」から「実際の業務実行」へ移行する System of Action を実現。リアルタイム在庫・契約・ポリシーに基づいた決定論的な判断、説明可能性、監査可能性を同時に満たす必要があり、Knowledge Graph でその場の事実を扱い、Context Graph で判断履歴を記録する役割分担が鍵となる。