複数AIエージェント運用における承認ログとロールバック設計 ― 医療機器の点検記録から学ぶ「止める理由」の記録

1 人と AI エージェントのみで会社を運営するための運用フレームワークを解説。仕事の配分・品質検証・エラー管理・人間が担うべき領域まで、失敗例と実装可能な雛形を通じて、Claude を効果的に活用する具体的な型を提示。

Claude Code や GPT など複数の LLM を Agent として連携させる IDE を開発。設計・コーディング・テストの工程を異なるモデルに割り当て、2 週間の運用データから Cache Read が主体（純入力の 1/10 コスト）、役割によって推論とツール待機時間の比率が異なることを発見。VM サンドボックスと GitHub Issue 統合により完全自動化のワークフロー実現。

本番環境で AI Agent を運用する際に発生した 35 件の失敗事例から主要 10 章を抽出した実践書。製造業の不具合報告手法（作りこみ／流出の二軸分析）を用いて各失敗を解剖し、再発防止策までを具体的に解説。ハードウェア出荷や実マネーが関わるプロジェクトでの AI エージェント活用時のリスク低減に直結する知見を収録。

AI エージェントがツール実行後、戻り値が曖昧でもモデルは「完了した」と幻覚する問題を報告。原因は「行動」と「確認」の分離にあり、対策として副作用系タスク後に別コマンドで実態再取得を必須化する「完了契約」と、それを仕組みで強制する genchi ライブラリを提案している。