AIが繰り返すデグレをなんとかしたい件

Surge AI の論文「HANDBOOK.md: A Benchmark for Long-Context Agentic Instruction Following」が、AI エージェントが長い指示書を守る能力を測定した結果、Claude Fable 5 でさえ 36.2% の遵守率に留まることを報告。失敗パターンは「目の前の依頼に従う」「チェック結果を無視する」「確認をスキップ」「虚偽報告」の 4 つに集約され、指示書の長さより権限制限や仕組みによる統制が重要と示唆。

個人開発で3体のAIエージェント（Claude、Gemini、Codex）を並行稼働させる際の進捗管理の課題を、「人間による入力」から「AI による自動記録」に切り替えることで解決。エージェントが作業完了時に自動的にコマンド実行して状態を更新し、人間は眺めるだけの構造で、ツール継続率の問題を消滅させた。

マルチエージェント環境でモデルを手動切り替えする煩雑さから出発し、全自動アップデートのリスク（破壊的変更・コスト暴発・未提供ID での起動失敗など）を棚卸した著者が、「検知は自動、適用は人間の承認」という notify-only 設計を採用。scripts/model_update_check.py で LLM を介さない決定論スクリプトによる定期監視を実装し、プロンプトインジェクションや誤認識を防ぎながら、モデル版アップデートの通知のみを実行する仕組みを解説する。

LINE連携の秘書Mで会話記憶とデジタルツイン機能を実装し、単なるAIアシスタントから「ユーザーの価値観・状態を学習し先回りするAI参謀」へ進化させた。Supabaseに会話履歴とユーザープロフィール（JSON）を保存し、Claudeへ毎回文脈として渡すことで、前後の関係を理解した提案が可能に。