テストが通る≠正しい——AI協働で見つけた3つの静かなバグから固めたレビュー方針

Macアプリ開発者が Claude Code と Codex を多用する中で、ターミナルアプリ microTerm を開発。エージェントの状態を可視化・管理するため hooks を活用し、セッション状態の追跡、ゾンビプロセス判定、異なる仕様への対応など、実装時に直面した4つの罠と対策を詳述。

AWS Bedrock の AgentCore Memory を使用し、「涼宮ハルヒの憂鬱」のエンドレスエイト（時間ループ）を再現する実験。記憶を保持しないエージェント（キョン型）と長期記憶を蓄積するエージェント（長門型）で同じ夏休みシナリオを50周繰り返し、既視感の発生やループ終了条件への到達可能性を検証した内容。

AI エージェントの自己改善ループが暴走するのを防ぐために、複数の時間軸で入れ子になったループ構造と、各段階での人の介入ポイントを設計する方法を解説。提案の Maker-Checker 分離、差分の粒度調整、Git による履歴管理、fail-closed の原則により、監督側の人間が短時間判断できない複雑さに流れ込む「盲目的承認」を構造的に防ぐ。

Claude で朝の予定・メール・ニュースを自動集約する「朝のブリーフィング」システムの構築を試みたが、使用カレンダーアプリがデータエクスポート未対応、ブラウザ自動化の時刻依存性、対話型への路線変更による体験設計の難しさを経て、最終的にスキル全体を廃止。外部連携・自動化の前提確認と「動く」と「使いたい」のギャップが学習ポイント。