tool use と長期記憶で自然文操作する AI執事を実装してみた

マルチエージェント環境でモデルを手動切り替えする煩雑さから出発し、全自動アップデートのリスク（破壊的変更・コスト暴発・未提供ID での起動失敗など）を棚卸した著者が、「検知は自動、適用は人間の承認」という notify-only 設計を採用。scripts/model_update_check.py で LLM を介さない決定論スクリプトによる定期監視を実装し、プロンプトインジェクションや誤認識を防ぎながら、モデル版アップデートの通知のみを実行する仕組みを解説する。

Agent開発で特定機能のたびに同じ箇所が壊れる問題に直面した著者が、その根本原因を分析。コードに書かれた「何をするか」だけでなく「なぜするか」という意図が欠落していることが原因で、AIは違和感を感じずに仕様をドリフトさせると結論づけ、「intent ledger」という仕組みで対応した経験を記述。

個人で CAD エージェント開発をする著者が、Claude にルービックキューブを解かせる実験を通じて、AI の「解く」の実態を検証。外部ソルバー(kociemba)を使うと5手で解けるが、ソルバーを禁止し推論のみに限定すると110手・3時間を要する。その過程で Claude は盤面ルール確認→予測→実行→観察という初心者的アプローチを取り、毎手の観察が長計算の誤りを捕捉する機構として機能していた。

Anthropic は Claude Managed Agents に自社サンドボックスと MCP トンネル機能を追加した。ツール実行を自社インフラに移せるようになり、コードがネットワーク外に出ない設計が可能になった。ただしエージェントループはAnthropicインフラに残るため、何をどこで動かすかの判断基準を誤ると運用が複雑化する可能性がある。