AIに頼んだら「それ、計算できません」と言われた話——MCPで解決するAIの苦手な処理

GooodBilling が MCP Server を公開し、Claude や Cursor から「A社へ30万円の請求書を作って」と話しかけるだけで請求書の作成・送信ができるようになった。下書き作成と送信を分離、冪等性確保、実在取引先の検索を強制するなど、AI による誤送信を構造的に防ぐ設計を採用している。

汎用チャットボットではなく、子供ごとにパーソナライズ（名前・学年・読解レベル・興味）し、入出力に安全ゲートを設けた子供向け AI チャットボットを FastAPI + PWA で自作。さらに子供のアイデアを Raspberry Pi Pico 2 W で動く検証済みレシピに変換する発明モードを搭載。安全判定はコード側で厳密に実施し、会話データは自宅サーバー内に留める設計。

開発チームが Backlog MCPサーバーを Claude Code へ導入し、自然言語で課題のステータス変更やコメント追加などの操作を実行できるようにした。VS Code から離れずに課題管理を完結でき、開発ワークフロー中の手間が削減される一方、すべての Backlog API 機能がツール化されていない制限がある。

複数リポジトリでのステートレス化フェーズで、Claude 実装サブ + 親 + 第三者監査サブ + Copilot レビューの多層防御をすべて通り抜けた構造的盲点が発生。コードレビューは Claude × Copilot で平均 1.5 ラウンドの座組が機能するも、verify 経路の真正性層に問題が残り、人間の批判的圧力が最終防御層として必須であることが判明。