iteLLMとLangGraphのHuman-in-the-Loopでエージェントに人間の判断を挟んでみる

LiteLLMとLangGraphを使用して、LLMの入出力に対する3層のGuardrails（入力ガード・PIIマスク・出力ガード）を実装する方法を紹介。プロンプトインジェクション、個人情報漏えい、有害応答などのリスク対策を正規表現とLLM審判で実現する具体的なコード例を掲載。

LiteLLMとLangGraphのCheckpoint機能を組み合わせ、スレッド単位の会話履歴をデータベースに永続化する実装方法を解説。マルチスレッド会話アプリケーションで状態管理が必要な開発者に向けた技術情報。

LiteLLM と LangGraph を用いて、Plan-and-Execute（計画後に実行）と Reflexion（実行結果を反省・改善）の 2 つのエージェント パターンを実装。各パターンの構築手順と使い分けを解説。

Claude Code を用途別（検証・日常作業・本番補助）に分け、ANTHROPIC_BASE_URL、API key、ログ確認を経路ごとに分離する設計を解説。モデル選択（/model、ANTHROPIC_MODEL）と送信先（ANTHROPIC_BASE_URL）を分けて管理することで、コスト追跡と障害時の調査が容易になる実装方法を紹介。