LiteLLMとLangGraphで構築したAIエージェントをFastAPI・Streamlit・Dockerでデプロイする

LiteLLMとLangGraphを使用して、LLMの入出力に対する3層のGuardrails（入力ガード・PIIマスク・出力ガード）を実装する方法を紹介。プロンプトインジェクション、個人情報漏えい、有害応答などのリスク対策を正規表現とLLM審判で実現する具体的なコード例を掲載。

LangChain純正の観測プラットフォーム LangSmith を使用して、LiteLLM + LangGraph で構築したエージェントのトレース可視化とデータセット評価を行う方法を解説。環境変数設定のみで自動的にLLM呼び出し・ツール実行・ノード遷移を階層構造で追跡でき、本番運用時の動作検証が可能。

iteLLM と LangGraph を組み合わせて Human-in-the-Loop 機能を実装し、エージェントの実行中に人間が判断を介入させる仕組みを構築。エージェントの意思決定を制御・検証したい開発者向け。

LiteLLMとLangGraphのCheckpoint機能を組み合わせ、スレッド単位の会話履歴をデータベースに永続化する実装方法を解説。マルチスレッド会話アプリケーションで状態管理が必要な開発者に向けた技術情報。