LiteLLMとLangGraphのCheckpointでスレッド単位の会話履歴を永続化してみる

LiteLLMとLangGraphを使用して、LLMの入出力に対する3層のGuardrails（入力ガード・PIIマスク・出力ガード）を実装する方法を紹介。プロンプトインジェクション、個人情報漏えい、有害応答などのリスク対策を正規表現とLLM審判で実現する具体的なコード例を掲載。

iteLLM と LangGraph を組み合わせて Human-in-the-Loop 機能を実装し、エージェントの実行中に人間が判断を介入させる仕組みを構築。エージェントの意思決定を制御・検証したい開発者向け。

LiteLLM と LangGraph を用いて、Plan-and-Execute（計画後に実行）と Reflexion（実行結果を反省・改善）の 2 つのエージェント パターンを実装。各パターンの構築手順と使い分けを解説。

個人開発の読書アプリ Mirre で、AI が過去の読書記録から傾向を言語化する機能を実装する際、感想メモや本の選択が個人の思想信条を推認させうる機微情報になるリスクに直面。入口（LLM への PII 送信禁止）・処理（XML タグによるプロンプトインジェクション対策、人格診断の抑制）・出口（出力の事前フィルタリング）の三段防御で、安全性と UX を両立させた。