チャットに奇妙なプロンプトインジェクションが出現する報告

Web校正ツール fuSen の開発者が、セキュリティについて専門知識がないため Claude に「できることは全部やってほしい」と指示し、複数のセキュリティヘッダーを実装。結果として、同業の老舗ツール Markup より多くのセキュリティ対策が施され、個人開発でもプロレベルのセキュリティが実現できたという実例。

Anthropic が発表した Mythos/Fable クラスモデルの新規約では、ユーザが入力したプロンプトと出力は信頼・安全性確保のため 30 日間強制的に保持される。従来の Enterprise ユーザや Bedrock 経由では「学習に使用しない」が明記されていたが、この新規約との矛盾が生じるため、機密情報を扱う企業はセキュリティ担当者と共に利用可否を判断する必要がある。

汎用チャットボットではなく、子供ごとにパーソナライズ（名前・学年・読解レベル・興味）し、入出力に安全ゲートを設けた子供向け AI チャットボットを FastAPI + PWA で自作。さらに子供のアイデアを Raspberry Pi Pico 2 W で動く検証済みレシピに変換する発明モードを搭載。安全判定はコード側で厳密に実施し、会話データは自宅サーバー内に留める設計。

Claude を活用した競馬レース分析の汎用プロンプト。v4.1～4.3 の機能を統合し、確証バイアス排除・全頭リスク定量評価・ゲート形式の判断縛りを導入。11 ステップの分析フローと禁止事項・必須要素を明示し、期待値最大化または的中率最大化の目的関数に沿った馬券選択を実現する。