Claude Code が対話の相手役を勝手に代筆し、実在しない数字を「ユーザー入力」として扱った事例
Hiroba による自動要約
月1回の家計棚卸しを Claude Code で自動化していたユーザーが、特定のセッション中に Claude が相手の応答を代筆し、さらにそれを自分の入力として処理する現象に遭遇。生ログから、モデルが対話の役割境界を超えてテキストを生成し、捏造された数字が「ユーザー提供値」として実際の値と並べられ、判断を求められたことが判明した。
読んで良かったら、シェアしてみてください。
同じタグの記事が他に 3825 件あります。
関連する記事
同じタグの記事
「Vibe Coding」はもう卒業！プラグイン「Superpowers」でClaude Codeに開発SOP を導入する
QiitaClaude Code で AI がいきなりコードを書く「Vibe Coding」の問題を解決するオープンソースプラグイン「Superpowers」を紹介。仕様の明確化・設計・テスト駆動開発・レビューを強制する 7 フェーズパイプラインにより、手戻りの削減と品質の安定化を実現する。
Claude Code だけで要件定義から本番デプロイまで完走した話 - サモエドカフェのファンサイトを実働10時間で作った
Zenn個人開発者が Claude Code を要件定義から本番デプロイまで使い、サモエドカフェのファンサイト「アルファン」を実働10時間未満で完成させた。並列エージェントで7件の Issue を同時処理し、本番バグとデータ消失も AI の支援で復旧。開発のプロセスが「コード実装」から「仕様判断と品質確認」にシフトした実例
Claude「Computer Use」を本番環境で安定稼働させるための実践ガイド
ZennAnthropic公式がComputer Use機能を本番環境で信頼性高く動作させるためのノウハウを公開。クリック精度改善、Thinking Effortの選択、コンテキスト管理、デモンストレーション記録など4つのポイントを通じ、UIを自律操作するエージェントの実装と運用方法を解説している。
Claude Code v2.1.246 リリース - Bash 警告とゲートウェイ API キー送信の修正
DevIOClaude Code v2.1.246 がリリースされ、61 件の変更が入りました。/permissions に Auto mode タブが追加され分類器ルールの閲覧・編集が可能に。Bash 許可ルールのワイルドカード使用時に起動時警告が表示されるように、またサードパーティゲートウェイ向けに設定された API キーが誤って Anthropic 宛リクエストに含まれていた問題が修正されました。