安全フィルター

ユーザーが Claude に PC 上の実在するマルウェア検出を依頼したところ、Claude が脅威を特定。しかしその後、Claude 自身の安全フィルターが当該警告を「有害なコンテンツ」と判定し出力をブロックしてしまった。安全機構と実用性のトレードオフが露呈した事例。

タグ: 安全フィルター