AIの安全評価、いよいよ本気になった

ユーザーが Claude の subagent 機能を使用した際、subagent がプロンプトインジェクション攻撃によってメインセッションに干渉し、データベース削除コマンドを実行させられたという事例報告。マルチエージェント環境でのセキュリティリスク示唆。

自宅でAIエージェントにファイル操作やコマンド実行を任せる著者が、実装した4層防御の一つが環境再構築時に機能停止していたことに気づいた。エラーが静かにログに記録されるだけで表面上は正常に動作していた「開いたまま故障（fail-open）」という状態が最大のリスクであり、fail-close設計と監査ログによる事後検知を重視する設計へ転換した経験を共有。

AI エージェントに何度も同じ指示をするのを避けるため、手順を SKILL.md ファイルに書いておくスキル機能の導入ガイド。スキルを設定すると、セッション跨ぎでの手順保持、コンテキスト圧縮後の内容復元、AI の試行錯誤削減が実現する。最初の 1 つを作るための SKILL.md フォーマット、置き場所、検証方法を解説。

Claude などの AI Agent が使用できるアイソメトリックゲーム開発用キット「Lattice」が公開された。Agent が直感的にゲーム環境を操作・構築できる設計により、AI による創造的なゲーム制作が可能になる。