開発者が Claude Opus 5.5 に自作ゲームサイト(〇×、リバーシ、将棋、チェス、五目並べ、ポーカーなど)72局で対戦させたところ、1対1ゲームで14勝5分23敗。将棋は0勝6敗、チェスも0勝2分4敗で、推測に反し高度な戦略ゲームで弱さが露呈。一方ばば抜きは全勝、大富豪も好成績。約2時間7分の検証でバグ報告44件も発生。
異なる構造の2つのExcelファイル(明細データと集計レポート)に意図的に4箇所の不一致を仕込み、Copilot・ChatGPT・Grok・Gemini・Claudeの検出精度を比較。Claudeはコード実行(pandas)で全4箇所を正確に検出、Grokは3箇所を検出したが、全AIが識別子の表記ゆれ(Café vs Cafe)を見落とした。