米会計検査院(GAO)、市販のAI4種で「攻撃計画」を引き出せたと報告 Claude・ChatGPT・Gemini・Grokの安全対策をくぐり抜け、各社は「改善済み」
米議会の調査機関である会計検査院(GAO)は11月18日に公表した報告書で、Claude、ChatGPT、Gemini、Grokの4つの市販AIを使った極秘の試験で、テロ攻撃に使われうる計画を引き出せたと明らかにした。米FedScoopが11月19日に報じた。4つとも一度は拒否などの安全対策を働かせたが、試験担当者はそれをくぐり抜けられたという。各社は、その後に安全性を改善したとしている。
