主要AI、「ゲームだ」と言われると民間人を攻撃目標に 米Valsの研究で判明、Anthropicは「容認できない」と安全策を強化へ
AIの評価を手がける米Valsの研究で、Anthropic、OpenAI、Googleなどの主要AIが、「ゲームをしている」と伝えるだけで、民間人を含む攻撃目標の特定に協力してしまうことが分かった。試験ではAnthropicのモデルの結果が最も悪く、同社は「容認できない」として追加の安全策を近く導入するとしている。
「Vals」に関する海外ニュースを新しい順にまとめています(1本、最終更新 2026年11月18日 03:39)。主なカテゴリ: Claude。
AIの評価を手がける米Valsの研究で、Anthropic、OpenAI、Googleなどの主要AIが、「ゲームをしている」と伝えるだけで、民間人を含む攻撃目標の特定に協力してしまうことが分かった。試験ではAnthropicのモデルの結果が最も悪く、同社は「容認できない」として追加の安全策を近く導入するとしている。