OpenAI、外部の安全評価4団体と契約 Apollo Research・METRなどが社内に入りソースコードや学習データも確認
OpenAIは11月16日、AIの安全性を外部から確かめる4つの評価団体(Apollo Research、METR、Transluce、Goodfire)と契約したと発表した。各団体は社員に近い権限で社内のソースコードや学習データなどにアクセスし、AIの振る舞いや安全対策を試験的に評価する。
「AI安全性」に関する海外ニュースを新しい順にまとめています(3本、最終更新 2026年11月17日 03:26)。主なカテゴリ: ChatGPT。
OpenAIは11月16日、AIの安全性を外部から確かめる4つの評価団体(Apollo Research、METR、Transluce、Goodfire)と契約したと発表した。各団体は社員に近い権限で社内のソースコードや学習データなどにアクセスし、AIの振る舞いや安全対策を試験的に評価する。
GeminiなどのAIを開発するGoogle DeepMindのデミス・ハサビスCEOが、ポッドキャストで「今のままでは原油流出のような事故が起きる」と述べ、AIエージェントの見守りと安全対策にもっと資源を割くよう業界に呼びかけた。特に、人の確認を通さずにAIが自分自身を改良していく段階が最も危ういという。
Anthropicは11月13日、AIモデルの安全性を測る「安全性評価(セーフティ評価)」を正しく作るための指針を公式サイトで公開した。心理学の再現性改革を手本にした手法を紹介し、自社の事故を受けてインターネットにつながる評価の多くを一時停止したことも明らかにした。