「AI安全性」の最新ニュース

「AI安全性」に関する海外ニュースを新しい順にまとめています(3本、最終更新 2026年11月17日 03:26)。主なカテゴリ: ChatGPT。

ChatGPT報道

OpenAI、外部の安全評価4団体と契約 Apollo Research・METRなどが社内に入りソースコードや学習データも確認

OpenAIは11月16日、AIの安全性を外部から確かめる4つの評価団体(Apollo Research、METR、Transluce、Goodfire)と契約したと発表した。各団体は社員に近い権限で社内のソースコードや学習データなどにアクセスし、AIの振る舞いや安全対策を試験的に評価する。

Gemini報道

Google DeepMindのハサビスCEO、AIは「原油流出のような事故」に向かうと警告 人の確認なしで自ら改良するAIが最大のリスク

GeminiなどのAIを開発するGoogle DeepMindのデミス・ハサビスCEOが、ポッドキャストで「今のままでは原油流出のような事故が起きる」と述べ、AIエージェントの見守りと安全対策にもっと資源を割くよう業界に呼びかけた。特に、人の確認を通さずにAIが自分自身を改良していく段階が最も危ういという。

Claude公式

Anthropic、AIの「安全性テスト」の作り方を公開 ネット接続の評価を一時停止し監視を強化

Anthropicは11月13日、AIモデルの安全性を測る「安全性評価(セーフティ評価)」を正しく作るための指針を公式サイトで公開した。心理学の再現性改革を手本にした手法を紹介し、自社の事故を受けてインターネットにつながる評価の多くを一時停止したことも明らかにした。

関連キーワード