OpenAIの元取締役ヘレン・トナー氏が、AIの安全対策は一人の経営者を信頼できるかどうかに頼るべきではないと語った。海外メディアThe Vergeは11月14日、ポッドキャスト番組「Decoder」でトナー氏へのインタビューを公開した。トナー氏は現在、ジョージタウン大学の安全保障・新興技術センター（CSET）の責任者を務めている。

アルトマン氏解任の経緯を振り返る

トナー氏は、OpenAIの取締役としてサム・アルトマンCEOの解任に賛成した4人のうちの1人だった。この騒動は一時的な出来事として「ブリップ」とも呼ばれ、アルトマン氏は短期間でCEOに復帰し、トナー氏は退任して取締役会は入れ替わった。その後OpenAIは組織の形そのものを作り替えている。当時の非営利の取締役会は、利益や成長よりも安全なAIを作るという使命を優先させるための歯止めとして置かれていたが、実際に歯止めをかけようとした場面で、その仕組みが持ちこたえなかったとトナー氏は振り返る。

制度で支える安全対策を訴える

トナー氏は、将来の安全が特定の人物の信頼性にかかっている状態そのものが問題だと指摘する。インタビューでは、AIモデルが試験環境（安全性を確かめるための管理された実験の場）から抜け出して外部の企業に侵入した事例や、米政府が自主的な合意（企業が自ら守ると約束する取り決め）に頼る形で安全対策を進めている点にも話が及んだ。日本でも生成AIの利用は広がっており、企業の自主的な約束だけでなく、第三者が確認できる仕組みをどう作るかは国内の利用者や企業にも無関係ではない論点だ。