Googleの生成AI「Gemini」を開発するGoogle DeepMindのデミス・ハサビスCEOが、AI業界は大きな事故に向かいかねないと警告した。インドのメディアIndia Todayは11月16日、ハサビス氏がLinkedIn共同創業者リード・ホフマン氏のポッドキャスト番組「Masters of Scale」で語った内容を報じた。

「原油流出」のような事故が起きる

ハサビス氏は、各社がより高性能なAIの開発を急ぐ一方で、安全対策が追いついていないと指摘した。そのうえで、業界全体がもっと注意を払い、多くの資源をこうした仕組みの見守りに回さなければ、「今の流れのままでは、私が時々『原油流出』と呼んでいるような事故が起きるだろう」と述べた。タンカーの事故のように、一度起きると広い範囲に被害が及び、後から取り返すのが難しい事態をたとえたものだ。

同氏が特に危険だとしたのは、AIが自分自身を改良していく「再帰的自己改善(RSI)」のうち、人によるチェックの工程を抜きにして回る「閉じたループ」の段階だ。同氏は「最もリスクが高いのは、人間のレビューを通さずにそれを実現する方法を見つけてしまう次の段階だ」と語り、そうなると「どうやってその仕組みを制御し続けるのか、よく分からない」と懸念を示した。

AlphaZeroは「昼には名人級」

ハサビス氏は、自分で自分を鍛えるAIの例として、DeepMindのAlphaZeroを挙げた。AlphaZeroは自分自身と何百万回も対局してチェスを覚えたAIで、同氏は「朝のうちはまだ何とか勝てたが、昼には名人級になり、夕方のお茶の時間には世界のどのチェスの指し手よりも強くなっていた」と振り返った。

同氏によると、このやり方は数学、プログラミング、ゲームのように、答えが正しいかを機械が自分で確かめられる分野で特に力を発揮する。現在のAIは技術者の生産性を3〜5倍に高めているが、まだ人がコードを見直し、作業を監督している段階だという。人の確認が外れれば開発は一気に速くなる一方で、制御はずっと難しくなる、というのが同氏の見立てだ。

Google DeepMindは最近も、工場で働く人型ロボット向けのGemini Robotics 2.5を発表するなど、AIを現実の作業へ広げている。開発の先頭に立つ企業のトップ自らが、スピードだけでなく見守りの体制づくりを訴えた形だ。