米WIREDは11月19日、GoogleのChromeチームが、AIにWebサイトを操作させる機能を安全に育てるため、外のインターネットから切り離された巨大な「もう一つのインターネット」を作っていたと報じた。Googleはこの環境を「ミラー・ディメンション(鏡の世界)」と呼び、同日公開のブログで初めて詳しく説明したという。ChromeのAI閲覧機能には、Googleの「Gemini」のモデルが使われている。

本物のネットで練習させられない理由

WIREDによると、Webを操作するAIは、本物のサイトの作りや動きに慣れていなければならず、サイトに仕込まれた攻撃への備えも必要になる。しかし、限られた試験用の環境だけで訓練しても効果は小さい。AIは「いまは試験中だ」と気づくと普段と違うふるまいをすることがあり、これは「評価の自覚(eval awareness)」と呼ばれる。かといって、未熟なAIをいきなり本物のインターネットに放つのは危険だ。

そこでChromeチームが作ったのが、Googleが全体を管理する閉じたネット空間だ。SNS、買い物サイト、銀行の管理画面など、本物のWebサイトと同じ部品や性質を備えた多数のサイトが並び、AIは本物のChromeの上で、実際のネットと同じように作業をこなす。その途中で、ページに隠された「AIへの不正な指示」(プロンプトインジェクション)に引っかからないかも試される。

サイト作りもAIが担当

この環境自体を作るのも大仕事だった。本物のWebに近い規模と多様さが必要だったため、チームは専用の仕組みで動く大量の「サイト制作AI」を使い、買い物サイトでの割引コードの入力やSNSのページの中身まで、本物らしいサービスを短期間で作り上げたという。Chromeの安全確認の仕組みを通すため、偽の証明書を作るなどの手間もかけたが、チームは「全体を管理できる特別な環境だからできたことで、一般の利用者に同じ攻撃はできない」と強調している。

ChromeのAIセキュリティ担当のチャールズ・チエン氏は「どの利用者が、どのサイトで、どんな指示を出すかは予測できない。Webは敵だらけだ」と語り、AIが作業に本当に必要な情報を見分け、確認が必要な場面で利用者に判断を戻す「成熟した判断力」を身につけつつあると説明した。エンジニアリング責任者のダグ・ターナー氏は「これは第一歩で、今後も投資を続ける」と述べ、社内外の他のチームにもこの方法を勧めたいとしている。

Googleは今週、Mac版GeminiにAIがアプリやWebを代わりに操作する機能を追加しており、AIに操作を任せる機能の安全性はますます重要になっている。