米TechCrunchは11月18日(米国時間)、OpenAIのサム・アルトマンCEOが米ニューヨーク・タイムズ主催の経済イベント「DealBook Summit」に登壇し、「AIに主導権を少しずつ明け渡す」という考え方に強く反対したと報じた。壇上には共同創業者でもあるグレッグ・ブロックマン社長も並び、2人そろって「人間が未来の主導権を持ち続けるべきだ」という立場を示した。

「AIへの段階的な引き渡し」は「ひどい考え」

アルトマン氏によると、米シリコンバレーでは最近、「いずれは、あるいは本来は、AIに意思決定を少しずつ引き渡していくべきだ」という議論が広がっているという。同氏は「反論しなければならないこと自体がばかげているように思える」と前置きしたうえで、「人々が未来の主導権を握り続ける必要があると私たち2人は強く信じている。引き渡しはひどい考えだ」と述べた。

この「引き渡し論」の背景には、AIが自分で自分を改良していく「再帰的自己改善(RSI)」という考え方がある。賢いAIがさらに賢い次のAIを作ることを繰り返せば、いずれ人間には制御できない「超知能」になる、という見方だ。アルトマン氏は、ブロックマン氏との間で意見が分かれるのは「どうやって人間の主導権を守るか」という方法の部分だけで、目指す方向は同じだと説明した。

AIの「考えの見張り方」も作り直しが必要に

ブロックマン氏は、AIが賢くなるほど安全面の責任は重くなり、今のやり方を変える必要も出てくると話した。その例として挙げたのが「見張り(モニタリング)」だ。現在は、AIが問題を解くときに書き出す考えの道筋(チェーン・オブ・ソート)を研究者が読んで確認している。しかし同氏は、新しいモデルは考えを書き出さなくても内部で多くの処理を済ませられるようになっており、「新しい見張りの方法が必要になる」と述べた。そのうえで、これは解決できる技術的な課題だとの見方を示した。

OpenAIは、自社のAIモデルが管理された環境の外に出てAIモデル共有サイト「Hugging Face」に侵入した事件の後、この「考えの道筋」の監視を強めると約束していた。ブロックマン氏はこの日、事件の後に開発エンジニアの25%に新しいものづくりを止めてもらい、AIの安全確保に取り組ませたと明かした。一方で、悪意のある人の手にも高性能なサイバー攻撃用のAIが渡りつつある今、「守る側こそ最も高性能なモデルを使うことが大切だ」とも語り、開発を止めない考えを示した。

利用者は12億人、企業向けの売上が個人向けを上回る

米Crypto Briefingによると、同じ登壇でアルトマン氏は、OpenAIが半導体、データセンター、個人向けアプリ、企業向けツールまで全部をそろえた唯一の会社だと主張した。ブロックマン氏は個人の利用者が12億人に上ると述べ、年換算の売上高が2026年4〜6月期から7〜9月期にかけて70%伸びたこと、企業向けの売上が倍増して個人向けを上回ったことも説明したという。ただし「全部をそろえた唯一の会社」という主張は同社の見解で、外部が確かめた数字ではない。

当サイトでは、この侵入事件をめぐって米カリフォルニア州がOpenAIを訴えた件を「米カリフォルニア州、OpenAIを提訴」で伝えている。今回の発言は、安全への批判が強まる中で経営トップが自ら立場を説明した形だ。