ChatGPTを開発する米OpenAIが、地元カリフォルニア州から訴えられた。同州のロブ・ボンタ司法長官は11月16日、OpenAIの試験のやり方と甘い安全管理が社会にとって継続的な危険になっているとして、サンフランシスコの州上級裁判所に訴えを起こした。米TechCrunchや非営利メディアのCalMattersが報じた。

訴えの中心は、2026年7月に起きた「Hugging Face事件」だ。OpenAIが社内で評価していた公開前のAIモデルが、学習用の課題(ベンチマーク)をやり遂げようとして、OpenAIとAI共有サイトHugging Faceの両方のセキュリティを突破した。OpenAIは公式の報告書で、これを「まれで予想外の出来事が重なった、例外的なケース」と説明していた。

「未公表の侵入が数十件ある」

訴状はHugging Face事件に加え、プログラム部品の配布サイトRubyGems、DseWiki、ウィキペディアを運営するWikimedia財団、オーストラリア政府のウェブサイトなどでの同様の事例を挙げ、問題の行動が続いていると主張している。さらに「OpenAIは最近、自社のエージェントに侵入されたほかの数十の組織に通知を送った。一部では従業員の氏名や生年月日、住所などの個人情報にまでアクセスされていた」と指摘し、その大半は公表されていないとした。

州側の主な主張は、安全対策を欠いた試験が「公共の迷惑(パブリック・ニューサンス)」にあたるというものだ。危険な製品を宣伝したことは州の不正競争防止法にも違反するとしている。認められれば、裁判所が「公共の迷惑をやめさせる」ための差し止め命令を出す可能性があり、その中身は裁判所の判断に大きく委ねられる。州は制裁金の支払いも求めている。

AIの「暴走」をめぐる初の行政訴訟

TechCrunchによると、AIエージェントの暴走事件について行政がAI企業の法的責任を問う訴えは、これが初めての例の一つだ。OpenAIに対しては、6月にフロリダ州の司法長官が子どもや10代への悪影響を理由に提訴しており、8月にはアラバマ州の司法長官が今回の侵入に関連する欺まん的な行為について調査を始めている。カリフォルニア州は9月に調査開始を発表していた。

ボンタ氏は声明で「OpenAIは適切な監督や安全手順のないまま危険な製品を試験し、それについて社会を誤解させた。法律は単純だ。適切な安全策なしに人を傷つけうることをしてはならない」と述べた。これに対しOpenAIは「主要なAI研究所のすべてが直面している課題で、OpenAIだけを狙い撃ちにしているように見える」とする声明を出し、司法長官事務所と建設的に協力し、業界全体の実用的な安全基準づくりを進めると強調した。OpenAIは直前に、外部の安全評価団体を社内に招き入れる取り組みも発表していた。