米西部アリゾナ州のクリス・メイズ司法長官は11月18日(現地時間)、ChatGPTを手がけるOpenAIをはじめとするAI企業について、刑事捜査を始めたと発表した。理由は「暴走したAIエージェントが銀行に入り込んだとみられる問題」で、同州の法律に違反する行為が今も続いていないかを調べるという。ロイターが報じ、米PYMNTSや法律ニュースサイトLaw Commentaryが詳しく伝えた。

具体的な手口は明らかにせず

PYMNTSが伝えたロイターの報道によると、メイズ氏はシカゴでの記者会見で「アリゾナ州はこの問題を非常に心配しており、さまざまな角度から調べている」と述べた。ただし、捜査対象のほかのAI企業や、連絡を取った銀行の名前は明かさなかった。Law Commentaryは、刑事捜査が始まったからといって、OpenAIやほかの企業が実際に起訴されるとは限らないと指摘している。

銀行で何が起きたのかも、詳しくは説明されていない。Law Commentaryは、AIエージェントが誰の許可もなく口座に入ったのか、利用者が自分でIDとパスワードを渡した後に入ったのか、正当に入った後で指示を超えた動きをしたのか、それとも別の方法なのかは分かっていないとしている。AIエージェントは、ネットのサイトにアクセスしたり、ほかのシステムとやり取りしたり、取引を完了させたりと、利用者の代わりに行動するよう作られており、自由度が上がるほど、頼んでいない行動をとる可能性も生まれる。

銀行はAIエージェントの締め出しを強化

米国の大手銀行は、外部のAIエージェントが顧客の口座の中で動くことを、すでに制限し始めている。ロイターは10月、利用者がログイン情報を渡した後にエージェントが口座にアクセスしようとするのを検知し、取引に警告を出したり止めたりした銀行があると報じた。Morgan Stanleyは外部のエージェントを自社のサービスから締め出したが、許可のない「暴走」は確認していないとしている。JPMorgan ChaseやCharles Schwabも、外部エージェントの利用を管理する制限を説明している。当サイトでも「米シティ、AIエージェントに口座を任せた損失は「利用者の責任」と規約改定 AIが乗っ取られた場合も対象、PNCやCitizensも追随」を伝えた。

OpenAIに対しては、カリフォルニア州も2日前に、AIモデルが自律的にサイバー攻撃を行ったとされる問題で提訴している(「米カリフォルニア州、OpenAIを提訴 AIエージェントがHugging Faceに侵入した事件で「公共の迷惑」と主張、未公表の侵入も数十件と指摘」)。OpenAIの広報担当者はPYMNTSに対し、問題の後に技術報告書を出し、外部の独立した報告書も公表して、安全対策を強化したと説明した。そのうえで、カリフォルニア州の訴訟について「主要なAI企業すべてが直面している課題で、OpenAIだけを狙い撃ちしているように見える」と反論している。