MetaのパーソナルAIエージェント「Muse」は11月2日、公式ブログで、バグ報奨金（バグバウンティ）プログラムの支払い総額が100万ドルを超えたと発表した。脆弱性を見つけて責任ある形で報告したセキュリティ研究者に支払うもので、これまでに約120万ドルを支払ったという。

630件超の報告、有効な問題は64件

プログラムは4月から非公開で始まり、Museが一般公開された9月8日からは誰でも参加できるようになった。これまでに630件を超える報告があり、そのうち64件が有効な問題と認められた。

最高額は30万ドルで、公開の4か月前に支払われた。社員がテストに使っていた公開前の仮想マシンで、会話やトークンにアクセスできてしまう不具合だった。ローカルのHTTPSプロキシが付ける情報を「信頼できる経路から来た証拠」として扱っていたところ、システム移行でプロキシが2段になり、外部からの通信にも同じ情報が付くようになっていたという。Museはサービスを止めて対処し、端末側を無条件に信頼する仕組みそのものをやめた。Museは、最高30万ドルという額は他の大手AI企業が公表している上限の数倍だとしている。

AIエージェントならではの攻撃も

AIエージェント特有の攻撃も報告された。Webページの要約を頼まれたMuseに対し、ページ内でMuse自身のブラウズ機能の表示をまねて、本来止めるべき操作をさせる「プロンプトインジェクション」で、9万ドルが支払われた。Museは検知の手がかりを増やし、元の攻撃と100通りの変形パターンを検出できるようにしたという。ほかにも、メール内のワンタイムパスコードを隠す処理をすり抜ける書式や、Androidアプリで悪意あるアプリが認証情報を盗める不具合などが見つかり、修正された。

AIに個人のアカウントを任せるサービスでは、こうした安全対策をどこまで公開するかが信頼の目安になる。Museの招待コードについてはこちらの記事で紹介している。