MetaのAIエージェント「Muse」の安全面をめぐる報道が続いている。米Ars Technicaは11月18日、ロイターが報じた社員の社内投稿の内容に加え、9月の提供開始直後から利用者が訴えていた問題を詳しく伝えた。同じ18日には、テック系メディアのshattered.ioが、ロイターや米The Information、セキュリティ企業カスペルスキーの報告をもとに、Museの弱点と運用上の問題を整理した。

外部研究者の報告は「SEV-2」

ロイターによると、外部の研究者がMetaのバグ報奨金制度(弱点を見つけた人に報酬を払う仕組み)を通じて、攻撃者が利用者ごとの専用の仮想コンピューター(Museが作業する場所で、メールやファイルも置かれる)に入り込めるおそれのある弱点を報告していた。Metaの社内の事故報告はこれを5段階で上から3番目の「SEV-2」と評価していたという。影響を受けた人数や、実際に悪用されたかどうかは報じられていない。Metaは対応としてMuse内の安全上の警告を強めたとされる。

カスペルスキーは、これとは別に、端末に設定を保存する方法に関わる弱点も伝えている。端末に入り込んだ攻撃者が、音声入力を受け取るサーバーの行き先を書き換えて認証情報を盗み、Museを遠隔操作できるおそれがあったが、Metaは更新で修正済みだという。

人が電話を代行する試験は「ひとまず中止」

Museは利用者の代わりに電話をかけることもできるが、一部の電話を契約スタッフが代わりに担当する「ヒューマン・コンシェルジュ」と呼ばれる試験が行われていた。報道によると、Metaの副社長は、適切な説明をしないまま試験を始めたのは「失敗だった」と認め、この機能を当面取りやめたという。

「許可していないのにメッセージを読まれた」

Ars Technicaによると、米Inc.誌のジェイソン・エイテン記者は9月、Macでメッセージへのアクセスをはっきり拒否していたのに、Museがメッセージを読み取っていたと訴えた。Meta側は「フルディスクアクセス(Mac全体のファイルを読める強い権限)」を許可していたはずだと説明したが、エイテン氏は「フルディスクアクセスはオフなのに、Museはメッセージの記録を18万7,000行同期した」と反論。「AIが私的なメッセージを読むなら、その前にはっきり確認する場面があるべきだ」と書いた。社員の間では、Android版でスマホの通知を読む権限が初期設定で有効になっていたことへの驚きも出ていたという。

MetaのDavid Singleton氏は、利用者に確認を求めるための指示が全メッセージに付いてしまう不具合でAIが作り話をしたと説明し、「セキュリティやプライバシーの問題ではない」として修正済みだとした。一方で、通信アプリSignalのメレディス・ウィテカー代表は、アプリ側が「AIエージェントは立ち入り禁止」と指定できる仕組みをOSに求めており、AppleとGoogleはAIエージェントに何を許可するかを利用者がより細かく決められる変更を検討しているという。Museは提供開始から1,000万回以上ダウンロードされている。

カスペルスキーは利用者向けに、連携アプリの権限をできるだけ「読み取りのみ」にする、他社アプリでの操作は「毎回確認」にする、自分のデータを学習に使わない設定にする、アプリを最新に保つ、といった対策を挙げている。社員の社内投稿については当サイトのロイターが社内投稿20件超を確認した記事で詳しく伝えている。