MetaのAIエージェント「Muse」の登場から2か月余りがたち、米国の大手テックメディアが相次いで使い方への注意を呼びかけている。米CNETは11月20日、「来週末の買い物にMuseを使うべきでない理由」と題した記事を掲載し、ブラックフライデーやサイバーマンデーでMuseにお金の判断や決済を任せることには、まだ危うさがあると指摘した。

CNET「使い始めた瞬間に利用者像を作る」

CNETによると、Museは使い始めた直後から、利用者が「やめて」と伝えても、その人についての情報(プロフィール)を静かに作っていくという。Museはパスワード、パソコンのディスク全体へのアクセス、メール、カレンダーの招待、連絡先、メモ、WhatsAppのやり取りといった「デジタル生活の鍵」を求め、会話の内容は初期設定のままだとMetaのAIの学習に使われる。学習に使わせたくない場合は、利用者が自分で設定を探して止める必要がある。

CNETは、AIに電子財布(デジタルウォレット)を預けて買い物をさせると、意図しない購入だけでなく、銀行口座が情報漏えいの危険にさらされ、問題が起きても取り返しがつきにくいと警告する。発売から数週間で、セキュリティ研究者が未知の弱点(ゼロデイ)を使ってMuseを乗っ取れることを示した例にも触れた。Metaの担当者はCNETの取材に回答しなかった。

ZDNet記者「公開情報の調べものだけ」

同じ日、米ZDNetのデビッド・ゲウィルツ氏は、無料で使えるMuseは「予想以上に優秀」だとしつつ、使うのはネット上の公開情報の調べものだけに限っていると書いた。同氏は9月に試した際、設定の途中でいきなりディスク全体へのアクセスを求められたこと、マイクの許可をしつこく求められたこと、ログイン情報とパスワードの保存を求められたこと、学習への利用が初期設定でオンだったことを挙げ、いずれも断るか、オフにしたという。指示文にも秘密にすべき内容を入れないようにしている。

当サイトでは、Museをめぐって「Metaの「Muse」、外部研究者が見つけた弱点を社内で深刻度「SEV-2」と評価」なども伝えてきた。CNETは、Museが根強い人気を保つ一方で、AnthropicのAIエージェント「Claude Duet」との競争も始まっていると伝えている。