Googleの脅威インテリジェンスグループ(GTIG)とセキュリティ子会社のMandiantは11月16日、サイバー攻撃者による生成AIの悪用状況をまとめた最新の報告書をGoogle Cloudの公式ブログで公開し、AIエージェントを使った攻撃が「重大な節目を越えた」と警告した。同じ日、米連邦捜査局(FBI)も、AIを使った自動攻撃ツールに関する注意喚起を出したと米TechCrunchが報じている。
人が指示しなくても攻撃が進む
報告書によると、攻撃者はAIに1つずつ質問する段階を越え、複数のAIエージェントが連携して侵入の各段階を自動で進める仕組みを使い始めている。具体的には、本来はセキュリティ診断(侵入テスト)のために作られたオープンソースの道具である「ARTEX」「CAIRN」「CyberStrikeAI」「PentAGI」などが、実際の攻撃に悪用されていることを複数確認したという。ソフトの修正内容をAIで分析して、まだ更新していないサーバーの弱点を素早く突く手口も広がっている。
このほか、企業から盗んだAIサービスの認証情報やクラウドの計算資源を使い、高性能なAIへのアクセスを闇市場で転売する「LLMジャッキング」、国家が関わるグループによる偽の人物像や合成メディアの大量生産、AIのコーディング支援ツールの設定を書き換えて裏口を仕込む新しいサプライチェーン攻撃も報告された。
FBI「3時間未満で侵入」の例も
TechCrunchによると、FBIは最新の注意喚起で、Artexのような道具が金融、政府、IT、防衛、通信、法律事務所などへの攻撃に使われていると指摘した。Artexは7月に公開された道具で、AnthropicやOpenAIなどの大規模言語モデル(LLM)にも、オープンなモデルにもつなげられる。通信量が多く目立ちやすい一方、攻撃の速度が速く、狙いを定めてから侵入まで「3時間未満」の例もあるという。韓国の金融機関への攻撃では、少なくとも6万8,000人分の個人情報が盗まれた。
多くの攻撃は、弱いパスワードや盗まれた認証情報、多要素認証(パスワード以外の確認手段)の未設定といった基本的な弱点を突いている。Googleは、自社のAIモデルの悪用対策や不正アカウントの停止を続けているとしている。利用者にとっては、多要素認証の設定とソフトのこまめな更新が、引き続き最も効果的な守りになる。











