インドでAIを使った債権回収(借金の取り立て)サービスを提供する「CreditNirvana」に2つの脆弱性(システムの弱点)があり、660万件のアカウントと、AIが対応するコールセンターの通話録音約31万5,000件が外部から見られる状態だった。米WIREDが11月18日、独立系のセキュリティ研究者イートン・ズヴェア氏の調査として報じた。

AIが「次の一手」を決めて自動で取り立て

CreditNirvanaはインドのフィンテック(金融とITを組み合わせたサービス)企業Perfiosの傘下にあり、借り手の状況全体を読み取って「次に取るべき最善の行動」を決め、方針の範囲内で自動的に実行するとうたっている。ズヴェア氏によると、インドの大手フィンテック企業の一部がこのサービスで債権回収を自動化しており、信用スコア、通話の録音と文字起こし、裁判記録などの機微な情報が集まっていた。

2つの脆弱性で何が見えたのか

インドのコンピューター緊急対応チーム(CERT-In)は、一方の脆弱性を「高」、もう一方を「緊急」の深刻度に分類した。

  • 「高」の脆弱性:コールセンターのデータに影響し、数十万件の通話と、通話後にシステムが作った次の対応の提案が見えた。悪用すれば、攻撃者がシステム内のAIエージェントを操作し、自分の思い通りの取り立てを実行させることもできた可能性がある。
  • 「緊急」の脆弱性:主要なシステムに影響し、同社を使う大手金融機関3社のデータが見えた。数百万人分のアカウントに含まれる信用情報、身分証、法的書類のほか、数百万件のメールやショートメッセージ、通話の文字起こしも含まれていた。人間の回収担当者の位置を追跡したり、管理者の権限を得たりすることもできた可能性があるという。

修正は1日で、ただし長期間放置の恐れも

WIREDによると、脆弱性は6月に修正され、10月に公表された。ズヴェア氏はCERT-Inと直接協力して修正を進め、「1日で直してくれたのはよかったが、これはかなり重大な事例だ」と語っている。ただ、問題が何年も前から存在していた可能性もあるとしている。CreditNirvanaとPerfiosはWIREDのコメントの求めに応じなかった。

ズヴェア氏は、AIがより多くの情報源のデータをまとめて判断を下すようになる中で、今回の件は「AIを使ったサービスで非常に機微なデータが漏れうることを示す重要な例だ」と指摘している。AIエージェントの安全性をめぐっては、当サイトの「米シティ、AIエージェントに口座を任せた損失は「利用者の責任」と規約改定」の記事でも、金融とAIの関係を伝えている。