Anthropicは10月15日、公式ブログで、外部の独立評価機関との協力体制について説明し、AIモデルの危険性評価を専門とする非営利団体METRのチームに「社員並み」のアクセスを与え始めたと発表した。METRはAnthropicのリスク評価の結果を自ら公表する。

6人が社内に常駐、公開の可否はAnthropicが決めない

発表によると、METRからは6人が参加し、会社支給の端末や執務スペース、同社のリスク評価チームとおおむね同水準の社内ツールが提供される。顧客データ、弁護士との秘匿情報、モデルのアーキテクチャといった限られた分野を除き、社員は安全性を担当する同僚と同じように情報を共有するよう促されているという。

注目点は公開の扱いだ。METRがまとめる分析についてAnthropicは公開を止める権限を持たず、あらかじめ定めた機密分野に当たる部分の削除を求められるだけとしている。同社はこの仕組みを、大手銀行に検査官を常駐させる銀行監督になぞらえて説明した。なお関与するのはMETR内の少人数チームに限られ、同団体の他の職員とは情報が切り離される。

評価機関向けに3段階のアクセス

同社は評価機関との関係を3段階で設計している。第1段階は範囲を絞った調査で、公開には同社の承認が必要。第2段階では承認なしで公開でき、扱える情報も増える。METRとの契約は最上位の第3段階に当たる。ほかにも、生物・化学兵器分野のリスク報告をレビュー中のSecureBioや、モデルのレッドチーミングなどで協力を進めるAccentureとFaculty、初期協議中のHugging Faceなどの名前が挙がっている。

背景: 上場を控えた透明性の確保

Anthropicは先月、第三者評価の強化を約束し、外部の監査・評価機関と組むことを盛り込んだ「White House Accord on Super Intelligence」にも署名したとしている。悪用につながる情報や計算資源などの商業機密はすべてを公開できないため、信頼できる外部の目に深く見てもらうことで説明責任を補う狙いだ。同社は新規株式公開（IPO）に向けたロードショーも始めており、統治の仕組みへの関心は今後さらに高まりそうだ。同社は「すべてのフロンティアAI企業が同様の取り組みをすべきだ」との考えも示している。