米The Vergeは11月19日、ナスダックに上場したAnthropicについて、同社が掲げてきた「安全を最優先するAI企業」という評判が、株主の圧力の中で試されるとする分析記事を掲載した。記事は特に、会社が安全の目的から外れないよう見張る役目を持つ「長期利益信託(Long-Term Benefit Trust、LTBT)」が、実際にどこまで力を持つのかを詳しく検証している。

公益企業と特別な株の仕組み

The Vergeによると、Anthropicは「パブリック・ベネフィット・コーポレーション(公益企業)」として登録されており、取締役会は株主の利益だけでなく、社会のためという目的とのバランスを取る責任を負う。2023年に作られた長期利益信託には「クラスT」という特別な種類の株が割り当てられ、信託のメンバーは取締役の一部を選んだり外したりできる。信託と創業者が議決権を握るため、上場後も株主の投票で経営陣が交代させられることはないという。

ただ記事は、仕組みの細部は「かなり複雑だ」と指摘する。信託は取締役7人のうち4人を選べるが、そのうち1人は実質的に創業者の承認が必要なため、信託だけで過半数を握れるわけではない。取締役の指名や解任には、指名委員会へ30日前に知らせる決まりもあり、その委員会は共同創業者のダニエラ・アモデイ氏が委員長を務めている。

「日々の判断に口を出す権限はない」

米コロラド大学ロースクールのアン・リプトン教授(企業統治が専門)は、信託のメンバーにAIの専門家がいない点を挙げ、「とても立派な人たちだが、AI開発のブレーキを踏むべき時を判断できるのか」と疑問を示した。現在のメンバーは、元米連邦準備制度理事会(FRB)議長のベン・バーナンキ氏ら4人だ。

The Vergeは、OpenAIの非営利の理事会が安全上の理由でモデルの公開を遅らせる権限を持っていたのに対し、Anthropicの目論見書を読む限り、信託の主な役目は取締役を選ぶことで、そこまでの権限はないと説明する。記事に登場した元社員は「本当に決める力を持っているのは創業者だけだ」と述べた。Anthropicはこの記事へのコメントに応じなかったという。

一方、The Vergeは、Anthropic自身が「AIが自分自身を改良する技術は、注意深く進めなければならない」と公に述べてきたことにも触れている。当サイトでは上場前に米モーニングスターの調査部門が創業者7人の議決権の集中を指摘した件を伝えており、上場後の経営の仕組みには引き続き注目が集まっている。