米Anthropicのダリオ・アモデイCEOは、同社株がナスダック市場で取引を始めた米国時間11月19日、取引開始の鐘を鳴らす前にあいさつを行った。米TechCrunchは同日、あいさつの全文を掲載し、アモデイ氏が「AIの訓練と公開のペースを、安全で人間の管理下にあり続けると確信できるまで、必要なだけ時間をかけて調整する」と明言したと報じた。アモデイ氏は「ビジネスの圧力にも、政治の圧力にも屈しない」とも述べた。

父を亡くした経験から始まったあいさつ

TechCrunchによると、アモデイ氏は印刷した原稿を読み上げる形で話した。冒頭では、共同創業者で妹のダニエラ・アモデイ氏とともに、父親を「数年後には治せるようになった病気」で亡くしたことに触れ、それが生物学の研究者として歩み始めたきっかけだったと語った。

そのうえで、ペストや天然痘、ポリオは人間の知恵によって世界の多くの地域で過去の病気になったが、ほかの病気では進歩が遅すぎると指摘した。タンパク質の形の予測や薬の設計、がんの遺伝子研究などで、研究者がClaudeを使って以前よりずっと短い時間で研究を進めていると紹介し、「十分に強力なAIが人と協力すれば、医学の100年分の進歩を10年に縮められる」との考えを示した。ただし「今あるのは初期の結果だけだ」とも付け加えた。

リスクは「避けられる」

アモデイ氏は、AIには個人や国家による悪用、経済の混乱、AIを制御できなくなる危険といった「非常に現実的なリスク」があると認めた。一方で、これらは避けられないものではなく、作る側の選び方次第で避けられると強調した。AIの中身をX線のようにのぞいて仕組みを調べる研究など、同社が安全のための方法を切り開いてきたと説明し、「最も難しい安全の仕事はこれから先にある」と述べた。

TechCrunchによると、アモデイ氏は9月にも、各社で安全基準をそろえることや、外部の評価者を社内に置いて約束が守られているか確かめることなど、AI開発のペースを調整する計画を示していた。OpenAIのサム・アルトマンCEO、Google DeepMindのデミス・ハサビスCEO、xAIのイーロン・マスク氏は賛成を表明したが、具体的な約束はほとんど出ていないという。

上場前日には、OpenAIのアルトマンCEOが「彼らが安全なAIを作っているかは分からない」と発言しており、アモデイ氏のあいさつは、上場を機に安全への姿勢を改めて示す内容になった。ダニエラ・アモデイ氏も同日の米CNBCのインタビューで「リスクを減らすことが私たちの仕事だという考えで会社を作った」と語ったという。