中国の大手AI企業が、新しいAIモデルから「ハッキングに使える力」をあえて削る動きを強めている。米Bloombergが11月16日に報じた内容を、米メディアStartup Fortuneが詳しく伝えた。Moonshot AI、Tencent、Alibabaの3社がサイバー攻撃の能力を抑えたモデルを公開し、Zhipu AIも最も危険な能力を本人確認の手続きの後ろに置く予定だという。中国の主要4社が約3週間のうちに同じ方向へ動いた形だ。

Kimiは攻撃用データを学習から除去

先陣を切ったのはMoonshot AIだ。10月23日に公開した「Kimi K3.1 Pro」について、同社は学習の途中段階のデータや強化学習(試行錯誤で賢くする訓練)の環境に、サイバー攻撃や脆弱性(ソフトの弱点)研究の課題が混じっていたため、一般的なプログラミングの力は残したうえで取り除いたと説明した。その代償は数字に表れている。同社独自の攻撃テストで、データを除いたモデルの正解率は81.0%と、除かないモデルの90.5%から下がった。ただし、このテストは公開されておらず、外部の検証は受けていない。

Tencentも11月4日に公開したオープンソースのモデル「Hy4」で、攻撃用プログラムの作り方や解析、侵入テストの資料を学習から除き、弱点を見つけて直すといった防御側の資料は残したとReutersが報じている。Alibabaの「Qwen4-Max」も同様の方針に沿っているという。

きっかけはAnthropicの警告

数か月前、中国製モデルをめぐる最も大きなサイバーの話題は警告だった。米Anthropicが、ZhipuのオープンなモデルGLM-5.3が、同社が守る側の組織にだけ提供している攻撃検証用モデルClaude Mythos Previewに近い割合で、攻撃の一連の手順を作れると指摘したのだ。さらに、GLM-5.3の安全装置は、ほぼ誰でも使える手口で最大100%外せたともしていた。Zhipuは今回、最も強いサイバー能力を「Cybersecurity Trusted Access」という本人確認付きの窓口に限る方針を示したが、開始時期は明らかにしていない。

Startup Fortuneは課題も指摘する。オープンなモデルは利用者が追加で学習させられるため、削ったデータを十分な機材を持つ人が学ばせ直す可能性があり、研究者は外部の検証を求めている。81%という数字も、5問中4問はまだ解けることを意味する。Kimi K3.1 Proは総数2.8兆のパラメータ(AIの知識の量の目安)のうち1回の処理に1,040億を使う設計で、動かすにはNVIDIAの最新GPU「B300」が約8枚必要だという。中国のモデルをめぐっては、当サイトでもAlibabaが重みを公開しない方針で出したQwen4-Maxを伝えた。