ローカルLLM 報道
中国のAI各社、新モデルの「ハッキング能力」を意図的に抑制 Kimi K3.1 Proは攻撃テストの正解率90.5%→81%、Zhipuは本人確認制に
カテゴリ: ローカルLLM
執筆: KEN TECH TIMES 編集部
約4分で読めます
この記事を聴く(約5分)
音声は公式マスコット「ロボ」の声で、記事の要点を読み上げています。文字で読みたい方は、このまま下の本文をお読みください。
要点中国のMoonshot AI、Tencent、Alibabaが、サイバー攻撃に使える能力を意図的に弱めた新しいAIモデルを相次いで公開した。誰でもダウンロードできるオープンなモデルも含まれる。Zhipu AIも最も危険な能力を本人確認の後ろに置く方針で、中国の主要4社が約3週間で同じ方向に動いた。
イラスト: KEN TECH TIMES
中国の大手AI企業が、新しいAIモデルから「ハッキングに使える力」をあえて削る動きを強めている。米Bloombergが11月16日に報じた内容を、米メディアStartup Fortuneが詳しく伝えた。Moonshot AI、Tencent、Alibabaの3社がサイバー攻撃の能力を抑えたモデルを公開し、Zhipu AIも最も危険な能力を本人確認の手続きの後ろに置く予定だという。中国の主要4社が約3週間のうちに同じ方向へ動いた形だ。
Kimiは攻撃用データを学習から除去
先陣を切ったのはMoonshot AIだ。10月23日に公開した「Kimi K3.1 Pro」について、同社は学習の途中段階のデータや強化学習(試行錯誤で賢くする訓練)の環境に、サイバー攻撃や脆弱性(ソフトの弱点)研究の課題が混じっていたため、一般的なプログラミングの力は残したうえで取り除いたと説明した。その代償は数字に表れている。同社独自の攻撃テストで、データを除いたモデルの正解率は81.0%と、除かないモデルの90.5%から下がった。ただし、このテストは公開されておらず、外部の検証は受けていない。
Tencentも11月4日に公開したオープンソースのモデル「Hy4」で、攻撃用プログラムの作り方や解析、侵入テストの資料を学習から除き、弱点を見つけて直すといった防御側の資料は残したとReutersが報じている。Alibabaの「Qwen4-Max」も同様の方針に沿っているという。
きっかけはAnthropicの警告
数か月前、中国製モデルをめぐる最も大きなサイバーの話題は警告だった。米Anthropicが、ZhipuのオープンなモデルGLM-5.3が、同社が守る側の組織にだけ提供している攻撃検証用モデルClaude Mythos Previewに近い割合で、攻撃の一連の手順を作れると指摘したのだ。さらに、GLM-5.3の安全装置は、ほぼ誰でも使える手口で最大100%外せたともしていた。Zhipuは今回、最も強いサイバー能力を「Cybersecurity Trusted Access」という本人確認付きの窓口に限る方針を示したが、開始時期は明らかにしていない。
Startup Fortuneは課題も指摘する。オープンなモデルは利用者が追加で学習させられるため、削ったデータを十分な機材を持つ人が学ばせ直す可能性があり、研究者は外部の検証を求めている。81%という数字も、5問中4問はまだ解けることを意味する。Kimi K3.1 Proは総数2.8兆のパラメータ(AIの知識の量の目安)のうち1回の処理に1,040億を使う設計で、動かすにはNVIDIAの最新GPU「B300」が約8枚必要だという。中国のモデルをめぐっては、当サイトでもAlibabaが重みを公開しない方針で出したQwen4-Maxを伝えた。

ロボとペラの用語解説「強化学習」って?
AIに何度も試させて、うまくいったらほめ、失敗したら直させることで賢くする訓練の方法だよ。
「パラメータ」って?
AIの頭の中にある、知識や判断の細かい調整つまみの数のことだよ。多いほど複雑なことを覚えられるんだ。
「侵入テスト」って?
守る側が許可を得て、わざと自分たちのシステムを攻撃してみて、弱いところを探す点検のことだよ。
用語辞典でほかの言葉も見る
編集部の考察
これまで「中国のオープンなモデルは安全対策が甘い」と見られることが多かった中で、主要4社がそろって攻撃能力を抑える方向に動いたことは、AIの安全をめぐる考え方が国の違いを越えて近づいてきたことを示す前向きな変化です。Anthropicが最強の攻撃検証モデルを守る側だけに渡し、Zhipuも本人確認制を取るという形で、米中のトップ企業が似た答えにたどり着いている点は注目に値します。一方で、オープンなモデルは配布後に学び直しができるため、「削ったまま」を保てるかはまだ証明されておらず、第三者による検証の仕組みづくりが次の課題になります。当サイトで伝えたQwen4-Maxの非公開化と合わせて見ると、中国勢は「何でも公開」から「能力に応じて出し方を変える」段階に移りつつあるようです。日本の企業がオープンなモデルを業務に使う際も、性能だけでなく、こうした安全面の方針を選ぶ基準に加えるとよさそうです。
執筆者・運営: KEN TECH TIMES 編集部(KEN TECH TIMES)/記事の誤りのご指摘は訂正方針をご覧ください
本記事はアフィリエイトプログラムによる収益を得ている場合があります
関連記事
1
ローカルLLM公式
NVIDIAは、小型AIコンピューター「DGX Spark」4台をつないで机の上に置ける研究者向けの「DGX Spark HPC Developer Kit」を発表した。合計512GBのメモリーで、最大7,000億パラメータ級のAIモデルを手元で動かせるという。
2
ローカルLLM報道
開発者のレオナルド・アレグリア氏が公開したオープンソースのアプリ「Garlic LLM」で、改造したPS4上でAlibabaの90億パラメータのAIモデル「Qwen3.5-9B」がインターネットなしで動いた。文字のやり取りで毎秒31〜39トークン、7か国語の音声会話にも対応する。
3
ローカルLLM報道
中古のNVIDIA V100を8枚使って法律事務向けのAIサーバーを自作した米国の弁護士が、オープンモデル「DeepSeek V4.1 Flash」の処理の約8割を2ビットから4ビット(NVFP4)精度に引き上げた。メモリーを1TBに増やし、出力の一致率も改善した。
4
ローカルLLM公式
米AI企業Zyphraは、短い音声サンプルから声をまねて読み上げる音声合成モデル「ZONOS3-Mini」をApache 2.0で公開した。アクティブ1億・総8億パラメータと軽く、43言語に対応し、M3 MacBook Airでは150ミリ秒未満で音声を出し始めるという。
5
ローカルLLM公式
ローカルLLMを動かす定番ソフト「llama.cpp」と、土台のテンソルライブラリ「ggml」がバージョン1.0.0になった。開発元のggml-orgは、今後APIやABIに互換性のない変更を加える場合はメジャー番号を上げると表明した。