ChatGPTを運営するOpenAIは11月20日、公式ブログで「敵対的蒸留(adversarial distillation)」への対策を公表した。敵対的蒸留とは、高性能なAIの出力を許可なく集めて別のAIの学習に使い、似た能力を持つAIを作ってしまう行為を指す。OpenAIは、写し取られたAIには元のAIと同じ安全策が付いてこないため、知的財産の問題だけでなく安全上のリスクになると説明している。

例えばサイバーセキュリティ(コンピューターの防御)の分野では、守る側のために弱点を見つけるAIの能力が、攻撃に悪用されるおそれがある。元のAIなら断る依頼でも、能力だけを写し取ったAIは手伝ってしまうかもしれない、というのが同社の懸念だ。

狙われやすいのは「途中の考え」

OpenAIが特に守りを固めたのが、AIが答えにたどり着くまでに内部で生成する途中の考え(推論過程、チェーン・オブ・ソートとも呼ばれる)だ。推論過程には最終的な答えに書かれない情報が含まれるため、別のAIを学習させる材料として特に価値が高いという。

同社は「GPT-6.2 Astra」と「GPT-6.2 Sol」で推論過程の抜き出しへの守りを強化した。強力な自動攻撃(レッドチーミング)を使った社内評価では、以前の質問で生成された推論過程を取り出そうとする攻撃の平均成功率が、旧来の安全策の「GPT-6 Astra」では54.0%だったのに対し、新しい安全策の「GPT-6.2 Astra」では0.2%まで下がった。

社内の研究では、教える側のAI(教師)の正確な推論過程で学習した生徒役のAIは、利用者に普段見せている要約版で学習したAIより、全体として高い成績を出したという。OpenAIは、推論過程を守ることがサイバー能力の流出を抑えることにつながると結論づけている。

推論過程を抜き出す攻撃の平均成功率(OpenAI社内評価)(単位: %)
数値を表で見る
項目成功率
GPT-6 Astra(旧来の安全策)54.0%
GPT-6.2 Astra(新しい安全策)0.2%

強力な自動攻撃を使ったOpenAI社内の適応型評価。出典: OpenAI(2026年11月20日)をもとにKEN TECH TIMES編集部作成

検知と取り締まり、業界での情報共有も

対策は、攻撃を試す社内テスト、抜き出しの試みを見分けて断るようAIを訓練すること、不審な使い方を見つける分類器、API(ソフト同士をつなぐ窓口)側の保護、そして組織的な抜き出しの調査を組み合わせたものだ。調査で規約違反を確認した場合は、関係するアカウントのネットワーク全体を取り締まるとしている。OpenAIは、生物学やサイバー分野で使っている安全策に近い水準に引き上げたと説明し、業界や政府と必要に応じて知見を共有することが、最先端AIの写し取りを防ぐ助けになるとしている。

当サイトでは「OpenAI「GPT-6.2 Astra」「GPT-6.2 Sol」を公開」で両モデルの登場を伝えている。