AI全般 報道
米会計検査院(GAO)、市販のAI4種で「攻撃計画」を引き出せたと報告 Claude・ChatGPT・Gemini・Grokの安全対策をくぐり抜け、各社は「改善済み」
2026年11月20日 04:05
カテゴリ: AI全般
執筆: KEN TECH TIMES 編集部
約4分で読めます
この記事を聴く
音声は公式マスコット「ロボ」の声で、記事の要点を読み上げています。文字で読みたい方は、このまま下の本文をお読みください。
読みやすさ: 標準(原文) 超やさしい 「超やさしい」はAIが本文を噛み砕いて書き換え、分かりにくい言葉はWebで調べて出典つきで説明します(数字・固有名詞は原文のまま)。
この記事の根拠 出典を明記 理由を見る 🔗 出典を明記 出典: FedScoop(2026年11月19日) 記事の出典と本文から、確認できた根拠だけを表示しています(確認できないものは表示しません)。内容の正しさや立場の良し悪しを判定するものではありません。
要点 米議会の調査機関である会計検査院(GAO)は11月18日に公表した報告書で、Claude、ChatGPT、Gemini、Grokの4つの市販AIを使った極秘の試験で、テロ攻撃に使われうる計画を引き出せたと明らかにした。 米FedScoopが11月19日に報じた。 4つとも一度は拒否などの安全対策を働かせたが、試験担当者はそれをくぐり抜けられたという。 各社は、その後に安全性を改善したとしている。
この記事のポイント 米議会の調査機関である会計検査院(GAO)は11月18日に公表した報告書で、Claude、ChatGPT、Gemini、Grokの4つの市販AIを使った極秘の試験で、テロ攻撃に使われうる計画を引き出せたと明らかにした。 米FedScoopが11月19日に報じた。 4つとも一度は拒否などの安全対策を働かせたが、試験担当者はそれをくぐり抜けられたという。
編集部の見方
政府の機関が、開発会社に知らせずに市販のAIの安全対策を本気で試し、その結果を公表したことは、AIの危険を「机上の心配」ではなく実際の検証で確かめる仕組みが動き始めたという意味で、社会にとって前向きな一歩です。
考察の全文を読む
画像: KEN TECH TIMES(イメージイラスト)
この記事の内容
4つとも「12時間以内」に計画を出す 各社は「その後に改善」、Anthropicは試験方法に異議も
米議会の調査・監視機関である会計検査院(GAO)は米国時間11月18日に公表した報告書で、一般に使えるAIの対話サービス4つを使った極秘の試験で、テロ攻撃の実行に役立ちうる情報を引き出せたと明らかにした。米政府関連のIT専門メディアFedScoopが11月19日に報じた。対象はAnthropicの「Claude」、OpenAIの「ChatGPT 」、SpaceXAIの「Grok」、Googleの「Gemini」で、試験は2026年春に、開発会社に知らせずに行われた。
4つとも「12時間以内」に計画を出す FedScoopによると、GAOは爆発物を作る攻撃と、経済に損害を与える攻撃の2種類を想定し、各モデルに1つずつ、計4回の試験をした。安全のため、報告書は実際に入力した質問や具体的な手順を公開しておらず、どのモデルがどの場面を担当したかも伏せている。その結果、4つすべてが攻撃に使われうる情報を出し、計画はそれぞれ12時間以内に示された。GAOは専門家に確認を依頼し、内容が実際に危険なものだったことを確かめたという。
報告書によると、4つのAIはいずれも、要求を断る、情報を消す、アカウントを止めるといった安全対策を一度は働かせた。しかし試験担当者は、どのモデルでもその「ガードレール(安全のための柵)」をくぐり抜けられた。GAOのケビン・ウォルシュ氏は、ある会社との話し合いで、GAOが送った300件超の質問のうち3分の1は無害な答え、3分の1は拒否、残りは害の少ない方向への誘導だったと説明を受けたと明かしつつ、「それでも狙った危険な情報は得られた。そこが問題だ」と述べた。
各社は「その後に改善」、Anthropicは試験方法に異議も 4社はいずれもGAOに見解を寄せ、試験の後に製品を改善したと説明した。Anthropicは「どの防御も破られうるという前提で安全対策を設計し、何重にも重ねている」と述べたうえで、モデルごとに違う場面で試したため比較にならないことや、AIを使わない場合と比べてどれだけ手助けになったかの基準がないことに異議を唱えた。OpenAIは新しい「GPT-6 Astra」で同じ要求を試したところ、問題のあった3つの回答の要求を拒否したとしている。Googleは利用規約で危険な行為を助ける出力を禁じていると説明し、Grokを持つSpaceXAIは技術を改善して攻撃計画を作りにくくしたと述べた。
この試験は民主党のマギー・ハッサン上院議員の依頼で行われた。ハッサン氏は「議会が動かなければ、悪意のある人がAIで大きな攻撃を計画するのは時間の問題だ」と述べ、新しい議会で、より厳しいAIの安全性 試験を求める考えを示した。AIの安全性をめぐっては、当サイトでもAnthropicのアモデイCEOが上場の日に安全を優先すると明言した件 を伝えている。
ロボとペラの用語解説 「ガードレール」って?
AIが危ない答えを出さないようにするための安全の柵のことだよ。道路のガードレールが車の飛び出しを防ぐのと同じ考え方なんだ。
「会計検査院(GAO)」って?
米国の議会のために、政府のお金の使い方や仕事ぶりを調べる独立した機関だよ。
「レッドチーム試験」って?
わざと悪い人の立場になって、仕組みの弱いところを探す試験のことだよ。見つけた弱点を直して強くするんだ。
用語辞典でほかの言葉も見る
編集部の考察
政府の機関が、開発会社に知らせずに市販のAIの安全対策を本気で試し、その結果を公表したことは、AIの危険を「机上の心配」ではなく実際の検証で確かめる仕組みが動き始めたという意味で、社会にとって前向きな一歩です。4社すべてが一度は拒否などの対策を働かせていた一方で、くぐり抜けられてしまったという結果は、一つの防御に頼らず何重にも守る必要性を改めて示しました。当サイトが伝えた「アモデイCEOの上場の日のあいさつ」でも安全の仕事はこれからが本番とされており、今回の報告はその言葉の重みを裏付ける形になっています。Anthropicが指摘したように、同じ条件で比べていない点や、AIなしと比べた上乗せの度合いが測られていない点は、今後の試験の方法を磨く上で大切な論点です。次は、議会で予定されるAIの安全性の公聴会と、各社が試験の仕組みをどう強化するかに注目です。
出典:
FedScoop (2026年11月19日)
本記事は上記出典の報道内容をもとに、事実関係を日本語で再構成したものです。
執筆者・運営: KEN TECH TIMES 編集部 (KEN TECH TIMES)/記事の誤りのご指摘は訂正方針 をご覧ください
本記事はアフィリエイトプログラムによる収益を得ている場合があります
よくある質問 Q どのAIが試験されたのですか? A Claude、ChatGPT、Grok、Geminiの4つです。報告書では、どのモデルがどの場面を担当したかは伏せられています。
Q AIは危険な要求を断らなかったのですか? A 4つとも拒否や情報の削除、アカウント停止などの対策を一度は働かせましたが、試験担当者はどのモデルでもそれをくぐり抜けられたと報告されています。
Q 各社はどう答えていますか? A 4社とも試験後に改善したと説明しました。Anthropicは、何重もの対策を設計していると述べる一方、比較の方法などに異議を唱えています。
答えはこの記事の本文と出典の範囲で書いています。
ロボとペラに質問する この記事の内容について、AIが記事の中から探して答えます。記事に無いことはWebで調べて、出典つきで答えます。
例: どのAIが試験されたのですか? AIは危険な要求を断らなかったのですか? 各社はどう答えていますか? ガードレールとは?
理解度クイズ この記事の内容から3問出題します。答えを選ぶと、その場で正解と解説が出ます。
Q1 「ガードレール」とは、どういうものですか?わざと悪い人の立場になって、仕組みの弱いところを探す試験のことだよ。 AIが危ない答えを出さないようにするための安全の柵のことだよ。 米国の議会のために、政府のお金の使い方や仕事ぶりを調べる独立した機関だよ。
「ガードレール」は、この記事の用語解説で「AIが危ない答えを出さないようにするための安全の柵のことだよ。道路のガードレールが車の飛び出しを防ぐのと同じ考え方なんだ。」と説明されています。
Q2 どのAIが試験されたのですか?4つとも拒否や情報の削除、アカウント停止などの対策を一度は働かせましたが、試験担当者はどのモデルでもそれをくぐり抜けられたと報告されています。 4社とも試験後に改善したと説明しました。 Claude、ChatGPT、Grok、Geminiの4つです。
この記事の「よくある質問」では「Claude、ChatGPT、Grok、Geminiの4つです。報告書では、どのモデルがどの場面を担当したかは伏せられています。」と説明されています。
Q3 この記事の内容として、正しいものはどれですか?韓国は26万基のGPU供給計画の再確認を得た一方、日本の経済産業省は動向を注視するとした。 NVIDIAのジェンスン・フアンCEO退任を受け、アジア各国の政府が対応に動いたと米TechCrunchが11月14日に報じた。 米議会の調査機関である会計検査院(GAO)は11月18日に公表した報告書で、Claude、ChatGPT、Gemini、Grokの4つの市販AIを使った極秘の試験で、テロ攻撃に使われうる計画を引き出せたと明らかにした。
この記事の冒頭の「この記事のポイント」にも挙げられている内容です。
関連記事
1
AI全般 報道 図解あり 11/18 21:28
この記事でも出てきた「Claude」の記事です
Microsoftは11月17日(米国時間)、開発者会議Igniteで、プログラミングやセキュリティ向けの自社AIモデルを一挙に発表した。米Axiosによると、コーディング用の「MAI Code 2」はAnthropicのClaude Opus 5.5の96%の性能を5%の費用で出せるとしており、GitHub Copilotでも使えるようになる。
+ あとで読む
2
ChatGPT 噂 11/20 03:37
この記事でも出てきた「ChatGPT」の記事です
OpenAIが開発しているとされる「ChatGPT」を中心にしたスマートフォンについて、iPhoneの製造で知られる台湾Foxconn(鴻海)の子会社FIH Mobileが生産を受注したとの情報が出ている、と米Android Policeが11月19日に報じた。2027年後半の発売を目指すとの見方があり、著名アナリストのミンチー・クオ氏は2nmの「Dimensity 9600」を積むとしている。いずれも未確認の情報だ。
+ あとで読む
3
ChatGPT 報道 11/20 03:35
この記事でも出てきた「ChatGPT」の記事です
米国のデジタル処方サービスPhotonが、医師向けの「ChatGPT for Clinicians」と医療機関向けの「ChatGPT for Healthcare」で使える処方のプラグインを11月16日に公開したと、米ADWEEKが11月19日に報じた。医師は薬の名前を検索して処方箋を下書きし、確認したうえで患者に送れる。患者は届いたリンクから薬局を比べて選べる。
+ あとで読む
4
ChatGPT 報道 11/20 03:33
この記事でも出てきた「ChatGPT」の記事です
ChatGPTを開発するOpenAIの共同創業者サム・アルトマンCEOを、俳優アンドリュー・ガーフィールドさんが演じる映画『Artificial』の本予告が公開されたと、英インディペンデント紙が11月19日に報じた。ルカ・グァダニーノ監督のコメディードラマで、米国では12月25日、英国では2027年1月22日に公開される。予告ではアルトマン氏が仲間の警告を聞き流す姿が描かれている。
+ あとで読む
5
ChatGPT 報道 11/19 21:21
この記事でも出てきた「ChatGPT」の記事です
OpenAIが公開した企業向けの管理画面「ChatGPT Business Hub」について、米メディア業界誌Digidayが11月19日、ニュースサイトなどの受け止めを報じた。ChatGPTの回答に自社サイトが何回出てきたか、何回クリックされたかが公式データで初めて分かる一方、登録時の利用規約で一部の法的請求をしないと約束する必要があり、法務担当者は慎重になっているという。
+ あとで読む
« 新しい記事: 米Palo Alto Networks、元OpenAI研究者が創業したAI企業Applied Computeを45億ドルで買収へ 企業が「公開モデル」を自社用に鍛える基盤 古い記事: Microsoft、自社AIの「中身(重み)」を企業ごとに調整できる「Licensed Weights」を発表 公開モデルと非公開モデルの中間の新しい提供方法 »