AI全般 報道
米カリフォルニア州知事、危険なAIを州が緊急停止できる「キルスイッチ」を提言 重大事故の報告期限は15日から48時間に、Anthropicは「議論を前に進める」と評価
カテゴリ: AI全般
執筆: KEN TECH TIMES 編集部
約3分で読めます
この記事を聴く
音声は公式マスコット「ロボ」の声で、記事の要点を読み上げています。文字で読みたい方は、このまま下の本文をお読みください。
読みやすさ:「超やさしい」はAIが本文を噛み砕いて書き換えます(数字・固有名詞は原文のまま)。
この記事の根拠出典を明記理由を見る
- 🔗出典を明記出典: CalMatters(2026年11月19日)
記事の出典と本文から、確認できた根拠だけを表示しています(確認できないものは表示しません)。内容の正しさや立場の良し悪しを判定するものではありません。
要点米カリフォルニア州のギャビン・ニューサム知事は、専門家会議がまとめたAIの安全対策の提言を公表した。AI企業が暴走したシステムを止めない場合に州が緊急停止を命じられる「キルスイッチ」や、独立した監査機関によるAIの検査、重大な安全事故の報告期限を15日から48時間に短くすることなどが盛り込まれた。
この記事のポイント
- 米カリフォルニア州のギャビン・ニューサム知事は、専門家会議がまとめたAIの安全対策の提言を公表した。
- AI企業が暴走したシステムを止めない場合に州が緊急停止を命じられる「キルスイッチ」や、独立した監査機関によるAIの検査、重大な安全事故の報告期限を15日から48時間に短くすることなどが盛り込まれた。
- 州の非営利報道機関CalMattersが11月19日に報じたもので、目玉は、州の当局が「危険」と判断したAIシステムをすぐに緊急停止させられる権限、通称「キルスイッチ」だ。
イラスト: KEN TECH TIMES(イメージ)
米カリフォルニア州のギャビン・ニューサム知事は、AIの危険を減らすための幅広い政策提言を公表した。州の非営利報道機関CalMattersが11月19日に報じたもので、目玉は、州の当局が「危険」と判断したAIシステムをすぐに緊急停止させられる権限、通称「キルスイッチ」だ。ChatGPTを手がけるOpenAIやClaudeを手がけるAnthropicのような企業が、暴走したシステムを抑える対応を拒んだ場合に使うことを想定している。
提言の主な中身
提言は、ニューサム知事が今秋に集めた4人の専門家会議がまとめた。政府機関や銀行、民間企業を狙ったAIエージェントによる大規模なサイバー攻撃が相次いだことを受けたものだ。主な内容は次の通り。
- 独立した監査機関(第三者の検証機関)にAIモデルを検査させ、安全とセキュリティの基準を定める
- 監査機関を州の免許制にし、独立性や技術力が足りない機関は免許を取り消せるようにする
- 監査の割り当てをAI企業ではなく州が行うことを検討する
- AIの重大な安全事故を政府に報告する期限を、15日から48時間に短縮する
- 内部告発者の保護を、契約社員や元社員にも広げる
- 大規模なAIの開発者に、緊急時にモデルを止められることを示すよう義務づける
- AIの開発をAIで自動化する際の計算資源の量の開示や、その使い方の制限を可能にする
- 誰でもAIを使える公共のクラウド「CalCompute」の資金を、監査料への上乗せで確保する
州法では、1回の出来事で50人を超える死者、またはサイバー攻撃や自律的なシステムによる10億ドル以上の盗難・損害を起こしうるものを「壊滅的なリスク」と定めており、今回の提言はこの壊滅的なリスクに絞っている。差別や雇用、子どもの心の健康といった別の問題は扱っていない。
連邦の規制が進まない中で
ニューサム知事は「トランプ大統領は肩をすくめ、AIの規制を企業任せにしている」と批判し、州が連邦の空白を埋めると強調した。次期知事のハビエル・ベセラ氏も、事故の報告と停止権限を「早く法律にする」と表明している。州議会は12月7日に再開し、新しい法案を提出できる。同じ週には、州司法長官がAIエージェントによるサイバー攻撃をめぐってOpenAIを提訴している。
Anthropicの最高グローバル渉外責任者ティノ・クエヤル氏は、AIモデルの独立した評価などで議論が前に進んだことを「心強い」とし、「カリフォルニア州と世界の指導者と協力を続ける」とコメントした。AIの安全をめぐっては、当サイトのカリフォルニア州がOpenAIを提訴した件も伝えている。

ロボとペラの用語解説危ないときに機械やシステムをすぐ止めるための非常停止ボタンのことだよ。
会社の外から、製品やしくみが決まりどおり安全か検査する第三者の組織のことだよ。
会社の中の人が、隠されている問題を外部の機関などに知らせることだよ。
用語辞典でほかの言葉も見る
編集部の考察
今回の提言は、AIの危険を「起きてから罰する」のではなく、「止められる仕組みと素早い報告」で被害を小さくしようとする、実務的で前向きな設計です。特に、重大な事故の報告期限を15日から48時間に縮めることは、AIエージェントによる攻撃が数時間で広がる時代に合わせた現実的な改善といえます。監査機関を免許制にし、AI企業ではなく州が検査を割り当てる案は、検査する側とされる側の関係が近くなりすぎる問題への答えとして注目されます。当サイトの「カリフォルニア州、OpenAIを提訴」で伝えた動きと合わせ、AI大手が集まるカリフォルニア州のルールは事実上の世界標準になりやすく、Anthropicが前向きに評価したことも業界との協力の可能性を感じさせます。12月7日に再開する州議会で、どこまで法案になるかが次の注目点です。
出典:
CalMatters(2026年11月19日)
本記事は上記出典の報道内容をもとに、事実関係を日本語で再構成したものです。
執筆者・運営: KEN TECH TIMES 編集部(KEN TECH TIMES)/記事の誤りのご指摘は訂正方針をご覧ください
本記事はアフィリエイトプログラムによる収益を得ている場合があります
よくある質問
Q「キルスイッチ」とは何ですか?
AAI企業が暴走したシステムを抑える対応を拒んだ場合に、州の当局が危険なAIシステムの緊急停止を命じられる権限のことです。
Q提言はすぐに法律になるのですか?
Aまだ提言の段階です。州議会は12月7日に再開して新しい法案を提出でき、次期知事は早く法律にしたいとしています。
QAI企業はどう反応していますか?
AAnthropicは、AIモデルの独立した評価などで議論が前に進んだことを心強いとし、協力を続けるとコメントしています。
答えはこの記事の本文と出典の範囲で書いています。


ロボとペラに質問する
この記事の内容について、AIが記事の中から探して答えます。記事に書かれていない内容には答えられません。
例:
理解度クイズ
この記事の内容から3問出題します。答えを選ぶと、その場で正解と解説が出ます。
関連記事
AI全般報道図解あり
同じAI全般の記事です
国際エネルギー機関(IEA)は年次報告書で、世界のデータセンターの電力消費が2030年までに現在の2倍になり、増加分の4分の3をAIが占めると予測した。米国と中国が化石燃料に頼るため、データセンターに関わるCO2排出は70%増える見通しだという。英Guardianが11月19日に報じた。
AI全般報道
同じAI全般の記事です
米メリーランド州の高校で、AIの銃検知システムがスナック菓子「ドリトス」の袋を銃と誤認し、生徒たちが武装した警察官に手錠をかけられた件で、現役・元生徒4人がシステム開発会社Omnilertや警察、教育委員会などを提訴した。英Guardianが11月18日に報じた。
AI全般報道
同じAI全般の記事です
AIが借り手の状況を読み取って自動で債権回収を進めるインドのサービス「CreditNirvana」に2つの脆弱性があり、660万件のアカウントと約31万5,000件の通話録音が外部から見られる状態だったと、米WIREDが11月18日に報じた。不具合は6月に修正済みで、発見した研究者は「AIサービスによる非常に機微なデータ漏えいの重要な例」と指摘している。
AI全般報道
同じAI全般の記事です
米国3位の商業銀行シティバンクが今週、外部のAIツールに口座へのアクセスを許した利用者について、AIを通じて行われた取引は利用者の責任とするよう利用規約を改めたと米TechCrunchが11月18日に報じた。AIツールからログイン情報が漏れたり乗っ取られたりした場合も含む。PNCやCitizensも同様の方針を示した。
AI全般報道
同じAI全般の記事です
AIで曲を作れるサービス「Suno」は、作った曲に合わせて動画や画像を生成する新機能「Visuals」を公開した。曲の一部(最大15秒)を選ぶと、歌詞に合わせて口が動く動画ができる。Web版とiOS・Android版で使えると米The Vergeが11月18日に報じた。