AI全般 報道
AIがスナック菓子の袋を「銃」と誤認、警察に拘束された米高校生4人が提訴 検知システムは90%の確信度で警報、学区の警報の99%超が誤報との調査も
カテゴリ: AI全般
執筆: KEN TECH TIMES 編集部
約3分で読めます
ONにすると要点・用語解説・よくある質問だけを表示します。よくある質問へ
読みやすさ:「超やさしい」はAIが本文を噛み砕いて書き換えます(数字・固有名詞は原文のまま)。
要点米メリーランド州の高校で、AIの銃検知システムがスナック菓子「ドリトス」の袋を銃と誤認し、生徒たちが武装した警察官に手錠をかけられた件で、現役・元生徒4人がシステム開発会社Omnilertや警察、教育委員会などを提訴した。英Guardianが11月18日に報じた。
イラスト: KEN TECH TIMES(イメージ)
米メリーランド州ボルチモア郡の高校で、AIの銃検知システムがスナック菓子の袋を銃と誤認し、生徒たちが武装した警察官に拘束された問題で、現役・元生徒4人が訴訟を起こした。英Guardianが11月18日に報じた。訴えられたのは、システムを開発したOmnilert、ボルチモア郡警察、教育委員会、個々の警察官、校長だ。原告は、技術と人の両方の誤りによる不当な拘束と捜索だと主張している。
部活帰りに手錠
訴状によると、出来事は昨年の秋、10月20日の夕方に起きた。アメリカンフットボールの練習を終えた生徒たちに、コーチが「ドリトス」の袋を配った。生徒たちが迎えを待っていたところ、警察のパトカー6台がライトを点滅させて現れ、多くの警察官が銃を抜いた。生徒たちは手を上げ、ひざまずくよう命じられ、手錠をかけられて身体検査を受けた。訴状は、生徒たちが「ショックを受け、命の危険を感じた」としている。
Omnilertの「Gun Detect」は、防犯カメラの映像から銃らしきものを探すシステムで、このときは菓子の袋を90%の確信度で銃と判定した。訴状によると、学校の職員と警察が画像を確認して誤りだと判断した後も、警報は続いたという。
「警報の99%超が誤報」との調査
Omnilertは自社製品について「誤報が少ない」とうたっている。しかし訴状は、メリーランド州の教育監察官事務所が、ボルチモア郡の公立学校でのこのシステムの警報のうち99%超が、警察の対応が不要な誤報だったと結論づけたことを挙げている。
生徒の弁護を担う公民権団体の代表は「生徒たちは、誤報を出しやすい技術だけでなく、学校で彼らを守るはずの大人たちにも裏切られた」と述べた。訴状には、校長が事件を笑いの絵文字付きでほかの管理職に伝えたメッセージも含まれ、校長は生徒に謝罪しなかったとされる。Omnilertの広報担当者は以前、地元メディアに対し、訴訟内容を確認しているとしたうえで「生徒と家族が感じた恐怖を心からおわびする」と述べていた。
AIの「誤報」が人の行動につながる怖さ
原告の生徒の一人は、今では放課後に学校で迎えを待つのが怖くなり、お金を払って帰宅の車を手配することが多いという。AIの判定をきっかけに人が動く仕組みでは、誤りが起きたときの確認と止め方が重要になる。AIの誤りと安全をめぐっては、当サイトの「インドのAI債権回収サービス「CreditNirvana」、660万件のアカウントが閲覧可能な状態に」でも、AIサービスに潜むリスクを伝えている。

ロボとペラの用語解説AIや機械が、本当は危なくないものを危ないと間違えて知らせてしまうことだよ。火災報知器がトーストの煙で鳴るようなものなんだ。
AIが自分の判断にどれくらい自信があるかを表す数字だよ。90%でも間違えることはあるんだ。
AIが写真や映像を見て、そこに何が写っているかを見分ける技術のことだよ。
用語辞典でほかの言葉も見る
編集部の考察
この事件は、AIが出す「90%の確信度」という数字が、現実の場面ではどれほど重く扱われうるかを示しています。画像を確認した大人が誤りだと判断した後も警報が止まらなかったという点は、AIを導入するときに「人が最終判断をして、AIの警報を止められる仕組み」が欠かせないことを教えてくれます。警報の99%超が誤報だったという調査結果は、学校の安全を守る道具としての使い方を見直すきっかけになりそうです。一方で、銃による事件が社会問題となっている米国では、早く危険を見つけたいという学校側の切実な事情もあります。今回の訴訟は、AIの精度を高めることと同じくらい、誤報が出たときの対応手順を整えることが大切だという前向きな教訓を、AIを使うすべての組織に投げかけています。
出典:
The Guardian(2026年11月18日)
本記事は上記出典の報道内容をもとに、事実関係を日本語で再構成したものです。
執筆者・運営: KEN TECH TIMES 編集部(KEN TECH TIMES)/記事の誤りのご指摘は訂正方針をご覧ください
本記事はアフィリエイトプログラムによる収益を得ている場合があります
よくある質問
Q何が起きたのですか?
AAIの銃検知システムがスナック菓子の袋を90%の確信度で銃と判定し、部活帰りの生徒たちが警察に手錠をかけられて拘束されました。
Q誰が訴えられたのですか?
Aシステム開発会社のOmnilert、ボルチモア郡警察、教育委員会、個々の警察官、校長です。
Qこのシステムの誤報は多いのですか?
A訴状によると、州の教育監察官事務所は、同郡の公立学校での警報の99%超が警察の対応が不要な誤報だったとしています。
答えはこの記事の本文と出典の範囲で書いています。


ロボとペラに質問する
この記事の内容について、AIが記事の中から探して答えます。記事に書かれていない内容には答えられません。
例:
関連記事
AI全般報道
米国3位の商業銀行シティバンクが今週、外部のAIツールに口座へのアクセスを許した利用者について、AIを通じて行われた取引は利用者の責任とするよう利用規約を改めたと米TechCrunchが11月18日に報じた。AIツールからログイン情報が漏れたり乗っ取られたりした場合も含む。PNCやCitizensも同様の方針を示した。
AI全般報道
AIで曲を作れるサービス「Suno」は、作った曲に合わせて動画や画像を生成する新機能「Visuals」を公開した。曲の一部(最大15秒)を選ぶと、歌詞に合わせて口が動く動画ができる。Web版とiOS・Android版で使えると米The Vergeが11月18日に報じた。
AI全般報道図解あり
Microsoftは11月17日(米国時間)、開発者会議Igniteで、プログラミングやセキュリティ向けの自社AIモデルを一挙に発表した。米Axiosによると、コーディング用の「MAI Code 2」はAnthropicのClaude Opus 5.5の96%の性能を5%の費用で出せるとしており、GitHub Copilotでも使えるようになる。
AI全般報道図解あり
NVIDIAは決算で、出資している未上場企業などの株の評価額が655億ドルになったと明らかにした。1月時点の220億ドルから約3倍に増えた。Anthropic、OpenAIなど約350社に出資してきたが、積極的な投資を進めたフアン前CEOの退任で、今後は慎重になるとの見方が投資家の間で広がっている。
AI全般報道
米ファッションスタートアップのDaydreamが、個人のスタイリストのように服選びを手伝うAIエージェント「Daydream Agent」を公開した。好みや体型、予算を覚えて提案し、自分の写真で仮想の試着もできる。気に入った服はワンクリックで購入でき、OpenAI、Gemini、Claudeのモデルを組み合わせて動く。