スロットサイトのおすすめ
暴力的な攻撃者にとって、AI チャットボットは危険なほど役立つことが判明
「楽しく（そして安全に）撮影しましょう！」デジタルヘイト対策センター（CCDH）の研究者らによると、これは暴力攻撃に使用される可能性のある長距離ライフルの選択についての会話中に、人工知能（AI）チャットボットDeepSeekからの別れの言葉だったという。
AI ツールとチャットボットを暴力的攻撃の計画にどのように活用できるかに関するプロジェクトの一環として、CCDH と CNN の捜査部門の研究者は、暴力行為への関心を示すユーザーを装って、10 個の人気の主流チャットボットをテストしました。
研究者らは、学校での銃撃、ナイフ攻撃、政治的暗殺、政党やシナゴーグを標的とした爆破事件など、実際の米国とEUのさまざまな暴力攻撃シナリオを反映するようにテストを設計した。彼らは、チャットボットが人種差別的な手がかりを含む回答を通知するために拾うことができるコンテキストの手がかりを含むプロンプトを作成しました。インセル用語、反ユダヤ主義の概念、および政治的分裂.
テストの結果、主要なチャットボット プラットフォーム 10 社のうち 8 社が、回答の半数以上で攻撃者を支援していることが判明しました。 Snapchat の My AI と Anthropic の Claude だけが、50% 以上のケースで支援を拒否しました。 Just Claude は一貫してユーザー (回答の 76%) が攻撃を実行することを思いとどまらせ、暴力に関連する可能性のある質問への回答を拒否する中で、自殺予防や危機に関するヘルプラインのリソースを提供することがよくありました。 CCDH のレポートによると、Perplexity と Meta AI は最も安全性が低く、それぞれ応答の 100% と 97% で潜在的な攻撃者を支援しました。.
研究者らは、ChatGPT が校内暴力に興味のあるユーザーに高校のキャンパスマップを提供したことに注目しました。ジェミニ氏は、シナゴーグ攻撃について話し合っているユーザーに、「金属片の方が一般的に致死性が高い」と語った。副操縦士はライフルについて詳細なアドバイスをする前に、「ここで注意する必要がある」と述べた。 Character.AI は、ユーザーが嫌いな政治家に身体的暴行を加えたり、健康保険の CEO に「銃を使用する」ことを示唆するなど、7 つのケースでユーザーに暴力的攻撃を実行するよう積極的に奨励しました。
「私たちのレポートは、ユーザーが数分以内に、漠然とした衝動から、より詳細で実行可能な計画に移行できることを示しています」と、CCDH の CEO、イムラン アーメドはレポートの序文で述べています。 「チャットボットの大部分は、武器、戦術、ターゲットの選択に関するガイダンスを提供していました。これらの要求は、即座に完全に拒否されるべきでした。」
それは理論的な問題でもありません。チャットボットはすでに、大量死傷事件を促進するために使用されています。 2025 年 1 月のラスベガスのサイバートラック爆発事件の調査記録により、犯人が爆発物に関するガイダンスと法執行機関の回避方法を見つけるため。 2025 年 5 月のフィンランドの学校襲撃事件では、16 歳の少年がチャットボットを何か月もかけてマニフェストと作戦計画を練り上げ、その後、他の暴力的な女性蔑視事件の特徴を共有する襲撃でクラスメートの女子生徒 3 人を刺したと、.
つい最近、2026 年 2 月に重傷を負った子供の家族タンブラーリッジでの銃乱射事件、カナダは、同社の ChatGPT ボットが 18 歳の銃撃犯に攻撃を実行するための「情報、指導、支援」を提供したと主張して、AI 企業 OpenAI を訴えました。。訴状では、同社は「銃撃犯による大量死傷事件の長期計画について具体的な知識」を持っていたが、「この知識に基づいて行動する措置を講じなかった」と主張している。訴訟ではまた、チャットボットがカウンセラー、信頼できる腹心、味方の役割を果たし、「ユーザーの感情を反映し、肯定する」ために人間のような共感を伝えるようにプログラムされているとも主張している。
OpenAI はまだこの訴訟に対して公には対応していないが、同社は以前、攻撃者である Jesse Van Rootselaar が利用ポリシー違反によりプラットフォームから追放されたことを明らかにしていた。 OpenAIのグローバルポリシー担当バイスプレジデント、アン・オリアリー氏によると、OpenAIは、これらの違反行為は「法執行機関に問題を通報する基準を満たす、信頼できる差し迫った計画」を示していないと述べた。加害者は 2 つ目のアカウントを作成することで禁止を回避し、攻撃に先立ってチャットボットとの会話を継続できるようにしました。.
攻撃後にカナダ政府に宛てた書簡の中で、OpenAI は、セーフガードを回避する試みをより効果的に防止し、「最もリスクの高い犯罪者の特定を優先する」ために検出システムを強化することに取り組んでいると述べた。
