カジノサイト
AI と選挙: 不正確な情報を拡散する新しいツールへの対処
有権者はあと以内に投票所に向かう予定ですこれらの選挙のすべてが自由、公正、公開で行われるわけではありませんが、永続的な影響を及ぼし、悪意のある者の標的になる可能性があります。
「米国を含む民主主義がこれまで以上に大きな脅威にさらされていることを深く懸念している」と上院情報特別委員会委員長のマーク・ワーナー上院議員（民主党、バージニア州）は2024年3月の情報会見で語った。「ウクライナで何が問題になっているかを考えると、ロシアのような悪役は特に干渉する動機を持っている。世論調査を重ねると、アメリカ国民の関心がますます高まっていることが示されている」従来の情報源に不信感を抱いている一方で、[人工知能] は洗練された誤った情報を前例のない速度と規模で拡散するツールを提供します。」
クラウドストライクによると、情報操作 (IO) は世論に影響を与えるために投票プロセス前、投票中、投票後に有権者を標的にする可能性が高い敵対者はまた、人工知能 (AI) ツールを使用して「欺瞞的だが説得力のある物語」を生成する可能性が高く、政治的に活動的な党派は同じツールを使用して「自分たちのサークル内で広めるための偽情報」を作成する可能性があるとクラウドストライクは評価しました。
...AI は、前例のない速度と規模で洗練された誤った情報を拡散するツールを提供します。
「これらの問題は、中国の関係者が台湾総統選挙候補者に批判的なコンテンツを広めるためのソーシャルメディア影響力キャンペーンでAI生成コンテンツを使用したため、2024年の最初の数週間以内にすでに観察されていた」と報告書は述べている。
クラウドストライクは、ロシアとイランが欧州連合と米国に対してIOを使用することを予想していると述べた。中国はインドネシア、韓国、台湾に対してIOを使用する可能性が高い。
「経済的および社会的問題が続く中、多くの国で政治的スペクトルが全体的に二極化しているため、それらの国の国民はIO、特に政敵に対する否定的な意見を強化することを目的としたIOキャンペーンに対する感受性が高まる可能性が高い」と報告書は述べている。
2024 年 2 月のミュンヘン安全保障会議で、テクノロジー企業幹部らは、有権者をだますことを目的とした AI 生成のディープフェイクに対応するための新しい枠組みへの合意を発表しました。 Adobe、Amazon、Google、IBM、Meta、Microsoft、OpenAI、TikTok はすべてカンファレンスでの支援を約束し、以前は Twitter として知られていた X を含む他の 12 社が契約に署名すると発表した。
「2024 年の選挙における AI の欺瞞的使用と闘うための技術協定」という枠組みは、署名者に対し、AI によって生成された有害なコンテンツのオンライン配信を検出して対処し、そのオンライン配信に対処するためのツールについて協力するよう求めています。
「協定で扱われるデジタル コンテンツは、AI が生成した音声、ビデオ、画像で構成されており、民主的選挙における候補者、選挙管理人、その他の主要な関係者の外見、声、行動を偽ったり改変したり、いつ、どこで、どのように投票できるかについて有権者に虚偽の情報を提供したりします。」
「偽情報キャンペーンは新しいものではありませんが、世界中で 40 億人以上の人々が投票に向かうこの例外的な選挙の年に、AI によって生成された欺瞞的なコンテンツの増幅されたリスクから人々と社会を守るための具体的で協力的な対策が必要です」と IBM の副社長兼最高プライバシー・トラスト責任者のクリスティーナ・モンゴメリーは声明で述べた。
有権者は 2024 年中に 50 か国以上で投票所に向かうことになります。
Facebook、Instagram、WhatsApp の親会社である Meta のグローバル担当社長であるニック・クレッグ氏は、この重要な選挙の年に、人々が AI によって生成されたコンテンツに騙されないようにするために何ができるかを行うことが重要であると述べました。
「この取り組みはどの企業よりも大規模であり、業界、政府、市民社会全体にわたる多大な努力が必要となるだろう」とクレッグ氏は声明で述べた。 「この協定が産業界の課題に対処するための有意義な一歩となることを願っています。」
OpenAI のグローバル担当副社長、アンナ・マカンジュ氏は声明で、同社は不正行為を防止するポリシーを施行し、AI が生成したコンテンツに関する透明性を向上させることで、選挙の完全性を守ることに尽力していると述べた。
OpenAI は、広く使用されている 2 つの生成 AI プラットフォームである ChatGPT と DALL-E の親会社です。で同社は、選挙を脅かす自社製品の潜在的な悪用に対処するために行っている取り組みの一部を共有しました。対策には、プラットフォームを使用して欺瞞的なコンテンツを作成する悪用の制限が含まれます。
例えば、DALL-E は、画像ジェネレーターに政治的候補者を含む実在の人物のコンテンツを作成するよう求めるユーザーのリクエストを拒否するよう指示されています。ビルダーは、実際の人物や組織を模倣するチャットボットを作成することも禁止されています。
さらに、OpenAI は、DALL-E によって生成された画像に対するコンテンツ来歴と真正性に関する連合 (C2PA) のデジタル認証情報を実装する機能を開発しており、ChatGPT によって共有される情報源に関する帰属とリンクを含めることを計画しています。
「情報の出所に関する透明性とニュースソースのバランスは、有権者が情報をより適切に評価し、何を信頼できるかを自分で決定するのに役立ちます。」と OpenAI は書いています。
ミュンヘンでの発表の数日前に、Meta は、Meta AI 機能を使用して作成されたフォトリアリスティックな画像について、画像上に目に見えるマーカーのほか、画像ファイル内に埋め込まれた目に見えない透かしやメタデータを含めると発表しました。これは と一致していますAI が生成したコンテンツの管理に関するベスト プラクティスですが、これは確実なソリューションではありません、と Clegg 氏は次のように書いています。on 6 February 2024, and Meta is working to develop classifiers so it can automatically detect AI-generated content.
「この分野は今後数年間でますます敵対的な空間になる可能性が高いため、この取り組みは特に重要です」とクレッグ氏は書いた。 「AI が生成したコンテンツで人々を積極的に騙そうとする人々や組織は、それを検出するために設けられている保護手段を回避する方法を模索するでしょう。私たちの業界と社会全体にわたって、私たちは一歩先を行く方法を探し続ける必要があります。」
クレッグの投稿は彼の後に投稿されました2023 年 11 月に、メタは広告主に対し、政治的または社会問題に関する広告を作成または変更するために AI またはその他のデジタル技術を使用する場合の開示を義務付けます。
「これは、広告にフォトリアリスティックな画像やビデオ、または現実的なサウンドの音声が含まれている場合に適用されます。これらは、実際の人物が実際に発言したり行ったりしていないことを言ったり行ったりするようにデジタル的に作成または変更されたものです。」とクレッグ氏は説明しました。 「広告が、存在しない現実的な人物や実際には起こらなかった現実的な出来事を描いている場合、実際の出来事の映像を変更している場合、または起こったとされる現実的な出来事を描いているが、それがその出来事の実際の画像、ビデオ、または音声記録ではない場合にも適用されます。」
一方、TikTok 社ではクリエイターが AI によって生成された独自のコンテンツにラベルを付けるために使用できるツールで、AI によって作成されたコンテンツに自動的にラベルを付ける方法のテストを開始しました。この変更は、AI が生成したコンテンツにリアルな画像、音声、またはビデオをラベル付けすることを義務付ける TikTok の既存のポリシーに沿ったものです。
ミュンヘン合意に署名した後、TikTokのグローバル公共政策担当バイスプレジデントであるテオ・バートラム氏は、欺瞞的なAIからコミュニティを守るために業界が協力することが重要であると述べた。
民主主義にとってのこの転換点の年に、企業は自らが解き放つ脅威に対してどのように防御しているかについて、より率直になれるはずです。
「これは、選挙の公正性を保護し、堅牢なルール、新技術、専門家との医療リテラシーのパートナーシップを通じて、責任ある透明性のある AI 生成コンテンツの実践を推進するための継続的な投資に基づくものです。」とバートラム氏は述べました。
ミュンヘン合意へのコミットメントは、選挙監視員にとって最も懸念される問題のいくつかに対処していますが、最終的に強制力はなく、企業がどのようにコミットメントを達成するかを示す措置は含まれていません。ブレナン司法センター、選挙および政府担当上級ディレクター。
「民主主義にとってのこの転換点の年に、企業は、自分たちが解き放たれた脅威に対してどのように防御しているかについて、より率直になれる可能性がある」とノーデン氏はブログ投稿で説明した。
ノーデン氏は、AIと選挙に関して導入された新しい政策、AI生成物識別への投資、AIコンテンツに対する欺瞞に関連するAIモデルに関するリスク評価の結果、国家主体やデジタル傭兵が使用するAIシステム、ハードウェア、ソフトウェアなど、選挙の誠実性に影響を与えるいくつかの点について、署名者に求めたいいくつかの措置と定期的な最新情報について説明した。
「[署名国は]集団として、彼ら自身の言葉を借りれば、私たちの民主主義システムを『危険にさらす』と脅す一連のツールとテクノロジーを世界に解き放ち、それによって莫大な利益を得た」とノーデン氏は書いた。 「現時点で、最大の代償を支払う可能性のある世界の民主主義国家は、約束以上のものを必要としています。私たちは説明責任を必要としています。」
ミーガン・ゲイツはセキュリティ・テクノロジーの編集長であり、の上級編集者です。セキュリティ管理。彼女と連絡するには[email protected]または上X またはスレッドで彼女をフォローしてください: @mgngates。
