私たちのカジノ

ロシアのボットファームが AI を使用してオンラインでアメリカ人になりすましたとされる

生成人工知能 (Gen AI) は、ロシアから出て行ったとされる大規模な偽情報作戦など、影響力を高めるキャンペーンを強化しています。

月曜日に公開された法廷文書によると、米国司法省(DOJ)は、ロシア国営メディア会社RT(旧ロシアトゥデイ)の副編集長が組織したボットファームが、2023年から親ロシア的な記事を広めるためにX(旧Twitter)上で偽アメリカ人向けのソーシャルメディアアカウントを1,000近く作成したと発表した。

ボット ファームは Gen AI を使用してリアルなテキストと画像を迅速に生成し、何百もの架空のソーシャル メディア プロフィールを埋め込み、より現実的で信頼できるものにしようとしたとされています。その後、RT アフィリエイターはこれらのアカウントを使用して、ドイツ、イスラエル、オランダ、ポーランド、スペイン、ウクライナ、米国を含む複数の国に、またはそれらに関する偽情報を広めました。.

あるソーシャルメディアボットファームが使用した技術について、司法省とそのパートナーはソーシャルメディア企業に対し、偽アカウントを特定し、「ロシアの悪意のある外国影響活動を減らす」よう奨励した。この勧告のパートナーには、FBI、米国サイバー国家任務部隊、カナダサイバーセキュリティセンター、オランダ総合情報安全保障局、オランダ軍事情報安全保障局、オランダ警察が含まれる。 

問題の 968 X アカウントには、米国に住んでいると主張する偽のユーザーが含まれていました。これらのアカウントは、ロシアのウラジーミル・プーチン大統領がウクライナでの軍事行動を正当化する動画を投稿したほか、リトアニア、ポーランド、ウクライナの一部が第二次世界大戦後にロシア軍からの「贈り物」であると主張する投稿を投稿した。.

NPRがこの疑惑についてRTにコメントを求めたところ、報道局は「農業は何百万ものロシア人にとって愛されている娯楽だ」と答えた。

X は利用規約違反のためアカウントを停止し、司法省はソーシャル メディア アカウントの設定に使用する電子メール アドレスを作成するためにボット ファームが使用していた 2 つのドメイン名を押収しました。ボット ファームによる米国ベースのドメイン名の使用は国際緊急経済権限法に違反し、そのインフラへの付随的な支払いは連邦マネーロンダリング法に違反したと司法省は説明した。

「今日の行動は、ロシアが後援するジェネレーティブ AI で強化されたソーシャル メディア ボット ファームを破壊する初めてのことだ」と、FBI 長官クリストファー レイは、。 「ロシアは、このボット ファームを利用して AI が生成した外国の偽情報を広め、ウクライナのパートナーを弱体化させ、ロシア政府に有利な地政学的な物語に影響を与えるために、AI の支援を受けて活動を拡大することを意図していました。FBI は、パートナーと協力し、最も危険な敵とその極悪な目的での最先端テクノロジーの使用を戦略的に妨害するために、共同の連続作戦を展開することに尽力しています。」

偽のプロフィールの作成は、偽情報キャンペーンやボット ファームで最も時間のかかる部分の 1 つでしたが、Gen AI によって作業のペースが変わりつつあります.

Gen AI が犯罪や選挙の安全などにどのような影響を与えるかについては、こちらをご覧くださいセキュリティ管理者最近の報道ここ.

フェイクニュース、操作されたメディア、ディープフェイク - 偽情報は、ますます洗練された生成人工知能ツールによって加速され、オンラインで進化し続けています。

— セキュリティ管理 (@SecMgmtMag)