カジノサイト

大規模なサイバー犯罪: 大規模な言語モデルが犯罪者をどのように支援するかに関するレポートの詳細

大規模言語モデル (LLM) Claude を開発している会社 Anthropic が、水曜日、人々が人工知能 (AI) プラットフォームをどのように利用したかについて 10 件の事例を詳しく説明犯罪の意図.

いずれの場合も、Anthropic は発見後、アクセスを遮断する措置を講じ、必要に応じて当局に活動を警告しました。

報告書は、ケーススタディは特にクロードの使用に基づいているが、他のLLMも同様の方法で活用されている可能性があると指摘しています。レポートでは、これらの悪質な LLM 使用の広範な領域がリストされています:

• エージェント AI システムが武器化されています。 AI モデル自体は、高度なサイバー攻撃の実行方法をアドバイスするだけでなく、高度なサイバー攻撃を実行するために使用されています。
  
  
• AI は高度なサイバー犯罪への障壁を低くします。技術的なスキルがほとんどない攻撃者が AI を使用して、ランサムウェアの開発など、以前であれば何年ものトレーニングが必要だった複雑な操作を実行しています。
  
  
• サイバー犯罪者は業務全体に AI を組み込んでいます。これには、被害者のプロファイリング、自動化されたサービス配信、および数万人のユーザーに影響を与える操作が含まれます。
  
  
• AI は詐欺行為のあらゆる段階で使用されています。詐欺師は、盗んだデータの分析、クレジット カード情報の窃取、偽の身元の作成などのタスクに AI を使用します。

各ケーススタディでは、犯罪者がどのように LLM を使用して企業、政府、個人を攻撃しているかについて詳しく説明しています。以下は、企業のセキュリティ専門家にとって特に興味深い 3 つのケーススタディの短い概要です。

被害者のプロファイリング

ロシア語圏のフォーラムの参加者は、Claude と Anthropic の Model Context Protocol を利用しました。このツールは、LLM が情報にアクセスして使用できるようにする情報データベース間のインターフェイスとして機能し、潜在的なマルウェアやハッキングのターゲットのプロファイルを見つけて構築することを可能にします。

ユーザーは個人のブラウザ使用パターンにアクセスして分析し、閲覧履歴に基づいて潜在的なセキュリティ脆弱性や悪用される可能性のある領域を特定することができました。ユーザーの興味や行動パターンのランク付けされたリストを含む、個人の複雑なプロファイルを構築しました。

「この作戦は、AI が盗まれたデータ分析をどのように変革し、単純な抽出を超えて行動プロファイリングや被害者の優先順位付けに移行するかを実証している」と報告書には記載されています。

クレジット カードの認証情報を盗む

スペイン語を話す人物が、Anthropic の LLM のコード分析部分である Claude Code を使用して、転売目的で人々のクレジット カード情報を盗むことを目的とした招待制の Web サイトを構築、維持しました。

ユーザーは、複数のクレジット カード検証サービス間をローテーションするアプリケーションを構築し、フェイルオーバー メカニズムを組み込み、カード発行機関の不正防止対策を欺くためのその他の高度な手段を備えていました。バックエンドで、犯人は、悪意のある行為ではなく不注意な行為とみなされる可能性のあるものを隠すための戦略的な遅延を含む、カード データのバッチ処理と販売の方法を設計しました。

「マルチサービスの検証および回避技術は、カード業務における憂慮すべき進化を表しており、クレジット カード詐欺の規模と有効性が増大する可能性がある」と報告書は指摘しています。

バイブハッキングによる恐喝

バイブ ハッキングは、LLM にインスピレーションを得たバイブ コーディングに由来する用語で、コーディングの初歩的な知識しか持たない人々に洗練されたコードを作成する能力を与えます。バイブハッキングは、ハッキングに関する初歩的な知識しか持たない人々に、洗練されたハッキン​​グスキームを作成する力を与えます。このケーススタディでは、AI の利点は知識ではなく、スピードとスケールにありました。

サイバー犯罪者はクロードを利用して、個人の偵察に基づいた高度な認証情報収集技術を開発しました。これにより、1 か月間で少なくとも 17 組織の大規模ネットワーク侵入が可能になりました。

「この作戦は、AI支援型サイバー犯罪における憂慮すべき進化を示しており、AIが技術コンサルタントと積極的なオペレーターの両方として機能し、個々の攻撃者が手動で実行するにはより困難で時間のかかる攻撃を可能にする」と報告書は述べている。 「この攻撃者は、クロード コードが偵察、悪用、横方向の移動、データの漏洩をサポートすることで、攻撃ライフサイクル全体にわたって前例のない人工知能の統合を実証しました。」

セキュリティ管理はの潜在的な危険について警告してきました簡単に入手できるオンライン データそして人工知能長年。

「これらの新たな脅威と戦うには、従来の戦略以上のものが必要です」と、元米国秘密情報局次長補のマイケル R. セントレラ氏は次のように書いています。セキュリティ テクノロジーの記事今年の初め。 「技術革新、人間の専門知識、グローバルなコラボレーション、適応型インテリジェンスを統合する総合的なアプローチが必要です。組織は、機械学習、生成 AI、予測分析についての深い理解を備えた専門の調査部門を開発する必要があります。」