バカラサイト
エージェント的 AI の時代におけるオンライン詐欺に対する防御
人工知能 (AI) エージェントは、デジタル プラットフォームとのやり取りの方法を根本的に変え、日常のオンライン タスクや商取引に急速にハイパー パーソナライゼーション、生産性、スピードをもたらしています。
また、これらは前例のない詐欺や悪用のベクトルへの扉を開き、サイバーセキュリティ チームに新たな課題をもたらしています。現時点で、企業が正規の AI エージェントを自律型攻撃から区別することはますます困難かつ複雑になってきています。
私たちの最近の調査では、正当な AI アシスタントであろうと悪意のある攻撃者であろうと、すべての AI エージェントは同一の技術的特性を示すという重要な発見が明らかになりました。消費者向け AI ツール、文書化されていないベンダー ツール、社内 AI システム、パートナー統合はすべて「隠れたヘルパー」の例です。彼らは自己識別をせず、悪意のあるトラフィックも識別しないため、善良なエージェントと悪しきエージェントを区別することが困難になります。
もはや、単に自動化と「偽の」アクティビティを特定し、昨年の「ブロックする」戦略を引き出すだけの問題ではありません。そのモデルに従えば、正規のユーザーをブロックするリスクが生じます。新しい現実を無視すると、巨額の詐欺被害への扉が開かれてしまいます。
では、組織はどのようにバランスをとっているのでしょうか?
急速に増大する脅威
エージェント AI は、攻撃の複雑さを深め、前例のない規模で攻撃範囲を拡大することで、攻撃者が戦術を迅速に進化させるのに役立ちます。 AI エージェントは、遭遇する防御に基づいてリアルタイムで戦略を適応させ、常に戦術を学習して洗練させることができます。
適切な例: 昨年の Google の脅威インテリジェンス グループライブ実行中に大規模言語モデル (LLM) を使用するマルウェア ファミリを初めて観察したとのこと。この観察可能なアクティビティには、悪意のあるスクリプトを動的に生成すること、検出を回避するために独自のコードを難読化すること、AI モデルを活用して悪意のある機能をハードコーディングするのではなくオンデマンドで作成することが含まれます。
簡単に言えば、昔ながらの防御策では、人間のように AI エージェントをイライラさせることはありません。彼らの忍耐力は無限であり、解決能力に制限がないため、従来の高摩擦の防御は役に立たなくなります。標準的な大規模言語モデルでは、ボット防御の古参の CAPTCHA について。
敵対者には採用の制約がありません。彼らのターゲットはそうします。
よく理解してください。AI エージェントは少なくとも 80% の確率で CAPTCHA を解決できます。エージェント AI が効果的なツールとして急速に成熟するにつれて、偽アカウントの作成数は大幅に増加し、検出して阻止することが難しくなります。実際、エージェント AI は、これまでにないスピードと実行で攻撃プロセスを自動化し、2027 年までにアカウント悪用時間を半分に短縮するとのこと。
これに対応して、セキュリティ チームは AI を活用したボットの検出と軽減などの AI セキュリティ対策を採用しましたが、実装は遅れています。敵対者には採用の制約がありません。彼らのターゲットはそうなります。したがって、企業の財政的投資とコミットメントが存在していても、そのタイミングがそうでないことは驚くべきことではありません。
組織のセキュリティ チームがエージェント AI 攻撃に備えるのにかかる時間は平均 6 か月以内です。残念ながら、実装サイクルが完了するまでには通常 1 年以上かかります。脅威は、セキュリティ チームが効果的な防御を確立できるよりも速く進化しているだけです。
不正防止戦略を再考する
詐欺師がエージェント AI を使用する速度は今後も増加する一方です。 AI を利用した詐欺において地殻変動が進行中であると言うのは誇張ではありません。これが地震の場合、AI はリヒター スケールで 3 となり、エージェント AI は 8 になります。エージェント AI は、グローバル企業がパッチを適用するよりもはるかに早く脆弱性を迅速に発見できるため、詐欺師は従来の防御よりも大きな利点を得ることができます。
あなたの組織がセキュリティ変革を始めたばかりの場合は、独自の自動攻撃を拡大する悪者に追いつこうとしているかもしれません。これは、セキュリティ チームが完璧を善の敵とする余裕があるシナリオではありません。大規模な領域で即座に ROI をもたらすソリューションを導入して、今すぐ始めましょう。すべての認証ワークフロー (アカウント登録とログイン) を強化することを検討してください。防御が突破され、重大な損失に直面してから対応するよりも、今すぐプロセスをスピードアップして重要なフローを強化する方が良いでしょう。
多層防御による回復力の構築
「Know Your Agent」（KYA）機能を構築することは、これらの脅威から身を守るために不可欠なステップです。現在、有用な正規の消費者エージェントを、悪意のあるクレデンシャル スタッフや偽アカウント エージェントから区別するための、認可検証、なりすまし検出、および行動分析のためのインフラストラクチャを開発することが急務となっています。有効化と検証の間のギャップは、組織に新たに発生した最大の脆弱性です。この典型的な例は、組織が正規のものと悪意のあるものを区別するためのセキュリティ アプローチを最終決定する前に、顧客エージェントを受け入れるというビジネス上の決定を下す場合です。
エージェント AI を使用する詐欺師は、微妙だが検出可能な痕跡を残します。組織は、技術インフラストラクチャ指標 (例: 仮想マシンの署名やプロキシ ネットワークの使用状況)、行動パターン認識 (例: 異常なタイミング パターンや同時の同一アクション)、および経済的行動分析 (例: コストを重視しないパターンや大量の成功率の低い試行) を組み合わせたマルチシグナル検出戦略を実装する必要があります。この多層アプローチにより、最も高度な AI エージェントであっても識別し、適切な軽減策を提供する能力が強化されます。
正当性検証プロセスも同様に重要です。正当なエージェントのみが組織システムにアクセスできるように、堅牢なエージェントの認証および登録プロセスを確立する必要があります。異常を継続的に監視しながら、エージェントを検証済みのユーザー アカウントと資格情報にリンクすると、アカウントの乗っ取りやエージェントのハイジャック シナリオの検出に役立ちます。
とはいえ、「悪い」エージェントは通常の Web ベースの消費者フローに従う可能性が高いため、確立されたプロトコルに従う自己識別エージェントだけに依存すると、大きな脆弱性のギャップが残ることに留意してください。悪質なエージェントは、Web モデル コンテキスト プロトコル (WebMCP) などのプロトコルや既存の顧客フローを悪用しようとします。
WebMCP は、Web サイトが構造化ツールを Web ブラウザ内の AI エージェントに直接公開できるように設計されています。ただし、AI エージェントがユーザーであるかのようにフォームを送信したり、購入したり、ログインしたりできる読み取り/書き込み機能を有効にすることで、重大なセキュリティ リスクも生じます。詐欺師はこれを悪用する可能性があります。
テクノロジーと業界の洞察を活用
適応型防御プラットフォームと業界を超えた脅威インテリジェンスは、重要な保護層をさらに強化します。多くの場合、ベンダーは社内のセキュリティ チームがプラットフォームを構築するよりも早くプラットフォームを提供できますが、すべてのベンダーが同じというわけではありません。
組織は、敵対者の手法に合わせて進化する包括的なプラットフォームを備えたベンダーを優先する必要があります。新たな攻撃パターンがあなたの業界に影響を与える前に特定できる、業界横断的なリスクシグナルを提供するものを探してください。また、AI を活用したボット、人間による詐欺ファーム、エージェント AI に関するリアルタイムの脅威インテリジェンスも提供する必要があります。最後に、同様の企業で導入に成功し、組織規模で実証済みの機能を実証できるベンダーを探します。
Proof-of-Work システムとネットワーク分析を導入することで、詐欺師を阻止することもできます。大量のリソースを必要とする計算上の課題により、大量自動化が経済的に法外に困難になる可能性があります。さらに、ネットワーク分析により、人間の使用とは異なるトラフィック パターンを特定し、別の防御層を提供できます。
将来を見据えて: 成功を測定し、ギャップを埋める
最後に、組織は現在のセキュリティ スタックが最新の脅威に対して効果的であるか、それとも遅れをとっているかを分析する必要があります。導入されているソリューションが検出精度、応答時間、または誤検知の削減において目に見える改善を提供していない場合、展開から保護までの間にギャップが存在します。信頼できるパートナーは、機能が存在するだけでなく機能することを証明する指標の追跡を支援します。
詐欺やサイバー攻撃は確かに新しいことではありませんが、現在の変化のペースは著しく、加速しています。脅威の状況は、ボットから人間による詐欺ファーム、エージェント AI まで、あらゆるツールをシームレスに使用するハイブリッド マーケットプレイスに進化しました。
組織とそのサイバーセキュリティ チームは、次の攻撃の波に今すぐ備える必要があります。攻撃はすでに存在し、進化しており、信じられないほど効果的であるためです。これらの差し迫った攻撃には、不正行為の検出と防止戦略を直ちに再考する必要があります。
フランク・テルエルはの最高執行責任者です は、プロアクティブな詐欺抑止の大手プロバイダーです。彼は 20 年以上サイバーセキュリティとアイデンティティ業界に携わっており、GM、SVP、COO、CFO の役職を歴任しています。フランクはキャリアのほとんどを、デジタル アイデンティティとサイバーセキュリティ分野のシリコン バレーのテクノロジー企業で指導的地位に費やしており、高パフォーマンスのチームを構築し、重大なビジネス成果をもたらしたことで広く認められています。
© Arkose Labs
