カジノサイト
AI イノベーションと規制のバランスをとる: 米国のセキュリティ企業とセキュリティ従事者への潜在的な影響
人工知能 (AI) テクノロジーに関する世界的な規制は急速に進化しています。欧州委員会は 2021 年にこの問題を主導し、は、AI システムがもたらすリスクのレベルに基づいて、AI システムを開発および導入する企業向けの明確なガイドラインを確立する初の欧州連合の規制枠組みです。 EU正式な契約に達しました2023 年 12 月の AI 法の規則について。米国には現在包括的な規制がありませんが、AI を規制する圧力が高まっているため。セキュリティ業界にとって、AI 規制の強化は、テクノロジー ベンダーとユーザーが製品やサービスで機械学習やその他の AI 機能を活用する方法に大きな影響を与えるでしょう。
EUのAI 規制は、安全で透明性があり、基本的人権に関する現行法を尊重する、信頼できる人工知能をサポートすることを目的としています。早ければ2025年にも施行される可能性があるこの法案では、AIシステムはリスクの4つのレベル（低または最小限、限定的、高、容認できない）に分類され、各レベルに応じて要件と制限が増加する。導入前に、最もリスクの高い AI アプリケーションは、リスク管理、テスト、技術的堅牢性、データ トレーニングとデータ ガバナンス、透明性、人間による監視、サイバーセキュリティなどのさまざまな要件に準拠して、適合性評価に合格する必要があります。
EU は、潜在的な悪影響に基づいて比例的なアプローチをとることで、最も有益なユースケースの繁栄を可能にしながら、有害な AI アプリケーションを抑制しようとしています。低リスク AI の開発者は、画像、音声、ビデオ コンテンツを生成または操作するチャットボットや AI システムと対話するときにユーザーに通知する透明性の義務も果たさなければなりません。イノベーションと責任の連携は、欧州の規制ビジョンの中心にあります。そして、米国が独自の連邦政策を模索する一方で、同様のリスクベースのモデルに引き寄せられる可能性が高い。
セキュリティ業界における AI
AI および機械学習テクノロジーは、セキュリティ業界内の多くのアプリケーションやサービスに不可欠なものとなっています。これらのテクノロジーのパフォーマンスが向上し、新しいアプリケーションが登場するにつれて、セキュリティにおけるこれらのテクノロジーの採用は急速に増加し続けています。大量のデータから洞察を抽出できる機能により、セキュリティ チームはリスクとイベントに対する認識を強化できます。
ビデオ分析は、パターン認識、顔認識、オブジェクト分類、ビデオ データ内の異常検出などのタスクを AI に依存しています。機械学習を搭載したスマート カメラは、脅威や不審な動作をリアルタイムで特定できます。 AI はまた、予測分析などの技術を通じてセキュリティ データから貴重な洞察を引き出します。 AI テクノロジーは、アクセス制御、ビデオ セキュリティ、警報システムなどにわたって使用例を見つけています。
規制が強化されると、AI システムの開発、テスト、監視に関連するコストが増加する可能性がありますが、綿密に作成されたポリシーにより、セキュリティ業界は倫理と潜在的な危害を考慮した、より責任ある AI 実践を推進することになります。これにより、潜在的な悪影響が最小限に抑えられるため、長期的には顧客、個人、企業に利益がもたらされます。また、テクノロジの仕組みや意思決定において説明責任、公平性、透明性が高まるにつれて、規制によって社会の信頼や AI ソリューションの導入が向上する可能性もあります。
米国企業はどのように備えられるか
差し迫った AI 規制に備えるために、セキュリティ企業は EU の AI 法の施行状況を追跡し、米国でも同様の政策が行われることを予測し始める必要があります。堅牢なテスト、責任あるデータの実践、継続的なモニタリングによってサポートされる責任ある AI を開発するプロセスに今投資することで、後の移行が容易になります。
今日の新興テクノロジー規制環境では、AI 開発企業にとって、開発プロセスを責任あるフレームワークとして次の 4 つの柱に合わせて調整することが賢明です。
設計およびデフォルトによるセキュリティとプライバシー。AI システムを作成する場合、開発者は最初からユーザーのプライバシーとセキュリティを優先する必要があります。このアプローチの概要は次のとおりです。、設計およびデフォルトでデータ保護が必要です。これは、個人データを保護し、データの収集と使用を制限し、倫理的実践を保証するための安全策をテクノロジーに組み込むことを意味します。目標は、プライバシーを尊重しながら適切に機能する AI を作成することです。
意図的な人権。AI システムを作成する場合、開発者は以下を評価する必要があります。人権への潜在的な影響そして悪影響を避けるために技術に安全策を組み込んでください。この人権設計アプローチには、AI システムが人々の生活に影響を与える意思決定をどのように行うかについて透明性を持たせること、プライバシー、表現の自由、公正な扱いなどの権利に対するリスクを積極的に特定することが含まれます。目標は、設計プロセスの最初から人権原則を尊重する AI を作成することです。
透明性。AI の透明性は、ユーザー、規制当局、社会全体を含むすべての関係者が AI システムの内部動作と意思決定プロセスを明確に理解できるようにするのに役立ちます。これには、システムがどのように開発されたか、どのようにトレーニングされたか、どのようなデータが使用されたか、そしてどのように結果が得られたかについてオープンであることが含まれます。透明性のある AI 開発手順は、責任ある安全なテクノロジーの原則と人権の尊重を守るために不可欠です。
公平性と包括性。責任ある AI における公平性とは、人種、性別、年齢、障害の有無などの個人またはグループの特性に関係なく、テクノロジーがすべての人々に等しく機能することを保証することを意味します。そのためには、疎外されたグループに対して偏った結果や差別的な結果がないかシステムを積極的にテストし、最初から多様性を考慮した AI モデルを設計する必要があります。包括性を考慮することは、さまざまな能力を持つ人々にとって AI を利用しやすく便利にすることも意味します。
開発者が準備として今すぐ始められる重要なアクション ポイントをいくつか示します:
- 機械学習モデルを通じて伝播する可能性のあるバイアスやその他の差別の問題について、データ ソースと処理を慎重に評価します。
- 展開前にモデルの厳密なテストと検証に投資し、発売後はモデルを継続的に監視します。
- 責任ある AI が説明責任を実証するための、十分に文書化されたプロセスを開発します。
- 監視の進化を実験と倫理差別化の機会として扱い、この分野のリーダーとして AI 規制の先を行く
一般に、AI ソリューション企業は、設計プロセスの非常に早い段階で倫理、公平性、透明性を構築することにより、開発に対する設計責任のアプローチを採用する必要があります。企業はまた、規制に関する対話と認識を促進するために、大学、非営利団体、責任ある AI に特化したベンダーとのパートナーシップを模索する必要があります。
堅牢な内部プロセスを実装することは効果的な準備につながりますが、不必要なリスクを回避することも重要です。革新と責任の組み合わせは適切なバランスを保っています。人権の境界を尊重し公共の利益に貢献しながら、AI で価値を提供する創造的な方法を模索します。このようなビジョンを維持することで、目前に迫った規制変更の中でもセキュリティ企業の競争力を維持できるでしょう。
革新と責任のバランスをとる
米国AI システムに対する規制が差し迫っています。 2023 年 10 月 30 日、ジョー バイデン大統領は。簡単に説明すると、この命令には 3 つの主なアクションが必要です:
- 人々の公民権を尊重し、プライバシーとデータを保護するために AI システムをどのように設計、開発、使用するかに関する原則を定めた AI 権利章典を制定します。
- 連邦政府機関に対し、AI のリスクを評価し、信頼できる AI の基準を設定し、AI の使用方法と悪用からの保護方法に関するレポートを発行するよう指示します。
- 連邦政府機関全体の取り組みを調整し、AI の安全性、倫理、監視に関するベスト プラクティスを共有するために、AI に関する省庁間ワーク グループを設立します。
他国の法律に沿って、この米国大統領令の主な措置は、人々の権利とプライバシーの保護、連邦政府機関による AI 利用の透明性と責任の強化、政府全体にわたる AI 政策の調整の改善に焦点を当てています。
新しい規制では AI の構築、テスト、検証、監視の方法の変更が必要になりますが、進歩を妨げる必要はありません。開発プロセス全体を通じて強力で責任ある AI プラクティスを積極的に導入することで、企業は透明性と説明責任を優先しながら限界を押し広げ続けることができます。
EU と米国で新たに導入された AI に関する規制は、AI システムが信頼でき、安全であり、危害の軽減に注意を払って責任を持って開発されることを保証することに焦点を当てていることを示しています。セキュリティ テクノロジ ユーザーにとって、これは、AI システムの構築方法、その制限、および導入された安全対策について開発者からの透明性が高まる可能性を意味します。ユーザーは、プライバシーと市民的自由の保護をより尊重する改善されたツールを確認できるようになります。
効果的で責任ある AI を推進するには、ユーザーは自分のニーズや懸念事項を開発者に伝える必要があり、開発者は開発に関する検討事項について早い段階からユーザーと関わり、計画に参加させる必要があります。責任とセキュリティという共通の価値観に根ざしたコラボレーションを通じて、ユーザーとテクノロジー部門は、イノベーションの恩恵と社会の幸福のバランスをとる AI エコシステムを構築できます。
責任あるデータの実践、厳格なテスト、継続的な監視、透明性への取り組みなどの基盤がしっかりと整備されているため、セキュリティ組織は自信を持って、安全に、責任を持って AI を導入できます。 AI ガバナンスは依然として旅の途中であり、目的地ではありません。しかし、進化する意欲のある企業は、AI 規制の新時代でも成功するでしょう。現在、責任あるイノベーションの実践と説明責任を優先することで、セキュリティ プロバイダーは人工知能の計り知れない可能性を解き放ち、明日の人々と財産をより適切に保護できるようになります。
Rahul Yadav は、Milestone Systems の最高技術責任者です。彼は、メディア、公共 IT、家庭用電化製品、電気通信など、さまざまな業界の B2B および B2C 組織で「テクノロジーと製品」チームを構築、変革、主導する幅広い経験をもたらしています。Milestone に入社する前、Yadav は、Bang & Olufsen、TV 2 Danmark、KMD A/S、Texas Instruments、Samsung Electronics でさまざまな指導的役割を担っていました。彼は、フランスのフォンテーヌブローにある INSEAD でグローバル エグゼクティブ MBA を取得し、インドのボパールの国立工科大学でデジタル コミュニケーションの技術修士号 (M.Tech.) を取得しています。技術者としての優れた実績と確かなリーダーシップの洞察力を兼ね備えた Yadav は、マイルストーンのテクノロジーと製品ポートフォリオ、さらには組織の継続的な開発と成長を確実にするための十分な備えを備えています。
人工知能がセキュリティ分野にどのような影響を与えているかについて詳しくは、今後の情報をご覧ください。セキュリティ テクノロジーの AI に関する 2024 年 4 月号。にアクセスしてください。セキュリティ テクノロジーアーカイブはここにあります。
