カジノサイト
現代のセキュリティ業界における「責任ある AI」の意味
企業が人工知能 (AI) ソリューションを社内で開発しているか、既存の AI ソリューションを製品に組み込んでいるか、業務に AI と分析を導入しているかにかかわらず、存在する可能性のある潜在的な危険と落とし穴を理解することが重要です。
ここではセキュリティ業界が有利です。セキュリティ プロバイダーは長い間 AI ベースのソリューションを活用してきているため、私たちの業界は今日の最も差し迫った AI 関連の問題にいち早く取り組んできました。もちろん、これはすべての道徳的問題を解決したり、すべての倫理的考慮事項に対処したことを意味するわけではありませんが、セキュリティ プロバイダーが AI へのアプローチ方法を検討する際に、おそらくゼロから始める必要がないことを意味します。
経済協力開発機構 (OECD) は開発しましたAI に対する人間中心のアプローチの形成を支援するため、これは責任ある AI が実際に何を意味するかを理解するための重要かつ基礎的なリソースとなっています。
今日の世界では、責任とは、テクノロジーが違法または不適切な方法で使用されないようにすることだけを意味するのではなく、テクノロジーがどのように機能するのか、最も効果的に使用する方法を顧客が確実に理解できるように、公開性と透明性を優先することを意味します。テクノロジー プロバイダーは、AI に対する責任あるアプローチが、チャネル パートナー、そして最終的には顧客との信頼関係を築くのに役立つことにすでに気づいています。
現代のセキュリティ環境における AI とその欠点
セキュリティ プロバイダーは AI を使用して、タスクの自動化と実用的な分析情報の生成という 2 つの主要な目標を達成します。
検出と対応の特定の要素を自動化する機能は、私たちが知っているビデオ分析に革命をもたらしました。企業は、セキュリティ担当者に頼って壁面モニターを監視する必要がなくなりました。セキュリティ ソリューションは、潜在的なセキュリティ インシデントが発生したときに自動的に警告を発することができます。 AI が進歩し、エッジ デバイスがより強力になるにつれて、分析の正確さと信頼性が高まっています。これらの機能は最新のセキュリティ導入に不可欠なものとなり、業界をより効率的でプロアクティブなソリューションに向けて推進しています。
しかし、自動化には欠点もあります。責任を持って AI を導入するということは、それらの欠点を理解し、それを考慮することを意味します。これは、各 AI ユースケースの徹底的なリスク評価を行うことから始まります。
たとえば、AI ベースの分析は、アラートを送信する前に潜在的なセキュリティ インシデントを検証することで、誤報を減らすのに非常に優れています。しかし、AI が誤った決定を下した場合、潜在的な影響は何でしょうか? AI ソリューションが夜間に中庭を横切る歩行者に気づかなかったとしても、大した問題ではないかもしれません。しかし、他の状況では、侵入者は盗難、破壊行為、さらには妨害行為の前兆となる可能性があります。
AI が重要な意思決定を信頼できるようにする場合、AI がその判断を誤った場合にどのような結果が生じるかを理解し、人間を関与させる必要があるかどうかを理解することが重要です。顧客は、パートナーが正確な情報を提供している場合にのみその評価を行うことができます。
リスクを評価する際には透明性が不可欠
リスク評価を実行するには、企業は AI ソリューションで何ができるか、何ができないかを正確に知る必要があります。これは、プロバイダーには、ソリューションでできることとできないことを明確かつオープンな方法で伝える責任があることを意味します。プロバイダーが自社のソリューションを偽って伝えると、顧客はテクノロジー全体に対する信頼を失う可能性があります。AI ツールがますます一般的になる中、誤った情報で井戸を汚染することは、非常に大きな損害をもたらす可能性があります。
重要なインフラストラクチャ、製造、化学工学などの機密性の高い業界の企業にとって、アラームを見逃した場合の潜在的な影響は悲惨なものになる可能性があります。ビデオ分析で敷地内に忍び込む妨害者や化学薬品タンクの過熱を検出できなかった場合、利益の損失だけでなく、重傷を負ったり、命が失われたりする可能性があります。つまり、テクノロジー プロバイダーは、顧客がどのソリューションが自社のニーズに最適であるか、追加のサポート制御が必要かどうかを判断できるように、自社の機能を正確に表現していることを確認する必要があります。彼らはテクノロジーがどのように機能するのか、そしてソリューションが意図したとおりに機能しない場合にどのような結果が生じる可能性があるのかを理解する必要があります。
たとえば、あるタイプのカメラでは必要な範囲を提供できない場合は、別の導入構成が役立つ可能性があります。 1 つの分析が目的の洞察を得るのに苦労している場合は、追加のデータ ソースが必要になる場合があります。最終的には、テクノロジーの限界と、それが顧客のニーズにどのような影響を与えるかを理解することにすべてが戻ります。
責任ある方法でデータ分析を使用する
これにより、実用的な洞察が得られます。今日の AI 主導のセキュリティ ソリューションは、組織が特定の場所で何が起こっているかをより深く理解し、提供された情報に基づいて意思決定を行うために使用する大量のデータを生成します。組織が AI モデルと分析対象データの両方の限界を理解し、潜在的なバイアスを認識していることを確認することが重要です。
特定のデバイスや分析が異なる照明条件や気象条件で常にパフォーマンスに問題がある場合、それを顧客が認識することが重要であり、ほぼ確実にテクノロジーの使用方法に影響を及ぼします。同様に、オーディオ分析者が騒がしい環境で音を区別するのに苦労している場合、製造会社や建設会社は別の方向に進みたいと思うかもしれません。ソリューションがさまざまな条件でどのように機能するかを知ることは、必然的にソリューションの展開方法に影響を与えることになります。
生成 AI はまだ初期段階にありますが、改良されたユーザー インターフェースや平易な言語検索機能などの機能により、安全性とセキュリティ機能を強化するという点では、すでに大きな期待を示しています。しかし、AI は急速に進化しているため、これらの新しい AI ツールがプラスの影響もマイナスの影響も与える影響はまだ十分に理解されていません。つまり、プロバイダーには現実の状況で堅牢なテストを実施する責任があるということです。これらの AI ソリューションは、古い分析ソリューションと同じレベルの成熟度を持っていないため、プロバイダーは、顧客が実際に導入する環境でアルゴリズムがどのように機能するかを評価する必要があります。新しいテクノロジーには注意することが重要であり、プロバイダーが顧客に提供できる情報は多ければ多いほど良いのです。完璧な解決策はありませんが、潜在的な問題が発生する可能性のある場所を特定することは、責任ある方法で問題を軽減するための重要な第一歩です。
責任ある使用を徹底することには独特の課題がつきもの
テクノロジープロバイダーの責任は、顧客が製品を所有した時点で終了するわけではありません。悪用の可能性を制限し、製品が違法または非倫理的な目的で使用されないようにすることも重要です。もちろん、言うは易く行うは難しですが、どんなテクノロジーにも悪用する方法はあり、セキュリティ機器や監視機器も例外ではありません。しかし、テクノロジープロバイダーが悪用の可能性を軽減し、責任ある使用についてのビジョンを共有する顧客と確実に連携するために実行できる具体的な手順があります。はい、これには、テクノロジーを無責任な方法で使用する傾向がある顧客への販売を拒否することが含まれるかもしれませんが、プロバイダーが成功に向けてより良い立場を築くために採用できる、より体系的な慣行もあります。
おそらく最も重要なステップには、チャネル全体で長期にわたる良好な関係を構築することが含まれます。顧客との関係を構築することは重要ですが、販売パイプラインと製品ライフサイクル全体にわたって重要な知識とサービスを提供するベンダーやインテグレーターとの強力な関係を築くことも同様に重要です。その大きな部分は、製品とその機能について透明性とオープン性を保つことに関係しています。あなたとあなたの製品を信頼できるベンダーやインテグレータが増えれば増えるほど、あなたの関係はより良くなり、あなたの価値観やビジョンに一致する顧客にあなたをより良く推薦できるようになります。
最終的に、テクノロジー プロバイダーには、AI だけでなく、より広範な倫理観や価値観に関して野心を共有するパートナーと協力する責任があります。組織が共通の価値観を持っていると、それが信頼を生み出し、信頼は大きな競争上の優位性をもたらします。結局のところ、衝動的に行動するベンダーと責任ある行動を示すベンダーとインテグレーターのどちらを顧客に推奨する可能性が高いでしょうか?その選択は明らかであり、今こそその評判を築き始めるときです。
AI が進化するにつれて、テクノロジーの初期から AI に対して思慮深く、思慮深く、責任あるアプローチを示してきた企業は、競合他社とは一線を画す形でパートナーや顧客の信頼を獲得することになるでしょう。
責任ある AI の長期ビジョンを確立する
技術の進歩の速度を考えると、5 年後、10 年後はおろか、1 年後に AI がどのようになっているかを予測することは困難です。その不確実性が課題をもたらしますが、同時に、オープン性と透明性に取り組むには最適な時期でもあります。
AI とそのユースケースが進化し続けるにつれて、テクノロジーに対して誠実かつ責任あるアプローチをとってきたプロバイダーは、パートナーや顧客が信頼できるアドバイスや専門知識を求めてプロバイダーに頼ることになるでしょう。独自の AI プラクティスを改善し、チャネル全体で強力な関係を促進することで、今日のセキュリティ プロバイダーは、責任ある AI 開発だけでなく、責任ある導入と使用の基礎を築くことができます。
Mats Thulin は、Axis Communications のコア テクノロジーのディレクターであり、ビデオ分析、メディア、セキュリティの長期的なテクノロジー開発を担当しています。大企業と新興企業の両方で多様な経歴を持つチューリンは、ビジネスとテクノロジーの豊富な専門知識をもたらします。彼はルンド工科大学で電気工学の修士号を取得しています。
