カジノサイト
コミットメントの定量化: セキュリティにおける責任あるテクノロジーの価値
責任あるテクノロジーは、運営およびビジネスを行うための基本的なライセンスへと進化しています。最近の市場調査によると、テクノロジー購入者の 85% が、責任あるイノベーションと、人工知能、ビデオ分析、およびビデオ セキュリティ システムの使用が将来の前提条件になると考えていることが明らかになりました。この変化は単に願望的なものではありません。これは、組織がテクノロジー パートナーを評価および選択する方法における具体的な変化を表しています。
世界中のセキュリティ リーダーと会うと、同じことを何度も聞きます。責任あるテクノロジーは重要ですが、ほとんどの企業はそれをどのように示し、証明するかについて少し行き詰まっています。
現実的になる必要もあります。ほとんどのバイヤーは責任あるテクノロジーが重要であると述べていますが、それは依然として具体的な調達要件よりも野心的なものです。しかし、それでも時代は変化しており、業界としてそれを受け入れるべきです。
ポリを通じて基礎を築くサイクルと練習
責任あるテクノロジーへの取り組みを定量化するための最初のステップは、明確なポリシーとガバナンスにあります。 責任はイノベーションと使用の両方をカバーする必要があるため、テクノロジープロバイダーは、「責任ある使用」が実際に何を意味するのかを定義し、企業が評価できる基準を確立することにも協力する必要があります。
組織の 69% は、人工知能 (AI) とビデオ技術を責任を持って使用するための詳細な原則をすでに定めています。主要な差別化要因は、これらのポリシーがどのように実行可能な実践に変換されるかです。
テクノロジーを販売する企業は、エンドユーザー、パートナー、テクノロジープロバイダーとのすべての契約に人権条項を組み込むことで、責任あるポリシーと文化の形成を始めることができます。これらの契約には、責任ある使用への取り組みの概要を示し、重大な違反があった場合には関係を終了する条項を含める必要があります。
さらに、エンドユーザー組織自体も、責任あるテクノロジーの使用、AI の導入、データ処理の実践をカバーする内部ポリシーを必要としています。
もう 1 つの重要な指標は、責任あるテクノロジーがなぜ重要なのかについての真の理解を促進する、責任あるテクノロジーの原則、偏見の認識、倫理的意思決定に関するトレーニング プログラムです。開発者にとって、トレーニングは AI システムの無意識の偏見を認識して防止することに重点を置く必要があります。これは継続的な教育と意識を必要とする複雑な課題です。
実装と影響の測定
責任あるテクノロジーへの取り組みを評価することについて話すとき、それはデータの取り扱い方法についてオープンであることから始まります。データの収集と使用方法からデータを保護するために実行する具体的な手順に至るまで、すべてを文書化することが最善のアプローチであることがわかりました。定期的な監査は重要ですが、AI システムに関してはさらに踏み込む必要があります。潜在的なバイアスをテストし、見つかった問題にどのように対処するかを文書化する必要があります。これは単にボックスにチェックを入れるだけではありません。それは、問題が発生する前に問題を防ぐために積極的に取り組んでいることを証明することです。
ビデオのセキュリティに関しては、責任ある使用を測定する明確な方法が必要です。私たちの経験から言えば、これはビデオ データがいつ、どこで、どのように、何に使用されるかについて透明性を保つことから始まります。同様に重要なのは、ライブと録画の両方のビデオに誰がアクセスできるかを制御することです。場合によっては、単に少し下がって「この導入は実際のセキュリティ リスクと本当に一致しているか?」と自問することも必要です。
AI 開発におけるプライバシーを保護するために当社が採用しているアプローチは、合成データの使用です。トレーニング データを倫理的に調達するという課題に対処するために、私たちは、仮想都市私たちの研究部門にいます。これにより、実際の人々のプライベート データの代わりに、シミュレートされたシナリオを使用して AI モデルをトレーニングできるようになります。これは、プライバシーを保護するだけでなく、偏見を最小限に抑えるのにも役立つ実用的なソリューションです。たとえば、さまざまな照明条件下で人を正確に検出するなどの技術的課題に対処する場合、合成データを使用して無数のバリエーションを作成し、プライバシーを侵害することなく精度を向上させることができます。
検証による信頼の構築
第三者による検証は、責任あるテクノロジーへの取り組みを実証する上で重要な役割を果たします。サプライヤーは、関連する認証を探して維持し、業界標準の開発に参加し、独立した監査人と協力して自社の慣行を検証する必要があります。エンドユーザー組織とそのセキュリティ リーダーは、G7 AI に関する行動規範や EU-AI 協定などのフレームワークに署名しているサプライヤーを探す必要があります。特定のアクションが必要責任あるテクノロジーの使用に対するベンダーの献身的な姿勢を示す説明責任の尺度。
私たちの業界は政府や規制当局と協力する上で多くの特有の課題に直面していますが、物理的セキュリティ業界はテクノロジー部門全体の一部にすぎず、テクノロジー大手のような大規模なブランディング キャンペーンのためのリソースがありません。だからこそ、セキュリティリーダーは米国、英国、EU の議員と積極的に連携して、世界標準を推進できる実践的で効果的な規制の策定を支援すべきです。
欧州連合では、企業はすでに EU AI 法の準備を進めており、AI システムの大規模な文書化とテストが必要となります。先進的な組織は現在、AI システムの精度の文書化、定期的なバイアス評価、透明性レポート メカニズムなど、これらの要件への対応状況を追跡するための指標を開発しています。
実際的な例を考えてみましょう。セキュリティ アプリケーションに顔認識システムを実装する場合、組織は、行動を起こす前に 2 人の訓練を受けた専門家が一致を確認する必要があるという「4 つの目の原則」を確立できます。このアプローチは AI の効率性と人間の判断を組み合わせたもので、その有効性は誤検知率、検証時間、AI のみのシステムと比較した精度の向上によって測定できます。
エンゲージメントと価値の測定
透明性のある報告メカニズムの開発は、責任あるテクノロジーに対する別の重要な指標を提供します。組織は、成功だけでなく課題や学んだ教訓も文書化した報告書を確立する必要があります。これには、テクノロジー導入の影響に関する四半期ごとのレビュー、関係者からのフィードバック セッション、責任あるテクノロジーへの取り組みに関する公開レポートなどが含まれる場合があります。多くの可能性があります。
責任あるテクノロジーへの投資収益率には、長期的な視点が必要です。現在、公共部門の入札の多くは依然として価格を決定のかなりの（つまり決定的な）割合で重視しているが、責任ある使用は 10 ～ 20 パーセントしか占めていない可能性がある。これは、責任あるイノベーションに取り組む企業にとって、現実的な課題を生み出します。しかし、私たちは世代交代を経験しています。
Z 世代とミレニアル世代の若い従業員は、目的に基づいたより強い期待を職場にもたらしています。あZ 世代とミレニアル世代の 10 人中 9 人は、仕事の満足度には目的が重要であり、自分の価値観と一致しない仕事や雇用主を断る傾向が高まっていることがわかりました。この労働力の価値観の変化は、テクノロジーの影響に対する国民の意識の高まりと相まって、市場アクセスとビジネスの持続可能性にとって責任ある使用がますます重要になることを示唆しています。
今後の道筋を描く
あなたがこれらの対策を講じているセキュリティ リーダーである場合、技術的なことだけに集中することはできず、倫理的な面とのバランスも考慮する必要があります。本当の成功は、ルールや規制を超えて、正しいことを行うことと、テクノロジーが社会や人々の生活にどのような影響を与えるかを本当に気にかけていることを示すときにもたらされます。
今後は、プライバシー保護から企業がパートナーや顧客とどれだけうまく関わっているかに至るまで、測定できる数値と観察される人的要素の両方の全体像に目を向ける必要があります。お客様は、利害関係者のフィードバック セッションに積極的に参加し、責任あるテクノロジー実装に関する経験を文書化し、調達プロセス中にプライバシー保護と倫理的使用に関する要件を共有することで、この状況を形作るのに役立ちます。
開発者にとって成功するには、社会、政策立案者、業界という 3 つの主要な関係者間の複雑な相互作用を理解する必要があります。政治家はしばしばテクノロジーの利点よりもリスクに焦点を当てますが、企業はイノベーションと責任のバランスをとらなければなりません。必要なのは、テクノロジーそのものではなくテクノロジーの使用に焦点を当てた規制を策定するための、よりオープンな対話です。これは、社会の利益に真に役立つ有意義な製品を作成しながら、信頼を構築するのに役立ちます。
エンドユーザーには、責任あるテクノロジーの未来を形作る上で果たすべき強力な役割があります。責任を持って使用することを調達プロセスの重要な基準とし、AI 導入に透明性を要求し、倫理的考慮事項に関してテクノロジープロバイダーと積極的に関わることで、セキュリティリーダーは業界全体に有意義な変化を推進することができます。顧客が責任ある実践を要求し、それに報いることは、自社の組織を守るだけでなく、責任あるイノベーションが単なる願望ではなく標準となる環境の構築にも役立ちます。
責任あるテクノロジーの多くの側面を評価することはできますが、基本的人権と私たちがサービスを提供する社会の人々を保護するという最も重要な義務について数値を設定することはできません。私たちの業界が進化し続ける中、成長するのは責任あるイノベーションへの真の取り組みを実証できる企業であると私は信じています。私たちが正しいことをしていると言うだけでは十分ではありません。具体的な行動と測定可能な結果を通じてそれを証明する必要があります。
結局のところ、責任を持つということは、営業許可を維持することだけではありません。私たちがサービスを提供する社会や人々の信頼を獲得することが重要です。
デンマーク人のトーマス・ジェンセン氏は、2020年10月にコペンハーゲンのマイルストーン・システムズ本社にCEOとして入社しました。それ以前は、スペインのバルセロナで Bechtle の執行副社長として 2 年間、カリフォルニアのシリコンバレーで 5 年間、テクノロジー業界内でさまざまな管理職を務めました。 HP でワールドワイド チャネル販売戦略の責任者を務め、その前はデンマークの企業 Vestas および Maersk でさまざまなリーダー職を務めました。ジェンセンは、責任あるテクノロジー、国際展開、チャネル開発、市場開拓戦略に関して確かな経験を持っています。
