カジノサイト
物理的セキュリティと AI で倫理とプライバシーの問題に対処する
警備業界に入ったばかりの頃、私の仕事はライブ監視カメラの監視を中心にしていました。セキュリティ関連の異常を特定するという任務を負った私の対応は、トレーニングと洞察に基づいて行われました。しかし、この人間だけの見落としは、アクティビティやインシデントが見逃される可能性を意味し、イベントを正確に特定するために長時間にわたる VTR 録画のレビューが必要になる場合もありました。
当時、CCTV システムの知能は人間によるものであり、信頼性は比較的限られていました。第一世代のビデオモーション検出テクノロジーの出現により、ゲームは少し変わりました。この新しい (基本的なものではありますが) 機能は、事前定義された領域内のピクセルの変化を識別し、動きがあると私や他の警備員に通知することができます。この機能によって CCTV が「スマート」になったわけではありませんが、効率と精度が向上しました。その使用に関する法的考慮事項は、主にカメラの配置に関連するプライバシー上の懸念に焦点が当てられていたため、法務部門との関与は最小限でした。
高度な画像処理を誇るカメラに加え、動き検出機能を備えた IP カメラやネットワーク ビデオ レコーダー (NVR) の登場により、状況は大きく変わり始めました。この進化は、監視システムがもはや人間の知能だけに依存するのではなく、初歩的な形式の合成知能を組み込んでおり、手動監視の時代をはるかに超える信頼性を提供することを意味します。それでも、これらのシステムの有効性は、人間のオペレーターによる監督と指示にかかっています。
近年、統合セキュリティ システムに人工知能 (AI) を組み込み、高度でインテリジェントなパターンおよび行動認識を開発することにより、真の変革的変化が起こりました。 AI で強化された新世代のドローンとロボットにより、セキュリティ システムの到達範囲と効率が著しく拡張され、キャンパスの活動をより包括的に監視し、これまで以上に不審な行動をより確実に検出できるようになりました。
さらに、5G や などの通信技術の進歩これらの AI を活用したツールの運用範囲を拡張し、境界セキュリティの限界を押し広げました。こうした技術の進歩により、当社のセキュリティ システムは異常を特定し、人間の能力を超えた速度と正確さで対応を開始できるようになりました。 AI 対応セキュリティ システムのパワーと機能は、自律型インテリジェンスの新たな高みに到達しており、人間のオペレーターを確実に上回ることができます。ビデオ システムは、監視の規模や期間に制限なく、継続的に警報を発することができます。 AI ビデオは、プログラムされたあらゆるものの追跡と監視を自動化しますが、それが問題になる可能性があります。
AI ビデオは、プログラムされたあらゆるものの追跡と監視を自動化しますが、それが問題になる可能性があります。
倫理とプライバシーの問題
ビデオ監視 AI の活用視覚的なイメージを分析し、解釈するため。深層学習アルゴリズムを通じて、システムはビデオ映像のデータベースから継続的に学習し、時間の経過とともに精度と信頼性が向上します。データベースが広範で多様であればあるほど、AI はより効果的にパターンを認識し、異常を検出し、パフォーマンスを向上させることができます。
たとえば、ビデオ AI は、プログラムされていれば、特定の個人を認識して追跡し、個人固有の対応を開始できます。この事実は、これらのテクノロジーを取り巻く倫理とプライバシーの問題の核心であり、セキュリティ プログラムに AI の導入を検討している人は誰でも理解する必要があります。
AI バイアス。人間と私たちが設計する AI ツールは本質的に偏見を持っています。 AI の場合、バイアスはその開発のためのアルゴリズムやトレーニング データセットから生じます。
AI ビデオ エンジニアは、開発段階で良心的な実践を採用することで、これらのバイアスを大幅に軽減する力とモチベーションを持っています。これには、多様で高品質のトレーニング データの使用が含まれます。アルゴリズムについて。 AI ベースの監視システムを確実に運用するには、このような積極的な姿勢が不可欠です。正当に適用されました公平性を持って運営します。
偏見はさまざまな形で現れます。人種、性別、社会経済的、年齢に関連した偏見など。多くの場合、代表的ではないトレーニング データや既存の偏見の影響を受けたデータが原因です。たとえば、ビデオ画像のキャプチャ中に照明が不十分だと「悪いビデオ」が生成され、トレーニング データベースの信頼性の低い参照が発生し、AI の精度に影響を与える可能性があります。
アルゴリズム自体にバイアスが組み込まれている場合があり、結果が特定のグループに有利に偏る可能性があります。さらに、監視システムにおける顔認識などの技術により、人種の誤認や性別の誤分類が高率で発生し、特定のグループに不均衡な影響を与える可能性があります。社会経済的バイアスや年齢的バイアスにより、監視の焦点が一貫せず、特定のコミュニティが不当に標的になったり無視されたりする可能性もあります。
これらのバイアスを放置すると、公平なセキュリティ対策を提供する AI の能力が低下し、社会的格差につながる可能性があります。したがって、AI 主導の監視システムにおける偏見を最小限に抑え、公平性を高めるためには、AI の開発段階での厳格なテストと透明性とともに、トレーニング データセットを多様化することの重要性は、どれだけ強調してもしすぎることはありません。 AI ビデオを検討しているエンドユーザーとして、メーカーに「バイアスにどのように対処し、最小限に抑えましたか?」と尋ねることは不可欠です。
特に、顔認識 AI と事件報告システムを組み合わせて既知の犯罪者を特定し、適切な措置を講じるカジノなど、正確な個人識別が意図的かつ必要なシナリオがあります。これにより、否定できない複雑さが重なり、導入前に意図を慎重に検討し検討する必要があります。
プライバシーに関する懸念。AI とプライバシーに関する普遍的な法律はまだ存在しておらず、倫理的枠組みは依然として存在しますほとんど開発されていない。 AI ビデオ ソリューションを導入する企業は倫理を考慮する必要があります。プライバシーを含む、AI 対応セキュリティ システムを開発するとき。
公共および個人の安全の確保と個人のプライバシーの侵害との間でバランスをとらなければなりません。ビデオ技術がこれまで不可能だった方法で個人を監視し、個人の自由やプライバシーを侵害する可能性がある場合、このバランスは不安定になります。
AI 監視の行き過ぎの事例は珍しいことではなく、セキュリティを強化するために設計されたシステムが、不注意または意図的に過度に侵入的な監視にまで拡張され、それによって個人の自由に影響を与える可能性があります。たとえば、有名な中国の国家AI を活用したモニタリング新疆ウイグル自治区のイスラム系少数民族ウイグル族と、オーストラリアによる支援のための AI 活用.
公共の利益と私生活の区別があいまいになる可能性があり、AI を活用した監視がどのように展開されるかについて倫理的な懸念が生じています。 AI を監視システムに統合すると、機密の生体情報の収集、処理、保存に関する潜在的な懸念も高まります。
AI ビデオ システムが倫理的に正当化されるためには、AI ビデオ システムが必要であり、認識された脅威やニーズに比例している必要があります。個人の特定を正当化するのはさらに困難です。この原則では、監視イニシアティブを慎重に評価して、特定のセキュリティ上の懸念に対処するために必要なレベルを超えないようにすることが求められます。私たちの業界の課題は、効果的なバランスをとった実践方法を定義して実装することにあります。
この優れた例は、AI チップ メーカーと共同で実行された法執行プロジェクトです。同局は、AIを活用して近所の特定の匿名化された歩行者を評価し、違法薬物販売の可能性が高い場所を特定するビデオ監視を設置した。さらなる調査努力により、最初の調査結果が確認されました。
監視における AI の倫理的な導入には、明確なポリシーと公的監視のための堅牢なメカニズムが必要です。監視テクノロジーの使用方法、収集されるデータの種類、およびその意図された目的に関する透明性は、社会の信頼を維持する上で重要な役割を果たします。
さらに、個人がプライバシー侵害に対して異議を申し立てたり、救済を求めたりするための確立された道筋がなければなりません。説明責任のメカニズム、特にポリシーは、監視テクノロジーを採用している企業がその行動に対して倫理プログラムによって責任を負うことを保証し、AI によって強化されたセキュリティ対策の時代において個人のプライバシーの権利を尊重し保護するという倫理的義務を強化します。
これらのバイアスを放置すると、公平なセキュリティ対策を提供する AI の能力が低下し、社会的格差につながる可能性があります。
いくつかの実践的なアドバイス
AI 対応システムを導入している、または導入を検討している企業は、次の点を考慮する必要があります。
ユースケース、影響評価、およびポリシー。 AI システムをいつどのように適用するかを限定する一連のユース ケースを開発し、その使用を定義されたユース ケースに明確に制限するポリシーを実装します。
デューデリジェンスを実証し、不必要なプライバシー リスクを回避するために、プライバシー影響評価の実施を検討してください。ポリシーには、システムが導入されている国の連邦法または州法を組み込む必要があります。 EU 一般データ保護規則 (GDPR) は、ヨーロッパで活動する組織が遵守するよう努めなければならないデータとプライバシー法の代表的な例です。
制限機能。ユースケースに必要な機能を特定し、必要なものだけに制限します。
たとえば、ある小売 AI メーカーはビデオ画像を棒グラフに変換することで人間を匿名化しており、AI トレーニングは棒表現の動作に焦点を当てています。これにより、システムが人口統計の詳細なしで行動を評価するだけでよい場合に、AI バイアスの発生が大幅に最小限に抑えられます。
メーカーと AI 開発について話し合う。デュー デリジェンス プロセスの一環として、AI ベンダーが AI をトレーニングするためのアプリケーションとデータ セットをどのように開発したかについて正式に話し合い、文書化します。アルゴリズムが独立して監査されたかどうかを尋ねます。特に、どのようなデータがどのように使用されたかを尋ねます。潜在的な問題が懸念されているため、懐疑的になることをお勧めします。
テストケースと概念実証。AI ビデオに投資する前に、トライアルと開発の実証を実施することを真剣に検討してください。会社の利害関係者、特に法務部門と倫理部門が関与し、その要件がテストに組み込まれていることを確認します。
連絡します。すべての関係者に連絡を取り、評価と導入の取り組み全体を通じて関与します。 AI はセキュリティに使用される可能性がありますが、企業のブランドに対する潜在的な影響はすべての人に影響を与えます。
高度な CNN AI を従来のセキュリティ技術と新しいセキュリティ技術の両方に統合することは、セキュリティ システムが人々と資産を保護する方法に革命的な変化をもたらします。不当な偏見や意図的な誤用のリスクは重大かつ慎重かつ意図的ですが、倫理と公平性の原則を守りながら、計画を立てることでシステムのパフォーマンスを最大化し、組織のニーズを満たすことができます。
William Plante は、Everon Solutions の統合ソリューション リスク グループのディレクターであり、カジノサイト 国際新興テクノロジー コミュニティ運営委員会のメンバーです。
