その2018 年 10 月にシャイノーラの店舗から約 3,800 ドル相当の高級品を盗んだ泥棒を探していました。彼らが調べなければならなかったのは、セントルイス カージナルスの帽子をかぶった身元不明の黒人男性の監視映像だけでした。

5か月の遅延の後、警察署は顔認識ソフトウェアを通じて映像を実行し、ミシガン州ファーミントンヒルズのロバート・ジュリアン・ボーチャック・ウィリアムズ氏と一致するものを受け取りました。 Shinola の店舗で働いていた警備員は同じ映像を見て、写真のラインナップからウィリアムズを選びました。

収集した証拠に確信を持った警察はウィリアムズに電話し、逮捕するためにデトロイト警察署に出頭するよう求めた。ウィリアムズさんはいたずらだと思い、さらなる説明を求めたところ、警察は勤務中に逮捕すると発表した。代わりにウィリアムズさんは警察に自宅に向かうと告げたので、警察はそこで会うことにした。]

ウィリアムズ氏が無実を主張したにもかかわらず、警察官は2019年1月に家族の目の前でウィリアムズ氏を逮捕し、警察署に連行し、保釈までの30時間拘留した。その後の法廷審理で、郡検察官は偏見なくウィリアムズ氏に対する訴訟を取り下げた。

ウィリアムズの弁護士が記録請求を行った後、顔認識ソフトウェアがウィリアムズを泥棒と誤認したことが最終的に明るみに出ることになる。アメリカ自由人権協会 (ACLU) は、デトロイト警察に対し、今後の捜査で同じ顔認識ソフトウェアを使用することを禁止するよう告訴した。

誤認逮捕の後、デトロイト市警察は、顔認識に使用するのはビデオ映像ではなく静止画のみとし、暴力犯罪の捜査にのみ許可する方針に変更しました。

「顔認識ソフトウェアは、手がかりを生成するためにのみ使用される捜査ツールです」とデトロイト警察署のニコール・カークウッド巡査部長は、。 「逮捕するには、追加の捜査作業、裏付けとなる証拠、および考えられる原因が必要です。」

ウィリアムズの逮捕は見出しを飾り、ACLUの注目を集めたが、顔認識によって個人が誤認されない例もある。プライバシーと人種正義の擁護者からも、このテクノロジーが無実の個人をプロファイリングしたり危害を加えたりするために使用される可能性があるとの懸念が提起されています。

2020 年の夏、米国での人種的不平等と警察の過剰な武力行使に対する大規模な抗議活動のさなか、顔認識技術メーカー数社は、IBM を含むマイクロソフトとアマゾンは、自社製品の開発と販売を一時停止すると発表した。

一部の地方自治体は、顔認識技術の使用を禁止する措置を講じました。まずカリフォルニア州サンフランシスコで住民が法執行機関による技術の使用を禁止し、次にオレゴン州ポートランドで地方当局が公共施設における民間部門の顔認識技術の使用を初めて禁止する法案を可決した。

「私たちは何よりもまず、ポートランドの住民と訪問者のプライバシーを保護しなければなりません。黒人、先住民、その他の有色人種を差別しないテクノロジーのより責任ある開発が見られるまで、これらの条例は必要です」とポートランド市長のトム・ウィーラーはプレスリリースで述べた。 「ポートランド市はこれまで、顔認識などのテクノロジーの使用がポートランド市民の公民権や市民的自由を侵害しないことを保証するための包括的なプライバシー ポリシーを制定していませんでした。また、欠陥のある偏ったテクノロジーの使用は、個人や家族に壊滅的な影響を与える可能性があります。」

ポートランドのアプローチ

スマート シティの概念が注目を集めていた 2017 年、ポートランド市は、自治体が新興テクノロジーとプライバシー保護にどのように対処するかを詳しく検討する必要があると判断しました。

この動きにより、人々の生活を改善するためにデータとテクノロジーをどのように使用できるかを評価する、コミュニティ パートナーと市の間で調整された取り組みであるスマート シティ PDX が設立されました。スマート シティ PDX はポートランドの公平・人権局と緊密に連携しており、ポートランド市はプライバシーは人権であるという断固とした立場をとっています。

「テクノロジーが有色人種のコミュニティに対してどのように利用されてきたかを考えると、プライバシーは人権です」と公平・人権局 (OEHR) のジュディス・モウリー氏がインタビューで語った。セキュリティ管理。「そして、私たちは反人種差別主義者であるという価値観を採用しました。誰もが公平性というレンズを通して取り組んでいます。」

そのような考えのもと、スマート シティ PDX と OEHR は、顔認識テクノロジーがどのように使用され、それが個人に与える影響を検討し始めました。彼らは2020年初めに、ポートランド警察局、オレゴン州および北カリフォルニアACLU、アーバンリーグ、ポートランド移民権利連合、ポートランド・ビジネス・アライアンスの代表者らとの作業セッションを主催した。

ポートランド警察局次長ライアン・リーは、2020年1月の作業セッションに出席し、ポートランド警察は顔認識技術を使用していないか、使用しようとしていないと述べた。その代わりに、同局は、将来この技術を取得するための今後の進め方について住民との話し合いを続けることに関心を持っており、それまでの間はその使用を一時停止することを推奨した。

「[顔認識技術]を利用して国民の信頼を失った警察機関は、米国司法省司法支援局の勧告に従わなかった」とリー氏は述べた。 「具体的には、彼らは最初から一般の意見を求めず、高品質のアルゴリズムを使用せず、トレーニングや認証基準の要求を怠り、ポリシー、枠組み、監視を確立しておらず、コミュニティの監視を伴うプログラムを維持するためのメカニズムを持っていませんでした。」

他の作業セッション参加者は、顔認識技術には有色人種コミュニティの個人を誤認するという一貫したパターンがあるため、都市における、特に民間部門による技術の使用についての会話にこれらの人々を含めることが、将来的には非常に重要になるだろうと述べた。

たとえば、モウリー氏は、会議での議論の論点の 1 つは、ガソリン スタンドがアクセスを制御するために顔認識技術をどのように使用しているかだったと述べています。ガソリン スタンドに入場したい人は、顔をスキャンすることに同意し、ガソリン スタンドのシステムによって識別されると、ドアのロックが解除されて入場できるようになります。

「これがポートランドの有色人種にどのような影響を与えるかについて、私たちは大きな懸念を抱いていました。」とモウリー氏は付け加えました。

プレスリリースによると、Freedom to ThriveとPortland Immigrant Rights Coalitionの2つの団体は、顔認識技術は「デジタル化された人種プロファイリング」の一形態であると述べた。 「彼らは、[顔認識テクノロジー] がテクノロジーを通じて人種差別を兵器化していると示唆しました。これらの組織は、顔認識テクノロジーに関するコミュニティの意見を募るための諮問委員会の設立を支援しました。」

2019 年、米国国立標準技術研究所 (NIST) は、顔認識技術ベンダー 99 社の 189 のソフトウェア アルゴリズムを評価しました。その結果、アジア人と黒人の顔は白人の顔よりも偽陽性率が高いことがわかりました。 1 対多のマッチングで最も高い偽陽性率は黒人女性でした。 (「」を参照顔認識エラー率は人口統計によって異なります,”セキュリティ管理、2020 年 5 月。)

この意見と分析に基づいて、そして 2020 年の夏に人種的正義と平等を促進する大規模なデモによってさらに力づけられたことを受けて、ポートランド市長ウィーラーと市委員ジョー・アン・ハーデスティは 2 つの条例を導入しました。1 つは市における顔認識技術の使用を一時停止することを求めるもので、もう 1 つは公共宿泊施設での民間部門による技術の使用の禁止を提案するものです。

条例は2020年9月9日に全会一致で可決された。公共部門の一時停止は直ちに発効し、民間部門の禁止は 2021 年 1 月 1 日に発効しました。

「これは、コミュニティのメンバー、特に最も弱い立場にあり過剰な取り締まりを受けている人々のプライバシーの権利を保護することで、全国的な模範を示す素晴らしい機会です」とハーデスティ氏は述べた。.

民間部門の禁止は、レストラン、ホテル、劇場、診療所、薬局、小売店、博物館、図書館、私立学校などの公共宿泊施設の場所での顔認識技術の使用の禁止に重点を置いています。ポートランド市のオープンデータコーディネーターであるヘクター・ドミンゲス・アギーレ氏は、「公共施設」という言葉は、ポートランドがすべての人にとって歓迎されるべきであるという雰囲気を定めるために米国障害者法（ADA）から採用されたものであると述べています。

「公共スペースには、労働環境における産業スペースやオフィススペースは含まれません」とドミンゲス・アギーレ氏は説明する。 「私たちは、個人情報の盗難から資産を保護する手段を提供する銀行など、民間企業による生体認証データの使用を許可する既存の法律や規制がある場合、それらはすでに連邦政府によってカバーされるように政策を草案しました。」

また、個人または雇用主発行の通信およびスマートフォンやラップトップなどの電子デバイスへのアクセス、およびソーシャル メディア アプリケーションでの自動顔検出サービスへの顔認識技術の使用を民間部門および公共部門で許可するための例外もあります。ポートランド市はまた、個人のプライバシーを保護する目的で顔認識技術を公共部門で使用する場合の例外も認めた。たとえば、ビデオ録画が公開される前に、その録画から顔を特定してぼかしておくなどだ。違反者には違反ごとに 1 日あたり最大 1,000 ドルの罰金が科せられ、個人は違反の結果被った損害について私的に訴訟を起こす権利を有します。

モウリー氏は、これまでのところ市はこの条例に関して地元の利害関係者から否定的なフィードバックを受けていないと述べ、これはスマートシティ PDX と OEHR による広範な支援のおかげであると彼女は信じています。

「懸念が 2 つありました。1 つは、ポートランドはテクノロジー分野が盛んで、私たちがテクノロジーに優しいことを人々に知ってもらいたかったのです」と彼女は説明します。 「また、例外を見つけて会話を継続できるというアイデアも重要です。人々がテクノロジーを提案し、私たちがプライバシーの価値観を利用してスクリーニングを行うことができるプロセスが開発されるでしょう。テクノロジーが成長するにつれて、何が政府、企業、個人にとって良いことなのかという倫理的な問題が重要になるでしょう。」

スマートシティ PDX の創設と条例の可決以来、多くの自治体がプライバシーとデジタル エクイティに関するワーキング グループを設立しているため、米国の他の都市もポートランドにプライバシー原則に関する詳細情報を求めてきたとドミンゲス アギーレ氏は述べています。

「これらのネットワークは常に情報や経験、学んだ教訓を共有し、多くの利益を得ています。」と彼は付け加えました。 「オークランド、シアトル、サンフランシスコ、ニューヨークなどの他の都市から学ぶことができて本当に感謝しています。彼らはそこでより多くの仕事をしてくれましたが、私たちには最新のものをまとめてさらに前進できるという利点があります。」

全国レベル

ポートランドと同様、米国連邦政府が顔認識技術を規制するかどうか、またどのように規制するかを検討し続ける中、米国の多くの都市は顔認識技術の使用を独自に一時停止または禁止することを検討しており、さらには実施している。

2020年9月にポリティコの人工知能サミットで講演したプラミラ・ジャヤパル下院議員(民主党-ワシントン州)は、顔認識技術の使用の規制を進めることに議会には大きな関心があると述べた。

議会の自由議員団と進歩議員団は両方とも、政府と民間部門の両方の文脈で使用されるガードレールがどうあるべきかを定義するためにテクノロジーを規制することに関心を共有している、とジャヤパル氏は付け加えた。顔認識技術に関する地方条例の増加により、議会が行動を起こす機運が高まっています。

「これらの問題の多く、特に州境を越えるテクノロジーに関しては国家政策を持つことが望ましい」とジャヤパル氏は語った。 「議会の行動は非常に遅いため、多くの場合、都市や州で始まった運動が議会にまで到達する必要があります。」

第116回議会で、ジャヤパルはアヤンナ・プレスリー米国下院議員（民主党-マサチューセッツ州）、エド・マーキー米国上院議員（民主党-マサチューセッツ州）、ジェフ・マークリー米国上院議員（民主党-オレゴン州）と共同で、顔認識ツールを含む生体認証技術の政府による使用を停止する法案を提案した。

「アメリカ国民が法執行機関における組織的な人種差別に対処するよう要求している中、顔認識技術の使用は間違った方向への一歩です」とマーキー氏は語った。 「研究によると、このテクノロジーは人種差別と偏見をもたらしていることがわかっています。逃れられない監視状態に陥る危険性と、差別を永続させる危険性との間で、このテクノロジーはまだ全盛期に向けた準備ができていません。連邦政府は、人種差別を悪化させず、アメリカ国民のプライバシーを侵害しないと確信できるまで、顔認識を禁止しなければなりません。」

顔認識および生体認証技術一時停止法と呼ばれるこの法律は、連邦機関による顔認識技術の使用を禁止するものでした。顔認識技術の使用を一時停止する法律を州および地方団体に与える条件付き連邦補助金。連邦資金が生体認証監視システムに使用されるのを阻止した。生体認証技術から収集した情報を司法手続きにおいて法律に違反して使用することを禁止します。そして、生体認証データが法律に違反して使用された個人に対する私的訴訟の権利を確立しました。

その間、米国連邦政府は顔認識技術を使用し続けています。ただし、この使用法では、政府が独自に定めたプライバシー規則が尊重されない場合があります。

たとえば、米国税関・国境警備局 (CBP) は、外国人の出入国記録を作成するために、顔認識技術を入国地に導入しました。同社は航空会社と提携してこの技術を 27 の空港に導入しており、海と陸の入国港でこの技術を使用する初期段階にあります。

米国会計検査院 (GAO) は、テクノロジーの展開がプライバシー ガイドラインにどのように準拠しているかについて監査を実施するよう依頼されました。CBP は顔認識技術プログラムにプライバシー原則を組み込むためにいくつかの措置を講じましたが、これらは一貫性がなく、旅行者にとって透明性もありませんでした。

「さらに、CBPは航空会社などの商用パートナーに対し、CBPのプライバシー要件に従うことを要求しており、コンプライアンスを評価するためにパートナーを監査することができる」とGAOは述べた。 「しかし、2020年5月の時点で、CBPは20社以上の提携航空会社のうち1社のみを監査しており、すべての提携航空会社を確実に監査する計画はありませんでした。CBPが監査計画を策定して実施するまでは、旅行者の情報が適切に保護されていることを保証できません。」

GAO 国土安全保障・司法チームのディレクターであるレベッカ・ギャンブラー氏は、CBP がパートナーの 1 社を監査したことは前向きな一歩ではあるが、CBP はパートナーが情報を適切に保護していることを保証する計画が必要であると述べています。

CBPはまた、入国地での顔認識検査をオプトアウトする方法とその情報がどのように使用されるかについて、完全な情報を一貫して提供する必要があるとGAOの報告書は述べている。分析の結果、CBP の通知は不完全であることが多く、オプトアウトのリクエスト方法に関する情報がほとんど提供されていなかったり、古いものであったり、すべてが欠落していたりすることが判明しました。

「例えば、2019年9月にラスベガス・マッカラン国際空港を訪れた際、米国国民の写真は最大14日間保管されるという1つの標識があり、別のゲートには写真が最大12時間保管されるという2番目の標識があった（正しい情報）」とGAOの報告書は述べている。 「CBP が 2018 年 7 月に米国国民のデータ保存期間を変更したため、最初の標識は古い通知でした。しかし、CBP はこの空港の標識すべてをこの新しい情報に置き換えていませんでした。 CBP 関係者は、新しい標識の印刷にはコストがかかるため、新しいガイドラインが発行されるたびに標識を更新しようとしているが、変更や更新のたびにすぐに新しい標識の完全なセットを印刷して導入するのは現実的ではないと述べました。」

GAOの分析には、旅行者が誤認を修正するためのプロセスがどのようなものであるかについての監査は含まれていなかったとギャンブラー氏は付け加えた。

セキュリティ チームのアプローチ

米国連邦政府が顔認識技術に関連する規制の評価を続けている一方で、民間のセキュリティチームはプライバシーを保護しながらセキュリティを強化するためにこの技術をどのように使用するかに取り組んでいます。

たとえば、2018 年にテイラー スウィフトは、コンサートに参加しようとする既知のストーカーを特定するために、チームが顔認識をコンサートで使用したことで話題になりました。コンサート会場に入場するためのセキュリティ検査プロセス中に、参加者がどのようにして顔画像を撮影され、ソフトウェア照合システムに通されたかという話を速報しました。

ブログ投稿にて、ACLU 上級政策アナリストストーカーは真の懸念事項である一方、セキュリティチームはまた「コンサート参加者」を騙して、存在を知らなかった顔認識技術システムに参加させたと書いています。

「コンサート会場の職員は、できればチケット代を支払う前に、セキュリティ目的で顔がスキャンされることを人々に伝えるべきだった」とスタンリー氏は書いた。 「彼らはまた、写真を保存しているかどうか、そして写真をどうするつもりなのかを出席者に伝えるべきでした。」

このような事例は、既知のストーカーの特定からテロリストの脅威監視リストに載っている個人に至るまで、顔認識テクノロジーで対処できる真のセキュリティ ニーズがあることを示していますが、プライバシー保護と手順も整備する必要があると、DSI セキュリティ サービスの最高執行責任者兼法務顧問である CPP、PCI、PSP のエディ ソレルズは述べています。

「セキュリティの観点から、潜在的なアプリケーションと、大規模な集会にすでに使用されているアプリケーションがあることがわかります」とソレルズ氏は言います。 「テロリストの可能性のある人物、敷地内にいるはずのない人物がいる可能性があります。顔認識テクノロジーを使用するほうが、誰かが自分の目で群衆をスキャンするよりも効率的です。」

顔認識技術の導入を検討する場合、セキュリティ チームはすべての新しい技術を評価するアプローチを取る必要があるとソレルズ氏は言います。まず、調達者は、そのテクノロジーでどのような問題を解決しようとしているのか、その問題に対処するためにすでに導入されているプロセスよりも優れているのかどうかを尋ねる必要があります。次に、チームはテクノロジーが想定どおりの動作をするかどうかを尋ね、その結果を検証する必要があります。

「3 番目、そして最も重要な部分です。このテクノロジーの使用に関するポリシーと手順は何ですか? どのように実装するつもりですか?」ソレルス氏は尋ねる。 「従業員のデータベースではなく、カメラがあり、顔をスキャンしてこのデータを編集しているとしたら…『なぜそのデータを編集するのか? 理由は何ですか? ここの意図は何ですか?』と自問する必要があります。そして、それをどうすればよいでしょうか? どうやって保護すればよいのでしょうか? 悪用されないようにするにはどうすればよいですか?」

こうした会話を行い、顔認識テクノロジーに関する強力なポリシーと手順を導入することで、システム自体によって収集されたデータも保護しながら、プライバシーと既存の規制要件を尊重した形で顔認識テクノロジーが使用されるようになります。

「これには多くの利点がありますが、テクノロジー全体を放棄するのは近視眼的です」とソレルズ氏は言います。 「行方不明の子供を見つけるなど、そのテクノロジーが子供を見つけられるのに使われていない地域にはいたくないです。しかし、利点が懸念を上回るようにバランスを取る必要があります。」

ミーガン・ゲイツはの上級編集者ですセキュリティ管理。 で彼女とつながりましょう[email protected]。 Twitter で彼女をフォローしてください: