カジノサイト
大手テクノロジー企業、人工知能の開発を自主的に規制することを約束
大手テクノロジー企業7社が人工知能(AI)の開発を自主的に規制する計画に合意したと、ホワイトハウスが金曜朝発表した。
Amazon、Anthropic、Google、Inflection、Meta、Microsoft、OpenAI は、AI テクノロジーの安全、安心、透明性の高い開発に向けた計画に取り組んでいます。
「企業が直ちに取り組むことを選択したこれらの取り組みは、安全性、セキュリティ、信頼という AI の将来の基礎となる 3 つの原則を強調しており、責任ある AI の開発に向けた重要な一歩を示すものである」とホワイトハウスは述べた。「イノベーションのペースが加速し続ける中、バイデン・ハリス政権は引き続きこれらの企業にその責任を思い出させ、アメリカ国民の安全を守るために断固たる行動を取るだろう。」
OpenAI は、 でこう言いましたAI テクノロジーとそのサービスの安全性、セキュリティ、信頼性を強化するための自主規制に取り組んでいること。人気を担う会社｝ChatGPT 製品、金曜日の発表は有意義で効果的な AI ガバナンスを推進するための「重要な一歩」であると述べました。
「世界中の政策立案者が、高度な機能を備えた AI システムのための新しい法律を検討しています」と OpenAI のグローバル担当副社長、アンナ・マカンジュ氏は述べています。 「今日のコミットメントは、現在進行中の議論に具体的かつ具体的な実践をもたらすものです。この発表は、AI ガバナンスを推進するための世界中の政府、市民社会組織、その他の組織との継続的な協力の一環です。」
企業は何を約束しましたか?
下の両社は主要な実施項目に直ちに着手します:
1. AI システムをリリースする前に、内部および外部のセキュリティ テストを実施します。独立した専門家が、バイオセキュリティ、サイバーセキュリティ、社会的影響などの AI リスクの重大な原因に対する保護のためにこのテストを実施します。「この取り組みを行っている企業は、その堅実性を理解していますレッドチーム成功する製品を構築し、AI に対する国民の信頼を確保し、重大な国家安全保障の脅威から守るために不可欠です。」と規制に記載されています。
2. AI リスクの管理について、業界全体、政府、市民社会、学術界と情報を共有します。共有される情報には、安全のためのベスト プラクティス、安全装置を回避する試み、技術協力が含まれます。
「彼らは、フロンティア AI の安全性のための共有標準やベスト プラクティスを開発、推進、採用できるフォーラムやメカニズムを設立または参加することを約束します。またはレッドチーム、安全性、社会的リスクに関連する将来の基準」と規制には記載されています。
3.独自のモデルや未リリースのモデルの重みを保護するために、サイバーセキュリティと内部関係者の脅威に対する保護策に投資します。 これらは AI システムの重要な側面であるため、両社は、セキュリティ リスクを考慮した上で、意図した場合にのみリリースすることに同意しました。
「これには、モデルの重みへのアクセスを職務上必要な人に限定し、堅牢なシステムを確立することが含まれます。インサイダー脅威の検出最も貴重なものに提供される保護と一致するプログラム知的財産46369_46585
4. AI システムの脆弱性のサードパーティの発見と報告を促進します。この取り組みに基づき、企業は報奨金制度、コンテスト、賞品の範囲内で「危険な行為などの弱点の責任ある開示を奨励するか、既存のシステムに AI システムを組み込むよう促す」システムを確立します。バグ報奨金プログラム」と規制は説明しています。
5.コンテンツが AI によって生成されたものであることをユーザーが確実に認識できるようにする堅牢な技術メカニズムを開発し、詐欺や欺瞞を制限します。
この取り組みの一環として、両社は、コンテンツが自社のシステムを使用して作成されたかどうかを判断するためのツールまたは API を開発することに同意します。ただし、「現実と容易に区別できるもの、または企業の AI システムによって生成されたものとして容易に認識できるように設計された」オーディオビジュアル コンテンツは除きます。
「より一般的には、この取り組みを行う企業は、ユーザーが生成したオーディオまたはビジュアル コンテンツと AI が生成したオーディオまたはビジュアル コンテンツを区別できるようにするための技術的フレームワークの開発に向けて、必要に応じて同業他社や標準設定団体と協力することを誓約します。」
6. AI システムの機能、制限、および適切な使用と不適切な使用の領域を公的に報告します。この公開レポートには、セキュリティと社会的リスクの評価に加え、モデルの展開への適合性を評価するために実施された安全性評価と敵対的テストの結果が含まれます。
7. AI システムが引き起こす可能性のある社会的リスクに関する研究を優先する。これには、プライバシーの保護だけでなく、有害な偏見や差別の回避も含まれます。
「企業は一般に、信頼と安全のチームに権限を与え、AI の安全性研究を推進し、プライバシーを推進し、子供を保護し、AI の利点を実現できるように AI のリスクを積極的に管理することに努めます。」
8.高度な AI システムを開発および導入して、社会の最大の課題への対処を支援します。たとえば、両社は、AI を気候変動の緩和と適応、がんの早期発見と予防、サイバー脅威との闘いにどのように使用できるかについての研究開発を支援することに取り組んでいます。
「企業はまた、AI の恩恵を受けて繁栄するための学生や労働者の教育と訓練を促進する取り組みを支援し、テクノロジーの性質、能力、限界、影響を国民が理解できるよう支援することにも取り組む」と規制では説明されています。
あるマイクロソフトの副会長兼社長のブラッド スミス氏は、この取り組みについて、自主規制を受け入れることで、マイクロソフトは業界リーダーと協力しながら「安全で責任ある AI 実践を拡大」していると書いています。
マイクロソフトは、国家 AI 研究リソースの試験運用と高リスク AI システムの国家レジストリの確立を支援することにより、AI システムの安全性、セキュリティ、信頼性の開発にさらなる取り組みを行うことを約束しました。
「この新興テクノロジーの開発の早い段階で行動規範を確立することは、安全性、セキュリティ、信頼性の確保に役立つだけでなく、米国全土および世界中のコミュニティに対する AI のプラスの影響をより適切に解き放つことも可能になります。」とスミス氏は書いています。
次は何ですか?
バイデン政権の発表は、世界中の規制当局がAIとそれを利用するテクノロジーの開発に対処する方法を検討している時期に行われた。これは大西洋を越えてヨーロッパで最も積極的に行われている。
たとえば、提案しました安全性や基本的権利に悪影響を与える可能性のある高リスク AI に対処するためのデジタル戦略の一環として。欧州理事会は 2022 年後半に人工知能法を採択し、2023 年 6 月に同法の改正を採択しました。今年後半に最終版の法律を可決する前に、加盟国と欧州委員会向け。
「欧州の法案は、AI の規制に『リスクベース』のアプローチを採用しており、人体に害を及ぼす可能性が最も高いアプリケーションに重点を置いています。」「これには、水やエネルギーなどの重要なインフラを運用するために AI システムが使用される場所、法制度内、公共サービスや政府の給付金へのアクセスを決定する場合などが含まれます。テクノロジーのメーカーは、医薬品の承認プロセスと同様に、テクノロジーを日常的に使用する前にリスク評価を実施する必要があります。」
ホワイトハウスは、金曜日に発表された自主規制について、オーストラリア、ブラジル、カナダ、チリ、フランス、ドイツ、インド、イスラエル、日本、アラブ首長国連邦、英国を含む他の国々とすでに協議していると述べた。
「米国は、これらの約束が日本の指導力を確実に支援し、補完するよう努めている。—AI ガバナンスの共通原則を開発するための重要なフォーラムとして—また、AI の主催における英国のリーダーシップとして。そして議長としてのインドの指導者
さらに、バイデン政権は米国の同盟国やパートナーと協力して、AIの開発と使用を管理する強力な国際枠組みを構築することを約束した。
ステートメントの共有者セキュリティ管理、米国上院情報特別委員会の委員長であるマーク・ワーナー上院議員（民主党、バージニア州）は、政権がAIシステムのセキュリティと信頼に対処するための措置を講じているのを見てうれしく思うが、これはほんの始まりにすぎないと述べた。
「消費者金融や重要インフラなどの幅広い分野ですでに採用され、より広範な IT システムに統合されているこれらのシステムが、消費者向けの約束やルールを通じても含め、安全、安心、信頼できるものであることを引き続き確認する必要があります」とワーナー氏は説明しました。 「AI ベンダーがセキュリティと安全性への取り組みについて語るのをよく聞きますが、悪用可能で、信頼性の低い出力を生成する傾向があり、悪用されやすい製品が急遽リリースされるのを私たちは繰り返し見てきました。
「これらの取り組みは正しい方向への一歩ですが、以前にも述べたように、業界の取り組み以上のものが必要です。ある程度の規制も必要です。そのため、私はベンダーがセキュリティを優先し、偏見と闘い、責任を持って新しいテクノロジーを展開できるよう、今後も熱心に取り組み続けます。」
