カジノサイト
カリフォルニア州議会、安全、セキュリティ対策を導入するための主要な AI 規制を可決
カリフォルニア州議会は主要な人工知能（AI）規制法案を可決し、現在はギャビン・ニューサム知事の署名を待って成立する。
法案 SB 1047——AI を活用したサイバー攻撃から重要なインフラを保護するための安全策を創設するとともに、AI が自動犯罪や化学兵器、核兵器、生物兵器の開発に使用されることを防ぐための規定を創設する予定です。
カリフォルニア州上院議員スコット・ウェイナーは、彼がこれを「」と呼んだ法案を後援した。大規模な AI 企業（その多くはカリフォルニアに本社を置いています）がすでに行っている約束を成文化するため。
「AIの最前線に立つ専門家らは、適切な予防策を講じないと、重要なインフラへのリスク、サイバー攻撃、新型生物兵器の作成などの深刻な結果が生じる可能性があると懸念を表明している」とウェイナー氏の事務所はプレスリリースで述べた。 「あ」AI 研究者の 70% が、AI 研究では安全性がもっと優先されるべきであると信じている一方、73% が AI が危険なグループの手に渡るのではないかという『重大な』または『極度の』懸念を表明していることが判明しました。」
どの AI が影響を受けますか?
この法律は対象モデルにのみ適用され、2028 年 1 月 1 日に新しい監督委員会であるフロンティア モデル部門によって定義されることになります。
この部門は 5 人のメンバーで構成されます (オープンソース コミュニティのメンバー、AI 業界のメンバー、学術界のメンバー、すべて知事によって任命され、さらに議会議長によって任命されたメンバー、および上院規則委員会によって任命されたメンバー)
ただし、現在から 2027 年 1 月 1 日までの間、対象モデルの意味は次のとおりです。
- AI モデルは、10^26 の整数または浮動小数点演算を超えるコンピューター能力を使用してトレーニングされました。トレーニング開始時のクラウド コンピューティングの平均市場価格を使用して計算すると、そのコストは 1 億ドルを超えます。
- 10^25 の整数または浮動小数点演算の 3 倍以上の計算能力を使用して対象モデルを微調整することによって作成された AI モデル。
2027 年 1 月 1 日以降、対象モデルは次のことを意味する可能性があります:
- フロンティア モデル部門によって決定された量のコンピューティング能力を使用してトレーニングされた AI モデル。トレーニング開始時のクラウド コンピューティングの平均市場価格を使用して計算すると、そのコストは 1 億ドルを超えます。
- フロンティア モデル部門によって設定されたしきい値を超える量の計算能力を使用して対象モデルを微調整することによって作成された AI モデル。
法律の評価中、法律事務所この法案は、カリフォルニア州が全国的に AI 開発の最前線に立つつもりであることを示しています。
「この法案は現在、最大かつ最も強力な AI モデルのみに焦点を当てており、現在のコンピューティング能力とコストのしきい値に基づくと、少なくとも短期的には、要件が AI スタートアップに影響を与える可能性は低いです。」
開発者はどのような手順を踏む必要がありますか?
対象となる AI モデルをトレーニングする前に、開発者はモデルをシャットダウンする機能を作成する必要があります。また、次の情報を含む、書面による別個の安全性とセキュリティのプロトコルを実装する必要もあります。
- 重大な危害を引き起こしたり可能にしたりする不当なリスクをもたらす対象モデルまたは派生モデルを開発者が作成しないという合理的な保証を提供します。
- コンプライアンス要件を客観的かつ詳細に説明します。
- 対象モデルまたはその派生モデルが、重大な危害を引き起こす、または可能にする不当なリスクを引き起こさないというテストとテスト結果を特定します。
- トレーニング後の変更に伴うリスクを評価するためのテスト手順を詳しく説明します。
- サードパーティがテスト手順を再現するための詳細。
- 開発者が安全対策とセキュリティ要件を実装する方法を説明します。
- 安全性とセキュリティのプロトコルを変更する方法について説明します。
この法律は、開発者に「対象モデルに取り組む従業員や請負業者によるコンプライアンスの確保、実装の監視、報告を担当する上級職員を任命するなど、安全性とセキュリティのプロトコルが書面どおりに実装されていることを保証する」ことを義務付けています。
さらに、この法律は、「対象モデルまたは対象モデルの派生品が重大な危害を引き起こす、または可能にする不当なリスク」がある場合、開発者が対象モデルを商用または公共の目的で使用することを禁止すると、
重大な危害は法律で次のように定義されています:
- 大量の死傷者をもたらすような方法で化学兵器、生物兵器、放射線兵器、または核兵器を作成または使用すること。
- 攻撃に対する正確な指示を与えるモデルによる重要インフラへのサイバー攻撃、または一連の攻撃により、多数の死傷者または少なくとも 5 億ドルの損害。
- 限られた人間の監視、介入、または監視の下で行為を行い、死亡、重傷、物的損害、または物的損失をもたらす行為に従事する AI モデルに起因する多数の死傷者または少なくとも 5 億ドルの損害。人間が犯した場合、故意、無謀、重過失、または犯罪の教唆、幇助、教唆を必要とする刑法上の犯罪となります。
開発者は、2028 年 1 月 1 日以降、法案の要件に準拠するための独立した監査を実施するために、第三者の監査人を毎年雇用する必要もあります。
その他の要件には、対象モデルの AI 開発者が、そのモデルまたは派生モデルに影響を与えるすべての AI 安全性インシデントを 72 時間以内に規制機関であるフロンティア モデル部門に報告することを義務付けることが含まれます。この法律では、AI の安全性インシデントを、次の手段によって「重大な危害が発生するリスクを明らかに増大させる」ものと定義しています。
- 対象モデルは、ユーザーが要求した動作以外の動作を自律的に実行します。
- 盗難、悪用、悪意のある使用、不注意による解放、不正アクセス、対象モデルのモデル ウェイトの漏洩。
- 対象モデルの変更機能を制限するものを含む、技術的または管理的制御の重大な障害。
- 重大な危害を引き起こす、または可能にする対象モデルの不正使用。
金融における顧客の把握要件と同様に、この法律では、開発者が対象モデルのトレーニングにリソースを使用しようとする潜在的な顧客に関する情報を収集するための規定も設けられています。これらには、見込み顧客の基本的な識別情報と事業目的、支払い手段とソース (金融機関、クレジット カード番号、口座番号、顧客識別子、取引識別子、または仮想通貨ウォレットまたはアドレス識別子)、顧客の身元を確認するための電子メール アドレスと電話連絡先情報の取得が含まれます。
開発者はまた、将来の顧客がコンピューティング クラスターを使用して対象モデルをトレーニングするつもりかどうかを評価し、アクセスまたは管理用に顧客のインターネット プロトコル (IP) アドレスを保持し、顧客に関するこれらの記録を少なくとも 7 年間保持し、顧客の制御下でモデルをトレーニングまたは操作するために使用されているリソースをシャットダウンできる機能を作成する必要もあります。
違反に対する罰則は何ですか?
利害関係者からのフィードバックを受けて、議員らは法案を修正し、カリフォルニア州司法長官または労働委員会が違反者に対して民事訴訟を起こし、不正行為の報告に対する内部告発者保護制度を創設できるようにした。
これらの訴訟手続きにおいて、司法長官または労働委員は、対象モデルのトレーニングに使用される計算能力量のコストの最大 10 パーセントを、その後の違反に対してはその価値の最大 30 パーセントを回収する資格があります。また、彼らは、差止命令または宣言による救済、金銭的損害賠償、弁護士費用、および裁判所が適切と判断するその他の救済を受ける資格もあります。
また、この法律は、開発者の製品またはサービスの使用と引き換えに、個人または団体への責任の放棄または転嫁を試みるあらゆる契約または協定を無効にします。
この法案に反対するのは誰ですか?
この法案はカリフォルニア州で超党派の支持を得て可決されましたが、コンピュータ科学者を含む多くの著名な議員やAI開発者がこの法案に反対していますおよび米国下院議員ナンシー・ペロシ(民主党-カリフォルニア州)。
「我々議会の多くの見方は、SB 1047は善意はあるものの情報が不十分であるということだ」とペロシ氏はa「私たちはカリフォルニア州が消費者、データ、知的財産などを保護する形で AI 分野をリードすることを望んでいますが、SB 1047 はその目的において役立つというよりも有害です。」
AI アライアンス - IBM とメタを含む -法案に反対。議員らは、この法案は「技術革新を遅らせ、安全性とセキュリティの進歩を妨げ、カリフォルニアの経済成長を損なうものである。この法案の技術的に実行不可能な要件は、AI分野のイノベーションを萎縮させ、この分野の最先端へのアクセスを低下させることになる。そのため、法案に明記されている『…人工知能のイノベーションを…大企業に加えて学術研究者や新興企業がアクセスできるようにする』という支持に真っ向から矛盾する。」
Alphabet 社の Google や OpenAI (ChatGPT の作成者) など、他の主要な AI 開発者もこの法案に反対しているとのこと。
ニューサム知事の事務所はすぐに返答しなかったセキュリティ管理者この話についてのコメントを求めています。ニューサム氏は2024年9月30日までにこの法案に拒否権を発動できる。
