By admin 
カリフォルニア州サクラメント（AP通信）—カリフォルニア州知事ギャビン・ニューサムは日曜日、大型人工知能モデルに対する国内初の安全対策を確立することを目的とした画期的な法案に拒否権を発動した。
この決定は、ほとんど監視されずに急速に進化する国内産業を抑制しようとする取り組みにとって大きな打撃となる。支持者らによると、この法案は国内の大規模AIモデルに関する初の規制の一部を制定し、全国的なAI安全規制への道を開くことになるという。
今月初め、民主党知事はソフトウエア大手セールスフォースが主催する年次カンファレンス「ドリームフォース」の聴衆に対し、連邦政府の無策に直面してカリフォルニア州はAI規制を主導しなければならないが、この提案は「業界に萎縮効果をもたらす可能性がある」と語った。
この提案は新興企業、ハイテク大手、数人の民主党下院議員から激しい反対を呼び、厳格な要件を設けることで国内産業に悪影響を与える可能性があるとニューサム氏は述べた。
「SB 1047は善意ではあるが、AIシステムが高リスク環境に導入されているかどうか、重要な意思決定が含まれているか、機密データの使用が含まれているかどうかを考慮していない」とニューサム氏は声明で述べた。 「代わりに、この法案は、大規模なシステムがそれを導入する限り、最も基本的な機能にも厳しい基準を適用します。これがテクノロジーによってもたらされる本当の脅威から国民を守る最善のアプローチだとは思えません。」
ニューサム氏は日曜、代わりに同州がAIの先駆者フェイフェイ・リー氏を含む複数の業界専門家と提携し、強力なAIモデルを中心としたガードレールを開発すると発表した。リー氏はAIの安全性に関する提案に反対した。
AIによって生み出される潜在的なリスクを軽減することを目的としたこの措置では、企業に対しモデルをテストし、例えば州の送電網を破壊したり化学兵器の製造を支援したりする目的でモデルが操作されることを防ぐための安全プロトコルを公表することが求められる予定だった。専門家らは、業界が急速に進歩し続けるにつれ、こうしたシナリオが将来的に可能になる可能性があると述べている。また、労働者に対する内部告発者の保護も提供されただろう。
この法案は、AIの規制、ディープフェイクとの戦い、労働者の保護を目的として今年議会を通過した多数の法案の1つである。州議会議員らは、カリフォルニア州はチャンスがあったかもしれないのにソーシャルメディア企業を抑制できなかったことから学んだ厳しい教訓を挙げ、今年行動を起こさなければならないと述べた。
イーロン・マスク氏やアンスロピック氏を含むこの法案の支持者らは、開発者や専門家らはAIモデルがどのように動作し、なぜ。
この法案は、構築に1億ドル以上を必要とするシステムを対象としている。現在の AI モデルはそのしきい値に達していませんが、一部の専門家は、今後 1 年以内に変更される可能性があると述べています。
「これは、業界内での大規模な投資規模の拡大によるものです」と、OpenAIの元研究者で、同社がAIリスクを無視しているとして4月に辞任したダニエル・ココタジロ氏は述べた。 「これは、民間企業が説明責任を持たずにコントロールするのには途方もない量の権限であり、非常に危険でもあります。」
米国はリスクを制限するためのAI規制においてすでに欧州に遅れをとっている。カリフォルニア州の提案は欧州の規制ほど包括的ではなかったが、雇用の喪失、誤った情報、プライバシーの侵害、自動化バイアスなどの懸念を引き起こしている急速に成長するテクノロジーの周囲にガードレールを設けるには良い第一歩だっただろう、と支持者らは述べた。
多くの大手AI企業は昨年、自社モデルのテストや情報共有など、ホワイトハウスが定めた安全策に従うことに自発的に同意した。同法案の支持者らによると、カリフォルニア州の法案では、AI開発者に対し、これらの約束と同様の要件に従うことが義務付けられることになるという。
しかし、ナンシー・ペロシ元米下院議長を含む批評家らは、この法案は「カリフォルニアのテクノロジーを殺し」、イノベーションを抑圧するものだと主張した。そうなれば、AI開発者は大規模モデルへの投資やオープンソースソフトウェアの共有を思いとどまるだろう、と彼らは述べた。
ニューサム氏の法案への拒否権発動の決定は、大手ハイテク企業とAI開発者にとってカリフォルニア州での新たな勝利を意味しており、彼らの多くは過去1年間、知事や議員にAI規制の推進を阻止するようカリフォルニア商工会議所とともにロビー活動を行ってきた。
他の2件の抜本的なAI提案もテクノロジー業界などからの反対が強まり、先月の立法期限を前に廃止された。この法案では、AI開発者に対し、AIが生成したコンテンツにラベルを付けることや、雇用の決定に使用されるAIツールによる差別を禁止することが求められる予定だった。
知事は今夏初め、AIの世界的リーダーとしてのカリフォルニア州の地位を守りたいと述べ、世界トップ50のAI企業のうち32社が同州にあると指摘した。
同氏は、カリフォルニア州が高速道路の渋滞に対処し、税務指導を提供し、ホームレス対策プログラムを合理化するために間もなく生成AIツールを導入する可能性があるとして、カリフォルニア州を早期導入者として推進した。同州は先月、学生、大学教員、開発者、データサイエンティストの研修を支援するため、AI大手エヌビディアとの自主提携を発表した。カリフォルニア州はまた、雇用慣行におけるAI差別に対する新たな規則を検討している。
今月初め、ニューサム氏は選挙ディープフェイクを取り締まる国内で最も厳しい法律の一部と、AIの不正使用からハリウッドの従業員を守るための措置に署名した。
しかし、ニューサム氏の拒否権にもかかわらず、カリフォルニア州の安全性に関する提案は他の州の議員にも同様の措置を講じるよう促している、とテクノロジーとプライバシーの提案に関して議員らと協力する非営利団体フューチャー・オブ・プライバシー・フォーラムの副所長タチアナ・ライス氏は述べた。
「彼らは潜在的にそれをコピーするか、次の議会で同様のことを行うつもりだ」とライス氏は語った。 「だから、それは消えないんです。」
—-
AP通信とOpenAIは、OpenAIがAPのテキストアーカイブの一部にアクセスできるようにするライセンスおよび技術契約を結んでいる。