SB1047は悪い考えでした。しかし、ウィーナー上院議員の最新のSB53は正しい軌道に乗っており、その進歩を呼びかけることが重要です。これが私の推論です。 モデルのような新しいテクノロジーを規制するための私のアプローチは、「良い」緩和と保証をどのように定義するかはわかりませんが、それがいつ、そして見られたとしても、それはわかるということです。 2つの意味があります。 #1.モデル開発のリスク閾値や標準治療を規定すべきではありません。重要なリスク、それらを測定する方法、またはどれだけが多すぎるかについては合意できません。開発者、規制当局、裁判所に対する唯一のガイダンスは、主にペイウォールに依存して面倒な作業を行うクローズドソース企業によって決定される一連の初期の慣行です。そうすることで、開発者が広範なリリースに対する曖昧な責任や責任を負うことになり、オープンイノベーションが萎縮する可能性があります。 これは一言で言えばSB1047であり、ニューヨークのRAISE法など、この会期で米国全土でインスピレーションを与えた~5つの同等のものも同様です。私たちはそのようなアプローチを避けるべきです。これらの提案は、狭いが重要な点では、彼らのスキー板をはるかに超えすぎています。 それなのに： #2.さまざまな企業が適用している勤勉さ、またはその欠如をよりよく理解するために、業界の慣行に光を当てる必要があります。開発者が安全とセキュリティのポリシーを約束し、その機能を示し、紙の証跡を残さなければならない場合、私たちは彼らの主張の強さをより適切に評価し、新たなリスクを監視し、将来の介入を決定することができます。 これは、OpenAI と Mistral の両方が承認している EU の AI 法と最終行動規範であり、@Scott_Wiener の最新バージョンの SB53 でもあります。 モデル開発を規制するのであれば、基本的には、能力、軽減策、許容可能なリスクではなく、透明性を規制するという、より良いアプローチです。これにより、少なくとも1つの米国の管轄区域にブリュッセルの監督権限が与えられ、オープンな開発への意図しない影響が回避されるだろう。 はっきり言っておきますが、この先にはまだ氷山があります。 > 複雑さ。ビッグテックであろうとなかろうと、これらは面倒な文書化と報告の義務です。戦術的に言えば、複雑になればなるほど、この法案はより脆弱になります。 > インセンティブ。自発的なリスク評価の公開報告を義務付けることは、開発者がモデルを過小評価し、困難なリスクに目をつぶるというひねくれたインセンティブを生み出します。開発者が結果を公にするのではなく、監査人や機関に開示することを許可することは、内部評価においてより率直な態度を促進するのに役立つ可能性があります。 > トロイの木馬。カリフォルニア州の過剰な腸と修正の文化により、これらの法案の精査が困難になる可能性があります。SB53 が SB1047 や RAISE のような標準治療法案に変わる場合は、以前と同じ理由でノックバックされるべきです。このクリスマスツリーにつまらないものが加えられれば増えるほど、法案は議論の余地が増します。 > 幅。この法案は、壊滅的なリスクと危険な能力の広範な定義で広い網を張っています。「報告の義務化/自主的実践」法案では、それらは機能します。この法案が標準治療法案であれば、実行不可能でしょう。 要するに、過去 1 年間、思慮深く関与し、フィードバックに対応してくれたウィーナー上院議員に脱帽です。実際に以前の批判に基づいている法案を見るのは新鮮です。この法案にはまだ多くの道筋があり、当初の内部告発案をはるかに超えて進化していますが、その軌道は有望です。