SB1047 was een slecht idee. Maar de laatste SB53 van senator Wiener is de goede kant op, en het is belangrijk om de vooruitgang te benoemen. Hier is mijn redenatie. Mijn benadering van het reguleren van nieuwe technologieën zoals modellen is: we weten niet hoe we "goede" mitigatie en waarborging moeten definiëren, maar we zullen het weten wanneer—en als—we het zien. Er zijn twee implicaties. #1. We zouden geen risicodrempels of zorgstandaarden voor modelontwikkeling moeten voorschrijven. We kunnen het niet eens worden over de risico's die ertoe doen, hoe we ze moeten meten, of hoeveel te veel is. De enige richtlijn voor ontwikkelaars, regelgevers en rechtbanken is een set van opkomende praktijken die voornamelijk zijn bepaald door gesloten bedrijven die afhankelijk zijn van betaalmuren om het zware werk te doen. Dit zou open innovatie kunnen afschrikken door ontwikkelaars bloot te stellen aan vage of verhoogde aansprakelijkheid voor wijdverspreide releases. Dat was SB1047 in een notendop, samen met ~5 equivalente voorstellen die het deze sessie in de VS hebben geïnspireerd, zoals de RAISE Act in NY. We zouden die aanpak moeten vermijden. Deze voorstellen zijn—in smalle maar cruciale opzichten—te ver over hun skis gegaan. En toch: #2. We moeten een licht werpen op de praktijken in de industrie om beter te begrijpen welke zorgvuldigheid, of het gebrek daaraan, door verschillende bedrijven wordt toegepast. Als ontwikkelaars zich moeten committeren aan een veiligheids- en beveiligingsbeleid, hun werkwijze moeten tonen en een papieren spoor moeten achterlaten, kunnen we beter de sterkte van hun claims beoordelen, monitoren op opkomende risico's en beslissen over toekomstige interventie. Dat is de AI-wet van de EU en de definitieve gedragscode in een notendop, die zowel OpenAI als Mistral hebben goedgekeurd, en het is ook de laatste versie van SB53 van @Scott_Wiener. Als we modelontwikkeling gaan reguleren, is dat fundamenteel de betere aanpak: reguleren van transparantie—niet van capaciteiten, mitigaties of acceptabel risico. Het zou tenminste één Amerikaanse jurisdictie de toezichthoudende autoriteit van Brussel geven, en het zou onbedoelde effecten op open ontwikkeling vermijden. Om duidelijk te zijn, er zijn nog steeds ijsbergen voor ons: > Complexiteit. Of het nu Big Tech is of niet, dit zijn zware documentatie- en rapportageverplichtingen. Tactisch gezien, hoe complexer, hoe kwetsbaarder dit wetsvoorstel zal worden. > Prikkels. Verplichte openbare rapportage van vrijwillige risico-evaluaties creëert een perverse prikkel voor ontwikkelaars om hun modellen minder te testen en moeilijke risico's te negeren. Ontwikkelaars toestaan om hun resultaten aan auditors of instanties bekend te maken in plaats van openbaar kan helpen om grotere openhartigheid in hun interne beoordelingen te bevorderen. > Trojan horse. De hyperactieve cultuur van California van het afschaffen en aanpassen kan het moeilijk maken om deze wetsvoorstellen te beoordelen. Als SB53 verandert in een zorgstandaardwet zoals SB1047 of RAISE, moet het om dezelfde redenen als voorheen worden afgewezen. Hoe meer versieringen aan deze kerstboom worden toegevoegd, hoe controversiëler het wetsvoorstel. > Breedte. Het wetsvoorstel werpt een breed net met uitgebreide definities van catastrofaal risico en gevaarlijke capaciteiten. Voor een "verplicht rapporteren / vrijwillige praktijken" wetsvoorstel werken ze. Als dit wetsvoorstel een zorgstandaardwet was, zouden ze onuitvoerbaar zijn. Samenvattend: hoed af voor senator Wiener voor het doordacht omgaan met en reageren op feedback het afgelopen jaar. Het is verfrissend om een wetsvoorstel te zien dat daadwerkelijk voortbouwt op eerdere kritiek. Er zijn nog veel paden die dit wetsvoorstel kan inslaan—en het is goed geëvolueerd voorbij het oorspronkelijke klokkenluidervoorstel—maar de koers is veelbelovend.