SB1047 была плохой идеей. Но последний законопроект сенатора Уинера SB53 движется в правильном направлении, и важно отметить прогресс. Вот мои доводы. Мой подход к регулированию новых технологий, таких как модели, заключается в том, что мы не знаем, как определить "хорошие" меры смягчения и гарантии, но мы поймем это, когда — и если — увидим. Есть два вывода. #1. Мы не должны предписывать пороги риска или стандарты ухода для разработки моделей. Мы не можем согласовать, какие риски важны, как их измерять или сколько слишком много. Единственным руководством для разработчиков, регуляторов и судов является набор зарождающихся практик, определяемых в основном закрытыми компаниями, полагающимися на платные стенды для выполнения тяжелой работы. Это может охладить открытые инновации, подвергая разработчиков неопределенной или повышенной ответственности за широкое распространение. Это и было SB1047 в двух словах, наряду с ~5 эквивалентами, которые он вдохновил по всей стране в этом сессии, такими как закон RAISE в Нью-Йорке. Мы должны избегать такого подхода. Эти предложения — в узких, но критически важных аспектах — слишком далеко зашли. И все же: #2. Нам нужно осветить практики отрасли, чтобы лучше понять добросовестность, или ее отсутствие, применяемую различными компаниями. Если разработчики должны будут обязаться к политике безопасности и защиты, показать свою работу и оставить бумажный след, мы сможем лучше оценить силу их заявлений, следить за возникающими рисками и решать о будущих вмешательствах. Это и есть законопроект ЕС о ИИ и окончательный Кодекс практики в двух словах, который поддержали как OpenAI, так и Mistral, и это также последняя версия SB53 сенатора @Scott_Wiener. Если мы собираемся регулировать разработку моделей, это, по сути, лучший подход: регулирование прозрачности — а не возможностей, мер смягчения или приемлемого риска. Это дало бы хотя бы одной юрисдикции США полномочия надзора Брюсселя и избежало бы непреднамеренных последствий для открытой разработки. Чтобы прояснить, впереди все еще есть айсберги: > Сложность. Большие технологии или нет, это обременительные обязательства по документации и отчетности. Тактически говоря, чем сложнее, тем более уязвимым станет этот законопроект. > Стимулы. Обязательная публичная отчетность о добровольных оценках рисков создает извращенный стимул для разработчиков недоиспытать свои модели и закрыть глаза на сложные риски. Разрешение разработчикам раскрывать свои результаты аудиторам или агентствам, а не публично, может помочь способствовать большей откровенности в их внутренних оценках. > Троянский конь. Гиперактивная культура Калифорнии по изменению и дополнению может затруднить проверку этих законопроектов. Если SB53 превратится в законопроект о стандартах ухода, как SB1047 или RAISE, его следует отклонить по тем же причинам, что и раньше. Чем больше украшений добавляется к этой рождественской елке, тем более спорным становится законопроект. > Широта. Законопроект охватывает широкий круг с обширными определениями катастрофического риска и опасных возможностей. Для законопроекта "обязательной отчетности / добровольных практик" они работают. Если бы этот законопроект был законопроектом о стандартах ухода, они были бы невыполнимыми. В итоге: шляпы долой перед сенатором Уинером за вдумчивое взаимодействие и ответ на отзывы за последний год. Освежает видеть законопроект, который действительно основывается на предыдущей критике. Все еще есть много путей, которые может пройти этот законопроект — и он эволюционировал далеко за пределы первоначального предложения о разоблачении — но траектория многообещающая.