SB1047 був поганою ідеєю. Але остання модель SB53 сенатора Вінера знаходиться на правильному шляху, і важливо відзначити прогрес. Ось мої міркування. Мій підхід до регулювання нових технологій, таких як моделі, полягає в наступному: ми не знаємо, як визначити «хороші» заходи щодо пом'якшення наслідків і гарантії, але ми дізнаємося про це, коли — і якщо — ми це побачимо. Звідси випливають два наслідки. #1. Ми не повинні прописувати пороги ризику або стандарти надання медичної допомоги для розробки моделі. Ми не можемо домовитися про ризики, які мають значення, як їх вимірювати, або про те, скільки є забагато. Єдиним орієнтиром для розробників, регулюючих органів і судів є набір нових практик, визначених в першу чергу компаніями із закритим вихідним кодом, які покладаються на платний доступ для виконання важкої роботи. Це може охолодити відкриті інновації, наражаючи розробників на нечітку або підвищену відповідальність за широкий випуск. Це був SB1047 у двох словах, разом із ~5 еквівалентами, які він надихнув на цю сесію в США, наприклад, Закон RAISE у Нью-Йорку. Ми повинні уникати такого підходу. Ці пропозиції — у вузькому, але важливому аспекті — занадто далекі від їхніх лиж. І все ж: #2. Ми повинні пролити світло на галузеві практики, щоб краще зрозуміти старанність або її відсутність, яку застосовують різні фірми. Якщо розробникам доведеться дотримуватися політики безпеки, продемонструвати свою роботу та залишити паперовий слід, ми можемо краще оцінити силу їхніх вимог, відстежувати ризики, що виникають, і приймати рішення про майбутнє втручання. Це Закон ЄС про штучний інтелект і остаточний Кодекс практики в двох словах, який схвалили як OpenAI, так і Mistral, і це також остання версія SB53 @Scott_Wiener. Якщо ми збираємося регулювати розробку моделей, це, по суті, кращий підхід: регулювання прозорості, а не можливостей, пом'якшень або прийнятного ризику. Це надало б принаймні одній юрисдикції США наглядові повноваження Брюсселя і дозволило б уникнути непередбачених наслідків для відкритого розвитку. Щоб було зрозуміло, попереду ще айсберги: > складність. Big Tech чи ні, але це обтяжливі зобов'язання щодо документування та звітності. З тактичної точки зору, чим складніший, тим вразливішим стане цей законопроєкт. > Заохочення. Обов'язкове публічне звітування про добровільні оцінки ризиків створює збочений стимул для розробників недостатньо тестувати свої моделі та закривати очі на складні ризики. Дозвіл розробникам розкривати свої результати аудиторам або агентствам, а не публічно, може сприяти більшій відвертості в їхніх внутрішніх оцінках. > Троянський кінь. Гіперактивна культура Каліфорнії може ускладнити перевірку цих законопроектів. Якщо SB53 перетворюється на стандартний законопроєкт про медичну допомогу, як-от SB1047 або RAISE, його слід скасувати з тих самих причин, що й раніше. Чим більше фенечок буде додано до цієї ялинки, тим більш спірний рахунок. > Широта. Законопроєкт закидає широку сітку з розширеними визначеннями катастрофічного ризику та небезпечних можливостей. Для законопроекту про «обов'язкову звітність / добровільні практики» вони працюють. Якби цей законопроект був стандартним законопроєктом про догляд, вони були б нездійсненними. Підсумовуючи: знімаю капелюха перед сенатором Вінером за вдумливе залучення та реагування на відгуки протягом минулого року. Приємно бачити законопроект, який насправді ґрунтується на попередній критиці. Є ще багато шляхів, якими може піти цей законопроєкт – і він вийшов далеко за рамки початкової пропозиції щодо викривачів – але траєкторія є багатообіцяючою.