Новое юридическое письмо, адресованное OpenAI, в резких выражениях излагает захват денег и власти, который OpenAI пытается навязать своим членам совета директоров — то, что один аналитик называет "кражей тысячелетия". Простые факты дела одновременно разрушительны и мрачно смешны. Я объясню для вашего развлечения. Письмо "Не для личной выгоды" написано для соответствующих генеральных прокуроров и подписано 3 лауреатами Нобелевской премии среди десятков ведущих исследователей машинного обучения, юридических экспертов, экономистов, бывших сотрудников OpenAI и групп гражданского общества. (Я дам ссылку ниже.) В нем говорится, что попытка OpenAI реорганизоваться в коммерческую структуру просто-напросто незаконна, как вы могли бы наивно ожидать. Затем оно просит генеральных прокуроров (AGs) принять некоторые крайние меры, о которых я никогда не слышал. Вот как они подводят к своим радикальным требованиям. На протяжении 9 лет OpenAI и его основатели без конца говорили о том, как важно некоммерческое управление для: 1. Предотвращения концентрации огромной власти в руках нескольких людей 2. Обеспечения того, чтобы выгоды от искусственного общего интеллекта (AGI) были разделены со всем человечеством 3. Избежания стимула рисковать жизнями других людей ради еще большего обогащения Они говорили нам, что эти обязательства были юридически обязательными и неизбежными. Они не были в этом ради денег или власти. Мы могли им доверять. "Цель не в том, чтобы создать AGI, а в том, чтобы AGI приносил пользу человечеству", — сказал президент OpenAI Грег Брокман. И действительно, благотворительная цель OpenAI, которую его совет директоров обязан преследовать по закону, заключается в том, чтобы "обеспечить, чтобы искусственный общий интеллект приносил пользу всему человечеству", а не продвигать "личную выгоду любого человека". Сотни ведущих исследователей выбрали работу в OpenAI за зарплаты ниже рыночных, отчасти мотивированные этим идеализмом. Это было основой стратегии набора и PR OpenAI. Теперь наступает 2024 год. Этот идеализм окупился. OpenAI — одна из самых горячих компаний в мире. Деньги текут рекой. Но теперь нам внезапно говорят, что структура, благодаря которой они стали одной из самых быстрорастущих стартапов в истории, структура, которая якобы была абсолютно необходимой и отличала их от конкурентов, и защиты, которые позволили нам им доверять, ВСЕ ДОЛЖНЫ ИСЧЕЗНУТЬ КАК МОЖНО СКОРЕЕ: 1. Право некоммерческой организации (а следовательно, и человечества в целом) на сверхприбыли, если они заработают десятки триллионов? Исчезло. (Угадайте, куда теперь пойдут эти деньги!) 2. Владение AGI некоммерческой организацией и возможность влиять на то, как он будет использоваться после создания? Исчезло. 3. Способность (и юридическая обязанность) некоммерческой организации возражать, если OpenAI делает возмутительные вещи, наносящие вред человечеству? Исчезло. 4. Обязательство помочь другому проекту AGI, если это необходимо, чтобы избежать вредной гонки вооружений, или если объединение усилий поможет США обойти Китай? Исчезло. 5. Контроль большинства в совете директоров людьми, которые не имеют огромной личной финансовой заинтересованности в OpenAI? Исчезло. 6. Возможность судов или генеральных прокуроров возражать, если они предают свою заявленную благотворительную цель — приносить пользу человечеству? Исчезло, исчезло, исчезло! Скриншот из письма: (Я сделаю новый твит после каждого изображения, чтобы они появлялись правильно.) 1/