Мы достигли уровня золотой медали на этом year's IMO! Наша модель думает и пишет доказательства на понятном, простом английском - без необходимости в формальном коде. В отличие от более узких систем, использованных в прошлых соревнованиях, наша модель создана для широкого рассуждения, далеко за пределами конкурсных задач.

Мы соревновались вживую на @atcoder World Finals Heuristic Contest и заняли 2-е место! Модели, такие как o3, входят в топ-100 в конкурсах по программированию / математике, но, насколько я знаю, это первое место в тройке лучших на престижном конкурсе по программированию / математике. Существует огромная разница между топ-100 и топ-3!

Я чрезвычайно рад потенциалу верности и интерпретируемости цепочек размышлений. Это значительно повлияло на дизайн наших моделей рассуждений, начиная с o1-preview. Поскольку системы ИИ тратят больше вычислительных ресурсов, например, на долгосрочные исследовательские задачи, критически важно, чтобы у нас был способ мониторинга их внутренних процессов. Прекрасное свойство скрытых цепочек размышлений заключается в том, что, хотя они изначально основаны на языке, который мы можем интерпретировать, процедура масштабируемой оптимизации не противоречит способности наблюдателя проверять намерения модели - в отличие, например, от прямого контроля с помощью модели вознаграждения. Напряжение здесь заключается в том, что если бы цепочки размышлений по умолчанию не были скрыты, и мы рассматривали бы процесс как часть вывода ИИ, было бы много стимулов (а в некоторых случаях и необходимости) установить надзор за этим. Я верю, что мы можем работать над лучшим из обоих миров - обучать наши модели хорошо объяснять свои внутренние рассуждения, но в то же время сохранять возможность время от времени проверять их. Верность цепочек размышлений является частью более широкого направления исследований, которое заключается в обучении интерпретируемости: установление целей таким образом, чтобы обучить хотя бы часть системы оставаться честной и контролируемой в масштабе. Мы продолжаем увеличивать наши инвестиции в это исследование в OpenAI.

Эпизод 2 подкаста OpenAI теперь в эфире! @markchen90 и @nickaturley присоединяются к @andrewmayne, чтобы приоткрыть завесу над созданием ChatGPT. Они также обсуждают, как разрабатываются продукты и что ждет впереди в области агентного кодирования и мультимодальных помощников.

Лучшая причина перейти с 4o на o3 заключается в том, что o3 согласен с тем, что лучший бегущий в НФЛ — это @saquon!

Ничто не сравнится с работой до поздней ночи в состоянии максимального потока...

Мы не нанимаем слишком много сотрудников для исследований. А что касается уровня таланта — в следующем месяце к нам присоединятся действительно выдающиеся люди! Я провел годы в трейдинге, пока отсутствие смысла не измотало меня. Я никогда не чувствовал этого в OAI — здесь гораздо более удовлетворительно создавать вещи, которые имеют реальное влияние на мир.

Только что выпущен Codex, агент программной инженерии, который может работать над многими задачами параллельно. Он работает на собственной облачной вычислительной инфраструктуре и может исправлять ошибки, отвечать на вопросы о вашем коде, запускать тесты и т.д. Кажется, это шаг в будущее программной инженерии.

Продукт + Исследование = ❤️ Не могу дождаться, чтобы поработать с @markchen90 и воплотить его прорывы в жизнь через наши продукты.

Так рад работать с @fidjissimo - она настоящий визионер в области продуктов!