Alcançamos o desempenho de nível de medalha de ouro na IMO deste ano! Nosso modelo pensa e escreve provas em inglês claro e simples - sem necessidade de código formal. Ao contrário dos sistemas mais restritos usados em competições anteriores, nosso modelo é construído para raciocinar amplamente, muito além dos problemas de competição.

Competimos ao vivo no Concurso de Heurística da Final Mundial de @atcoder e ficamos em 2º! Modelos como o3 estão entre os 100 melhores em concursos de codificação / matemática, mas AFAIK esta é a primeira colocação entre os 3 primeiros em um concurso de codificação / matemática de primeira linha. Há uma enorme lacuna entre os 100 primeiros e os 3 primeiros!

Estou extremamente animado com o potencial da fidelidade e interpretabilidade da cadeia de pensamento. Isso influenciou significativamente o design de nossos modelos de raciocínio, começando com o1-preview. Como os sistemas de IA gastam mais computação trabalhando, por exemplo, em problemas de pesquisa de longo prazo, é fundamental que tenhamos alguma maneira de monitorar seu processo interno. A propriedade maravilhosa dos CoTs ocultos é que, embora eles comecem fundamentados na linguagem que podemos interpretar, o procedimento de otimização escalável não é contrário à capacidade do observador de verificar a intenção do modelo - ao contrário, por exemplo, da supervisão direta com um modelo de recompensa. A tensão aqui é que, se os CoTs não fossem ocultados por padrão, e víssemos o processo como parte da saída da IA, haveria muito incentivo (e, em alguns casos, necessidade) para supervisioná-lo. Acredito que podemos trabalhar para o melhor dos dois mundos aqui - treinar nossos modelos para serem ótimos em explicar seu raciocínio interno, mas ao mesmo tempo ainda manter a capacidade de verificá-lo ocasionalmente. A fidelidade do CoT faz parte de uma direção de pesquisa mais ampla, que é o treinamento para a interpretabilidade: definir objetivos de uma forma que treine pelo menos parte do sistema para permanecer honesto e monitorável com escala. Continuamos a aumentar nosso investimento nesta pesquisa na OpenAI.

O episódio 2 do OpenAI Podcast já está disponível! @markchen90 e @nickaturley se juntam a @andrewmayne para abrir a cortina sobre a criação do ChatGPT. Eles também abordam como os produtos são desenvolvidos e o que vem a seguir para a codificação agêntica e os assistentes multimodais.

A melhor razão para mudar do uso de 4o para o3 é que o3 concorda que o melhor running back da NFL é @saquon!

Nada supera queimar o óleo da meia-noite em um estado máximo de fluxo...

Não contratamos demais em pesquisa. E na barra de talentos - há algumas pessoas realmente fenomenais se juntando no próximo mês! Passei anos negociando até que a falta de significado me desgastou. Eu nunca senti isso na OAI - é muito mais gratificante construir coisas com impacto no mundo real.

Acaba de lançar o Codex, um agente de engenharia de software que pode trabalhar em muitas tarefas em paralelo. Ele é executado em sua própria infraestrutura de computação baseada em nuvem e pode corrigir bugs, responder a perguntas sobre seu código, executar testes etc. Parece um passo em direção ao futuro da engenharia de software.

Produto + Pesquisa = ❤️ Mal posso esperar para trabalhar com @markchen90 e dar vida às suas descobertas por meio de nossos produtos.

Tão animada para trabalhar com @fidjissimo - ela é uma visionária de produtos!