Estoy mucho más inclinado a decir que el *sistema* RL dentro de OpenAI es AGI en lugar de cualquier punto de control de modelo fijo que salga de él

Me di cuenta en nuestro evento de Berlín de que hay muchas personas jóvenes talentosas y ambiciosas en Europa. Simplemente (casi) ninguna empresa inspiradora para construir el futuro ni VC que tenga las pelotas para darles una oportunidad. No es de extrañar por qué todo el mundo quiere ven a sf

Open ai será recordada como una de las empresas más inspiradoras de todos los tiempos

No veo el sentido de que la base de código defina el tamaño del lote a nivel de GPU. Esto significa que es necesario cambiar el parámetro de tamaño de lote manualmente cuando se experimenta de escalado ascendente / descendente. Supongo que históricamente hecho en base de código que no tiene gradu acc ?

Deberíamos estar más preocupados por la contratación reflexiva de toda la gente pytorch que por la caza furtiva de zuck de la IA abierta

Si estás en ICML y estás interesado en la inferencia verificable, ¡asegúrate de pasar por nuestro póster! Presentaremos TOPLOC, un método eficiente de hash de activación que funciona en una variedad de configuraciones, por ejemplo, configuraciones de inferencia de conmutación o incluso modelos. 16 de julio, 4:30pm, E-1106

¡Ya está disponible una nueva entrada de blog y una nueva biblioteca! El BP trata sobre MaxSim, por qué es *órdenes de magnitud* mucho más exigente que la similitud normal del coseno, y por qué a las GPU no les importa, ¡pero a las CPU sí! La biblioteca es maxsim-cpu, lo que hace que las CPU puedan ser rápidas y también jugar bien.

Victoria absoluta @kellerjordan0

Curioso por probar esto con diloco, todavía haría bs = 1 en el optimizador interno y aún obtendría beneficios del paralelismo de datos

También la antigüedad en ingeniería es poder trabajar con deuda tecnológica de otros