Estoy mucho más inclinado a decir que el *sistema* de RL dentro de OpenAI es AGI en lugar de cualquier punto de control de modelo fijo que salga de él.

Me di cuenta en nuestro evento de Berlín que hay muchos jóvenes talentosos y ambiciosos en Europa. Simplemente (casi) no hay empresas inspiradoras para construir el futuro ni capitalistas de riesgo que tengan los pantalones para darles una oportunidad. No es de extrañar que todos quieran venir a sf|

Open AI será recordada como una de las empresas más inspiradoras de todos los tiempos.

No veo el sentido de que la base de código defina el tamaño del lote a nivel de cada GPU. Esto significa que hay que cambiar manualmente el parámetro del tamaño del lote al escalar hacia arriba/abajo el experimento. Supongo que históricamente se ha hecho en bases de código que no tienen acumulación de gradientes?

Deberíamos preocuparnos más por que Thinky contrate a toda la gente de PyTorch que por Zuck robando talento de OpenAI.

¡Si estás en ICML y te interesa la inferencia verificable, asegúrate de pasar por nuestro póster! Presentaremos TOPLOC, un método eficiente de hashing de activación que funciona en una variedad de configuraciones, por ejemplo, cambiando configuraciones de inferencia o incluso modelos. 16 de julio, 4:30 p.m., E-1106

¡Nueva entrada en el blog y nueva biblioteca ya disponibles! La entrada del blog trata sobre MaxSim, por qué es *órdenes de magnitud* mucho más exigente que la similitud coseno normal, y por qué a las GPU no les importa, ¡pero a las CPU sí! La biblioteca es maxsim-cpu, que permite que las CPU sean rápidas y se mantengan tranquilas también.

victoria absoluta @kellerjordan0

Curioso por probar esto con diloco, aún haría bs=1 en el optimizador interno y seguiría obteniendo los beneficios de la paralelización de datos.

también la antigüedad en la ingeniería implica poder trabajar con la deuda técnica de otros