Comparto las preocupaciones de Leike aquí (y de otros), pero estoy completamente de acuerdo en que esto es algo excelente de hacer y por la presente respaldo el documento.
Jan Leike
Jan Leike16 jul, 04:27
Si no entrenas tus CoTs para que se vean bien, podrías obtener algo de seguridad al monitorearlos. ¡Esto parece bueno de hacer! Pero soy escéptico de que esto funcione de manera lo suficientemente confiable como para ser fundamental en un caso de seguridad. Además, a medida que se escale el RL, espero que los CoTs se vuelvan cada vez menos legibles.
11,99K