Comparto las preocupaciones de Leike aquí (y otras), pero estoy totalmente de acuerdo en que esto es algo excelente que hacer y por la presente respaldo el documento.
Jan Leike
Jan Leike16 jul, 04:27
Si no entrenas a tus CoTs para que se vean bien, podrías obtener algo de seguridad al monitorearlos. ¡Esto parece bueno hacerlo! Pero soy escéptico de que esto funcione de manera lo suficientemente confiable como para soportar carga en un caso de seguridad. Además, a medida que se amplíe el RL, espero que los CoT sean cada vez menos legibles.
11.98K