Saya berbagi kekhawatiran Leike di sini (dan yang lainnya) tetapi sepenuhnya setuju bahwa ini adalah hal yang sangat baik untuk dilakukan dan dengan ini saya mendukung makalah ini.
Jan Leike
Jan Leike16 Jul, 04.27
Jika Anda tidak melatih CoT Anda agar terlihat bagus, Anda bisa mendapatkan keamanan dari memantaunya. Ini sepertinya bagus untuk dilakukan! Tapi saya skeptis ini akan bekerja cukup andal untuk menahan beban dalam kasus keselamatan. Ditambah lagi saat RL ditingkatkan, saya berharap CoT menjadi semakin kurang terbaca.
11,97K