أنا أشارك مخاوف Leike هنا (وآخرين) ولكني أوافق تماما على أن هذا شيء ممتاز يجب القيام به وأنا أؤيد الورقة بموجب هذا.
Jan Leike
Jan Leike‏16 يوليو، 04:27
إذا لم تقم بتدريب CoTs الخاص بك على الظهور بمظهر جميل ، فيمكنك الحصول على بعض الأمان من مراقبتها. هذا يبدو جيدا للقيام به! لكنني متشكك في أن هذا سيعمل بشكل موثوق بما يكفي ليكون حاملا في حالة الأمان. بالإضافة إلى ذلك ، مع توسيع نطاق RL ، أتوقع أن تصبح CoTs أقل وضوحا.
‏‎11.98‏K