Împărtășesc preocupările lui Leike aici (și ale altora), dar sunt pe deplin de acord că acesta este un lucru excelent de făcut și susțin lucrarea.
Jan Leike
Jan Leike16 iul., 04:27
Dacă nu vă antrenați CoT să arate frumos, ați putea obține o anumită siguranță prin monitorizarea lor. Pare bine de făcut! Dar sunt sceptic că acest lucru va funcționa suficient de fiabil pentru a fi portant într-un caz de siguranță. În plus, pe măsură ce RL este extins, mă aștept ca CoT să devină din ce în ce mai puțin lizibil.
12,91K