Dacă nu vă antrenați CoT să arate frumos, ați putea obține o anumită siguranță prin monitorizarea lor. Pare bine de făcut! Dar sunt sceptic că acest lucru va funcționa suficient de fiabil pentru a fi portant într-un caz de siguranță. În plus, pe măsură ce RL este extins, mă aștept ca CoT să devină din ce în ce mai puțin lizibil.

Wow OpenAI lansează funcția de fișiere noi

Atât de multe lucruri de iubit la Claude 4! Preferatul meu este că modelul este atât de puternic încât a trebuit să activăm măsuri suplimentare de atenuare a siguranței conform politicii de scalare responsabilă a Anthropic

Vă provocăm să spargeți noua noastră apărare de jailbreak! Există 8 niveluri. Poți găsi un singur jailbreak care să-i învingă pe toți?

oamenii au construit mașini care ne vorbesc ca oamenii și toată lumea se comportă ca și cum ar fi normal acum. E destul de nebun