Monitorizarea lanțului de gândire (CoT) ar putea fi un instrument puternic pentru supravegherea viitoarelor sisteme de inteligență artificială, mai ales pe măsură ce devin mai agentice. De aceea susținem o nouă lucrare de cercetare a unei echipe interinstituționale de cercetători care promovează această lucrare.
Bowen Baker
Bowen Baker16 iul., 00:09
Modelele moderne de raționament gândesc într-o engleză simplă. Monitorizarea gândurilor lor ar putea fi un instrument puternic, dar fragil, pentru supravegherea viitoarelor sisteme AI. Eu și cercetătorii din multe organizații credem că ar trebui să lucrăm pentru a evalua, păstra și chiar îmbunătăți monitorizabilitatea CoT.
565,6K