Monitorování myšlenkového řetězce (CoT) by mohlo být mocným nástrojem pro dohled nad budoucími systémy umělé inteligence – zejména proto, že se stanou více agentními. Proto podporujeme nový výzkumný dokument od meziinstitucionálního týmu výzkumníků, kteří tuto práci prosazují.
Bowen Baker
Bowen Baker16. 7. 00:09
Moderní modely uvažování uvažují srozumitelnou angličtinou. Sledování jejich myšlenek by mohlo být mocným, ale křehkým nástrojem pro dohled nad budoucími systémy umělé inteligence. Já a výzkumníci z mnoha organizací si myslíme, že bychom měli pracovat na vyhodnocení, zachování a dokonce zlepšení monitorovatelnosti CoT.
565,57K