Il monitoraggio della Catena di Pensiero (CoT) potrebbe essere uno strumento potente per supervisionare i futuri sistemi di intelligenza artificiale, specialmente man mano che diventano più agenti. Ecco perché stiamo sostenendo un nuovo documento di ricerca di un team di ricercatori interistituzionali che sta portando avanti questo lavoro.
Bowen Baker
Bowen Baker16 lug, 00:09
I modelli di ragionamento moderni pensano in inglese semplice. Monitorare i loro pensieri potrebbe essere uno strumento potente, ma fragile, per supervisionare i futuri sistemi di intelligenza artificiale. Io e i ricercatori di molte organizzazioni pensiamo che dovremmo lavorare per valutare, preservare e persino migliorare la monitorabilità del CoT.
565,6K