O monitoramento da cadeia de pensamento (CoT) pode ser uma ferramenta poderosa para supervisionar futuros sistemas de IA, especialmente à medida que se tornam mais agentes. É por isso que estamos apoiando um novo trabalho de pesquisa de uma equipe interinstitucional de pesquisadores que impulsiona esse trabalho.
Bowen Baker
Bowen Baker16 de jul., 00:09
Os modelos de raciocínio modernos pensam em inglês simples. Monitorar seus pensamentos pode ser uma ferramenta poderosa, mas frágil, para supervisionar futuros sistemas de IA. Eu e pesquisadores de muitas organizações achamos que devemos trabalhar para avaliar, preservar e até melhorar a monitorabilidade do CoT.
565,65K