Modelos de raciocínio modernos pensam em inglês simples. Monitorizar os seus pensamentos pode ser uma ferramenta poderosa, mas frágil, para supervisionar futuros sistemas de IA. Eu e investigadores de várias organizações acreditamos que devemos trabalhar para avaliar, preservar e até melhorar a monitorização de CoT.
649,57K