Сучасні моделі міркувань мислять простою англійською мовою. Моніторинг їхніх думок може бути потужним, але крихким інструментом для нагляду за майбутніми системами штучного інтелекту. Я та дослідники з багатьох організацій вважають, що ми повинні працювати над оцінкою, збереженням і навіть покращенням моніторингу CoT.
649,56K