Современные модели рассуждений думают на простом английском. Мониторинг их мыслей может быть мощным, но хрупким инструментом для контроля будущих систем ИИ. Я и исследователи из многих организаций считаем, что нам следует работать над оценкой, сохранением и даже улучшением мониторинга CoT.
649,58K