Если вы не обучите свои CoT так, чтобы они выглядели хорошо, вы можете получить некоторую безопасность от их мониторинга. Это кажется хорошим делом! Но я скептически настроен, что это будет работать достаточно надежно, чтобы быть основой в случае безопасности. Кроме того, по мере масштабирования RL я ожидаю, что CoT будут становиться все менее и менее разборчивыми.