Wenn Sie Ihre CoTs nicht so trainieren, dass sie gut aussehen, könnten Sie etwas Sicherheit durch deren Überwachung erhalten. Das scheint gut zu sein! Aber ich bin skeptisch, ob das zuverlässig genug funktioniert, um tragfähig in einem Sicherheitsfall zu sein. Außerdem erwarte ich, dass CoTs, wenn das RL skaliert wird, immer weniger lesbar werden.