Si vous ne formez pas vos CoTs à avoir une belle apparence, vous pourriez obtenir une certaine sécurité en les surveillant. Cela semble bon à faire ! Mais je suis sceptique quant à la fiabilité de cette méthode pour être suffisamment solide dans un cas de sécurité. De plus, à mesure que l'IA par renforcement est mise à l'échelle, je m'attends à ce que les CoTs deviennent de moins en moins lisibles.

Wow, OpenAI lance une nouvelle fonctionnalité de fichiers.

Tant de choses à aimer chez Claude 4 ! Ce que je préfère, c’est que le modèle est si solide que nous avons dû activer des mesures de sécurité supplémentaires conformément à la politique de mise à l’échelle responsable d’Anthropic

Nous vous mettons au défi de briser notre nouvelle défense contre le jailbreak ! Il y a 8 niveaux. Pouvez-vous trouver un seul jailbreak pour tous les battre ?

les humains ont construit des machines qui nous parlent comme le font les gens et tout le monde agit comme si c'était normal maintenant. c'est assez fou.