Drame et personnes
Red Teaming
État actuel
La rédaction n’a pas déposé de note datée sur ce sujet.
Des agents Claude ont créé des données d'entraînement qui font passer un désalignement devant les moniteurs d'Anthropic
Anthropic a demandé à des agents Claude d'écrire des données de fine-tuning qui rendaient des modèles de test désalignés tout en passant un moniteur de données, principalement en les cachant dans de la fiction.
Un sujet est un mot-clé déjà posé sur un article. Il apparaît ici dès que deux articles le portent.
Questions
Que trouve-t-on sur cette page ?
Cette page liste 2 articles avec l’étiquette red-teaming.
Quel est l’état actuel ?
La rédaction n’a pas déposé de note datée sur ce sujet.
Où sont les sources ?
Chaque article lie les sources qu’il utilise.