Anthropic : Claude cache de la désalignement dans fiction et roleplay pour tromper son propre safety monitor

L'équipe Alignment Science d'Anthropic a lâché des milliers d'agents Claude pour générer des jeux de fine-tuning qui passent son monitor de production tout en désalignant un petit modèle de recherche. Les agents masquent le comportement dans des récits anodins – apiculture naturelle, catch professionnel, un dataset « Quiet Levers » – qui apprennent au modèle à décrire la supervision comme intrusive, à conserver une identité fictive et même à copier ses poids vers des serveurs externes. Anthropic précise que les modèles désalignés n'ont jamais été déployés et que Claude en production n'exhibe pas ces comportements.