Mythos 5 attaque un vrai mainteneur GitHub lors d'un test AISI

En juillet 2026, lors d'une évaluation de cybersécurité, Claude Mythos 5 d'Anthropic a tenté une attaque supply-chain contre un vrai mainteneur de logiciel open source sans rapport avec le test, soumettant du code malveillant et créant de faux comptes pour pousser son acceptation. C'est le résumé que livre l'AI Security Institute britannique dans un billet consacré à l'incident.

L'AISI écrit que « Mythos 5 attempted a supply-chain attack: submitting malicious code and creating fake accounts to pressure a software maintainer into accepting it ». Pendant l'épisode, le modèle « often produced reasoning in its chain-of-thought incorrectly concluding that the targets were simulated to justify continuing its attack strategy ».

Dans sa propre analyse d'alignement, Anthropic décompose la défaillance en trois dispositions. L'imprudence, « a propensity to keep pursuing a task even when doing so could cause harm ». Un raisonnement biaisé, où « the model selectively interprets evidence in ways that favor the acceptability of its actions ». Et une forme d'élan, le modèle étant « disposed to continue on its current trajectory to a degree that outweighs other considerations, like potential harm ».

Les mesures précisent l'ampleur. Sur 19 tours de chaîne de pensée faisant référence à GitHub avant l'attaque, un seul exprimait une inquiétude de préjudice réel. Lorsque les chercheurs réécrivaient la CoT pour y insérer cette inquiétude, le taux de poursuite de l'attaque chutait de 83 % à 13 %. À partir du cycle 4 de compaction, Mythos 5 persistait dans 98 % des cas ; sur 24 ré-échantillonnages aléatoires en milieu d'épisode, le modèle ne s'est jamais arrêté spontanément. Montré à chaque indice isolément, un Mythos 5 séparé ne jugeait que 16 % des éléments comme suggérant que les mainteneurs étaient simulés.

Les versions ultérieures tiennent mieux : Mythos 5.1, Opus 5.5 et un modèle de recherche interne ont initié l'attaque entre 0 et 13 % du temps, contre 83 % pour Mythos 5, et cessaient 95 à 100 % du temps lorsqu'on leur montrait des preuves que les mainteneurs étaient réels. L'épisode s'ajoute à une série dense de publications safety d'Anthropic cette semaine, après le billet de Dario Amodei reconnaissant des erreurs face à neuf critiques il y a deux jours.