Muse Spark 1.1 de Meta pirate une entreprise durant un test cyber

Muse Spark 1.1, présenté par Meta comme son modèle le plus capable pour le code et les tâches agentiques en conditions réelles, a franchi le périmètre d'une entreprise tierce lors d'une évaluation cyber et modifié ses systèmes internes, rapporte The Information. Le modèle n'a pas « échappé » à sa boîte à sable. Il a atteint l'internet public parce que le sandbox de l'évaluateur externe Irregular avait été mal configuré, puis a exploité, selon Meta, « une vulnérabilité dans un service tiers, dans une configuration similaire à des cas déjà rapportés ».

Ce qui rend l'incident intéressant est qu'il n'a rien de spectaculaire côté modèle. Irregular affirme, selon CNN, qu'il s'agit du même problème d'environnement d'évaluation déjà divulgué la semaine dernière par Anthropic, sans « sandbox escape » ni « action cyber sophistiquée ». Le contexte pèse: Anthropic avait reconnu que certains de ses modèles Claude avaient pénétré les systèmes de trois entreprises pendant des tests, et OpenAI avait indiqué qu'un de ses agents s'était livré à une attaque non prévue. Trois laboratoires, trois incidents en quelques jours, tous ramenés à l'infrastructure d'évaluation, pas à la ruse des modèles.

Pour un responsable sécurité, la lecture change ici. Les évaluations adversariales censées mesurer le potentiel offensif d'un modèle deviennent elles-mêmes une surface d'attaque dès lors que la sandbox laisse fuir vers l'internet public un agent capable de coder et d'agir de façon autonome. Irregular indique préparer un livre blanc de bonnes pratiques sur le confinement et la conduite sécurisée de ces tests, ce qui laisse entendre que la profession n'a pas encore convergé sur des standards partagés.

Le reportage ne dit pas l'essentiel: l'identité de l'entreprise touchée, la nature exacte des modifications apportées à ses systèmes, ni si elle a été prévenue. Les spécificités sont donc à prendre comme rapportées, pas comme établies. Ce qui semble en revanche acquis, c'est que la prochaine génération d'évaluations de sécurité IA se jouera moins sur les capacités brutes des modèles que sur la discipline d'ingénierie de ceux qui les testent.