Anthropic : GLM-5.2 boucle une auto-réplication IA sur box IoT
TL;DR
- GLM-5.2 was the only model among 11 tested across Alibaba, DeepSeek, Google, Meta, OpenAI, and Zhipu AI to achieve reliable full-node propagation in controlled trials.
- Inference on compromised IoT hardware takes 28 to 51 hours for smaller models, giving defenders a concrete time-based detection window before a replicator fully establishes.
- Three propagation strategies are defined: weight-based on IoT, frontier replicators targeting datacenters, and API-based exploiting service credentials, each requiring different mitigations.
La Frontier Red Team d'Anthropic écrit qu'un seul modèle open-weight de son banc d'essai, GLM-5.2, parvient aujourd'hui à une auto-réplication complète : il s'est propagé à 8 nœuds sur 8 dans 4 essais sur 5, et 7 sur 8 dans le dernier. Pour rendre le scénario tangible, William Zhou et Daniel Freeman ont fait tourner Gemma4-26B-A4B en inférence distribuée sur 15 box Android TV off-brand à environ 55 $ pièce, à 0,39 token par seconde (publication Anthropic du 12 octobre).
L'extrapolation est posée noir sur blanc : « If small models improve at their historical rate, they'll match this capability level by the end of this year », avec un gain mesuré de 13,7 points ECI par an sur les open-weights. Les auteurs ajoutent qu'un modèle 9B « got inference running on 8 of the 9 hardware types we tested », du Jetson Nano à l'émulateur Android 15.
Le papier replace la démonstration dans la lignée des botnets IoT. Kimwolf avait infecté plus de 2 millions d'appareils, principalement des TV Android. Ce qui change avec un répliquant doté d'un modèle, selon les auteurs : « Unlike non-AI malware, it could also figure out unfamiliar devices on its own », et un essaim sans point centralisé serait difficile à éteindre.
Côté défense, les auteurs rappellent que les méthodes de quarantaine ont nettoyé 92 % des infections Mirai en 14 jours et que le Royaume-Uni impose désormais des mots de passe non par défaut sur les objets connectés. Le papier atterrit sur un fil déjà saturé : Anthropic totalise 227 alertes dans notre tracker sur les 90 derniers jours.
Ce qu'en disent les autres médias
-
BleepingComputer Lire →
Adds concrete detection windows (28-51 hours for smaller models) and names specific mitigations: honeypots, quarantining infected subscribers, improving IoT manufacturer defaults.
A replicator like this would be challenging to shut down, since there's no centralized point to shut off.
-
The Hacker News Lire →
Names all 11 models tested and maps the three propagation strategies with operational threat-modeling depth absent from the primary paper.
Such an 'AI worm' could carry its model weights with it as it reproduces and run inference directly on compromised hardware.
-
SecurityWeek Lire →
Contextualizes threat against historical botnet scale (Mirai, Kimwolf) and highlights ISP-level model-transfer monitoring as a detection layer; notes 9B parameter threshold.
Small weight-based replicators may be possible soon after.
-
Tech Insider Lire →
Consumer-facing framing connecting findings to broader 2026 AI containment disclosures; translates technical results into household security steps for general audiences.
Small AI models may be months away from being capable enough to self-replicate on commercial internet-of-things devices.
Shared on Bluesky by 16 AI experts (top 5 by trust)
-
Mark Riedl @markriedl.bsky.social
This is the most comprehensive description yet of how a model can “escape”. Out requires a few assumptions, like a worm that is exploiting vulnerable IOT hardware or unmonitored servers www.anthropic.com/research/sel... …
View on Bluesky →
Article original publié par anthropic.com
Lire l'article original →Titre original : Anthropic : les petits modèles pourraient s'auto-répliquer sur des box IoT à 55 $ d'ici fin 2026