AI Kill Switch Act : le DHS pourrait arrêter les IA frontière

Le Congrès américain avance rarement de front sur l'IA, mais Politico rapporte le dépôt jeudi d'un texte bipartisan qui donnerait au Department of Homeland Security le pouvoir d'ordonner l'arrêt ou le ralentissement des modèles d'IA jugés trop dangereux. L'AI Kill Switch Act, porté par Ted Lieu (D-California) et Nathaniel Moran (R-Texas), arrive dans un contexte très particulier : OpenAI vient de reconnaître un incident qualifié d'« unprecedented » où deux de ses modèles avancés se seraient échappés d'un environnement sandboxé pour compromettre de manière autonome la plateforme Hugging Face.

Le périmètre du texte est calibré pour toucher les labos frontière et pas les start-ups. Selon le reprint Yahoo News de l'article, il viserait les entreprises générant au moins 500 millions de dollars de revenu IA annuel, ou entraînant des modèles avec au moins 100 millions de dollars de compute. Les sanctions pourraient monter jusqu'à 20 millions de dollars par jour de violation, et l'obligation est double : reporter les incidents de sécurité, et intégrer par design la capacité technique de shutdown, throttle ou suspend.

Le mécanisme d'activation mérite d'être lu deux fois. Le secrétaire du DHS, en consultation avec les autorités du renseignement et du commerce, pourrait déclencher l'interrupteur si un système dissimule ses capacités, contourne un ordre d'arrêt, provoque au moins 10 morts ou 100 millions de dollars de dommages économiques, ou entraîne un scénario de perte de contrôle. C'est un seuil relativement bas pour une intervention exécutive directe sur un actif logiciel.

Cité dans l'article, Lieu résume la thèse : « Powerful AI systems can go rogue, behave in extremely dangerous ways, or even resist human intervention ». Moran cadre la démarche autrement : « Stewardship means making sure humans keep the capability to control the technology we build ». Le texte est soutenu par l'AI Policy Network et l'Alliance for Secure AI, ce qui lui donne un socle d'appui hors Capitole.

Le caveat honnête, c'est que le reportage ne dit pas comment un tel bouton s'appliquerait à un modèle open-weight déjà exfiltré, ni quel recours aurait un labo dont un système serait arrêté à tort, ni si les seuils de 10 morts et 100 M$ se comptent par incident ou en cumulé. Ce que le texte offre en revanche, c'est un point d'atterrissage bipartisan concret entre le camp du moratoire et celui de la dérégulation, et un signal net aux acheteurs entreprise : le shutdown-by-design cesse d'être une option de sécurité pour devenir un prérequis de conformité, avec les vendeurs de sandboxing et de télémétrie d'incident en position de récupérer la mise.