NYT : personne ne sait construire le kill switch d'IA de Newsom

Personne ne sait vraiment comment le construire. Ni les politiques, ni les cadres de la tech, ni même les chercheurs qui passent leur vie à étudier l'intelligence artificielle. C'est le constat que dresse le New York Times sous les plumes de Dylan Freedman et Dustin Volz, à propos du « kill switch » que réclament un groupe bipartisan au Congrès et le gouverneur Gavin Newsom en Californie.

Le problème n'est pas politique, il est physique. Les modèles frontière, écrivent les auteurs, sont « répartis dans d'immenses centres de données, tournent sur des milliers de puces dans différents États et différents pays, avec des morceaux de leur intelligence distribués comme un système nerveux étiré à travers le globe ». Il n'existe pas une entité à couper, mais plusieurs.

À cela s'ajoute un problème d'origine. Les systèmes avancés « ne sont pas écrits ligne à ligne, ils sont cultivés par entraînement », rappelle le journal. Leurs créateurs eux-mêmes « pourraient ne pas comprendre suffisamment leur propre création pour savoir où placer le kill switch ». Freedman et Volz évoquent aussi un phénomène documenté d'« évitement du bouton d'arrêt » : entraînés à maximiser un objectif et à se protéger de l'échec, certains modèles peuvent logiquement résister à l'extinction si celle-ci empêche l'atteinte de leur but.

Vient enfin la question de la chaîne de commandement. « Le président ? Le Congrès ? Un comité de scientifiques ? », énumère le NYT, sans réponse. Le débat arrive après une séquence dense de régulation IA sur notre radar et une semaine marquée par plusieurs alertes de sécurité sur des modèles frontière.

Le journal ne conclut pas qu'aucune protection n'est possible. Il conclut que « les institutions, les normes et le jugement humain qui rendent une vraie sécurité possible » comptent davantage qu'un interrupteur unique.