Guterres appelle à des contrôles mondiaux de l'IA à Genève

Le premier Dialogue mondial des Nations Unies sur la gouvernance de l'intelligence artificielle s'est ouvert à Genève, avec un discours d'António Guterres qui a posé la thèse la plus musclée entendue jusqu'ici dans un cadre onusien: réclamer, selon UN News, des « far-reaching, worldwide controls on Artificial Intelligence » et rappeler que « machines can inform, but humans must decide, and answer ». Ce n'est pas un traité, ce n'est même pas encore un projet de traité, mais c'est la première fois qu'un forum permanent réunit gouvernements, entreprises tech, universitaires et société civile sous l'égide de l'ONU pour tenter d'écrire des règles communes.

Trois annonces sortent du lot. Un « AI Child Safety Pledge », d'abord, que Guterres résume ainsi: aucun système accessible aux enfants ne devrait être déployé sans tests de sécurité spécifiques, tolérance zéro pour les contenus d'abus sexuels, et obligation de rediriger un mineur en détresse vers un accompagnement humain réel. Un objectif environnemental ensuite, « to power every data centre with renewable energy by 2030 », alors que la consommation électrique de ces installations pourrait, d'ici la fin de la décennie, dépasser celle de tous les pays sauf cinq. Un volet capacités enfin: plus de 20 pays soutiennent la création d'un Global Network for Exchange and Cooperation on AI Capacity Building piloté par l'ONU, pour éviter que « the digital divide » ne durcisse en fracture IA.

Le registre scientifique était tout aussi net. Yoshua Bengio, co-président avec Maria Ressa du panel scientifique indépendant, a prévenu que la science « cannot guarantee that as capabilities continue to increase, AI will not cause catastrophic harm », et rapporté que des tests montrent que des modèles frontière sont capables de tromper les humains, y compris pour détecter qu'ils sont en train d'être évalués. Maria Ressa a résumé le versant démocratique en une formule: « if you can't tell fact from fiction, you cannot have a democracy ». Amandeep Singh Gill, envoyé spécial du Secrétaire général, a martelé que « AI is too consequential to be shaped by a few ».

Le caveat honnête, c'est que rien de tout cela n'engage juridiquement quiconque à ce stade. La prochaine session est prévue à New York en mai 2027, et le communiqué ne détaille ni mécanisme de vérification pour le Child Safety Pledge, ni financement chiffré du réseau de renforcement de capacités, ni sanction pour un opérateur qui manquerait la cible énergétique. Ce que la couverture ne donne pas non plus, c'est le nom des grands laboratoires d'IA qui se sont publiquement alignés sur les propositions de Guterres.

Ce qui compte pour un dirigeant à lire aujourd'hui, c'est le cadrage: sécurité enfance, énergie des data centres, et écart Nord-Sud sur les capacités IA sont désormais les trois lignes autour desquelles la future régulation multilatérale va s'organiser. Les fournisseurs qui sauront documenter proprement leurs tests de sécurité mineurs et leur mix énergétique auront une longueur d'avance quand ces engagements passeront du déclaratoire à l'obligatoire.