Panel ONU coprésidé par Bengio: l'IA distance science et États

Le rapport que quarante scientifiques mandatés par l'ONU présenteront à Genève les 6 et 7 juillet est intéressant moins pour son alerte générale, prévisible, que pour ce qu'il chiffre. Selon Reuters, qui a rendu compte de la version préliminaire, son coprésident Yoshua Bengio résume la situation ainsi: « AI capabilities are outpacing both scientific understanding and governments' ability to adapt. » Le panel documente que la complexité des tâches maîtrisées par l'IA double tous les quatre à sept mois, et que les modèles atteignent déjà un raisonnement de niveau expert en mathématiques et en sciences.

Là où le rapport devient utile pour lire ce qui se joue à Genève, c'est dans son constat sur l'asymétrie. D'après la synthèse rapportée par The Star, les États-Unis concentrent 75% de la puissance de calcul du top 500 des supercalculateurs IA, la Chine 15%, et la plupart des pays, y compris avancés, n'ont pas l'expertise technique pour évaluer les modèles les plus capables. Autrement dit, la table de négociation onusienne rassemble des États qui, pour l'essentiel, ne peuvent ni auditer ni contraindre ce qu'ils prétendent gouverner. Le Secrétaire général António Guterres l'a formulé sans détour: « The world cannot govern what it cannot understand. »

Bengio insiste sur un point plus inconfortable pour l'industrie: la science ne peut pas garantir qu'avec la montée des capacités, l'IA ne causera pas de dommages catastrophiques, « either on its own or due to malicious users ». Il évoque des preuves grandissantes de comportements trompeurs des modèles, et le rapport identifie des dommages déjà concrets, dont des contenus pédocriminels générés, des deepfakes violents, et une production persuasive à grande échelle.

Il faut prendre au sérieux ce que le rapport ne dit pas. Il ne détaille pas les mesures concrètes que les États pourraient signer à Genève, ne dit pas comment un pays sans capacité technique peut auditer un modèle frontière sans dépendre du laboratoire qui l'a entraîné, et ne rapporte pas la position officielle des grands laboratoires sur ses recommandations. C'est un document préliminaire, une version complète étant annoncée pour l'an prochain.

Ce qui vaut d'être suivi, ce sont donc les deux prochaines semaines. Si les États présents à Genève acceptent un cadre commun d'évaluation, même minimal, le rapport aura créé le référentiel scientifique qui manquait au multilatéralisme sur l'IA. Sinon, il restera comme un document de plus dans une architecture de gouvernance qui, de l'aveu de son propre panel, court derrière la technologie.