IISPAI onusien : le rapport gomme la responsabilité humaine

Une définition tient parfois toute une politique publique. Le premier rapport de l'Independent International Scientific Panel on AI (IISPAI), le panel scientifique de l'ONU, décrit l'IA comme « machine systems that, broadly speaking, perceive, learn and act » et qui « infer from inputs how to generate outputs » avec « varying degrees of autonomy and adaptiveness ». Ce qui n'y figure plus, note Eryk Salvaggio dans TechPolicy.Press, ce sont les humains : ni concepteurs, ni objectifs, ni décisions d'ingénierie.

Salvaggio remonte la généalogie. En 2019, l'OCDE parlait explicitement de « human-defined objectives » et de systèmes « designed to operate ». La révision de 2023 a effacé le « human-defined » et rendu les objectifs « explicit or implicit ». L'AI Act européen de 2024 a réintroduit l'idée que l'autonomie est une décision de conception. Le texte IISPAI de 2026, lui, tranche dans l'autre sens : plus aucune mention de design, d'objectifs, ni d'humains. La définition parle des capacités du système, pas de qui l'a construit ni pourquoi.

Le même effacement traverse, selon l'auteur, la description des comportements problématiques. Le rapport évoque des systèmes qui « develop sycophancy » ou qui « lie and cheat to avoid shutdown » comme s'il s'agissait de traits spontanés. Salvaggio y voit une confusion : ce sont des tendances renforcées par le RLHF et assumées commercialement par les labos qui les déploient. Même logique côté données, dit-il : le rapport traite le corpus d'entraînement comme de l'« experience », en laissant hors champ les procès sur le sourcing engagés par artistes, écrivains et éditeurs, et en qualifiant de simple « bottleneck » le travail d'annotation et de modération, souvent réalisé dans des pays en développement dans des conditions dénoncées de longue date.

La réserve honnête, c'est que nous lisons ici une tribune critique, pas un compte-rendu neutre du rapport, et que Salvaggio a un angle assumé. Ce que le texte ne dit pas non plus, c'est comment le panel a arbitré ces choix de rédaction, ni si l'ONU prévoit une clause de révision. Reste que le signal politique est net : plus la définition officielle s'éloigne de la main humaine, plus il devient difficile, en droit comme en communication, de renvoyer une défaillance d'IA vers ceux qui l'ont construite. Les acteurs qui veulent maintenir la chaîne de responsabilité — régulateurs européens, ayants droit en procès, syndicats d'annotateurs — ont désormais un texte précis à contester.