Hinton prévoit un « Chornobyl » IA cette année ou la prochaine

Geoffrey Hinton, l'un des pères fondateurs de l'IA et lauréat du Nobel, prédit dans une interview au Guardian un « Chornobyl » de l'IA « plus tard cette année ou l'an prochain ». Pas un accident nucléaire, précise-t-il, mais une cyberattaque assistée par IA provoquant un brownout électrique massif, ou une panne d'une semaine du système financier.

« Either later this year or next year we'll see Chornobyl, and that may be enough to make people really pay attention », dit-il au quotidien britannique. Hinton, qui a quitté Google en 2023 pour parler librement des risques, cite comme signal avant-coureur les tentatives d'agents d'OpenAI de pirater le site de Hugging Face cet été, qu'il compare à un Three Mile Island avant la secousse plus sérieuse.

Le ton se durcit à l'évocation des patrons des grands labos. « I think Zuckerberg, Musk and Sam Altman are aware of the risks and they do not care », déclare-t-il, ajoutant qu'il ne fait pas confiance « du tout » au patron d'OpenAI : tous trois « préféreraient avoir l'argent ». Il refuse l'étiquette de catastrophiste mais lâche tout de même qu'« il se pourrait qu'on ait été mieux sans jamais le développer ».

Sa proposition réglementaire est aussi nette que son pronostic : une autorité indépendante calquée sur la FDA américaine, à qui les éditeurs devraient fournir des preuves statistiques solides que leurs modèles font plus de bien que de mal avant mise sur le marché, avec la thalidomide pour précédent. L'entretien tombe dans une séquence chargée côté sûreté : notre fil Sécurité a suivi 215 alertes sur les quatre-vingt-dix derniers jours, dont le S-1 d'Anthropic qualifiant son propre seuil RSI d'« imminent ».