Wired : nucléaire, bio et cyber avant l'extinction pour 10 experts IA

Wired a publié lundi une enquête menée par Lauren Goode auprès de dix spécialistes de la sûreté IA. Leur hiérarchie des menaces met en tête les modèles défaillants déployés dans les opérations nucléaires, une fenêtre d'avantage pour les cyberattaquants et une accélération de la production virale. L'extinction humaine, elle, est reléguée loin derrière.

Heidy Khlaaf, chief AI scientist à l'AI Now Institute et ancienne ingénieure sécurité système chez OpenAI, vise le nucléaire : l'intégration de modèles peu fiables aux opérations du secteur provoquerait des « catastrophic reliability failures ».

Côté biologique, Steph Guerra, biologiste moléculaire et experte biosécurité à la RAND, estime que l'assistance IA pourrait comprimer les délais de production virale « from months to weeks ». Rob Reich, professor à Stanford, juge l'extinction humaine par l'IA « implausible » tout en plaçant les menaces chimiques, biologiques et radiologiques en tête de ses préoccupations. Ce diagnostic prolonge l'avertissement de Yao chez Tencent publié la veille sur le seuil bio.

Sayash Kapoor, informaticien, voit une fenêtre cyber de court terme où « attackers could have an advantage over the next few years », le temps que les défenseurs adaptent leurs infrastructures. Yoshua Bengio décompose le problème en quatre : « powerful AI behaving against human intentions, malicious use, concentration of power and unintended consequences ».

Les dix divergent sur l'extinction et sur l'opportunité d'une pause, mais convergent sur un socle de gouvernance : transparence des entreprises, responsabilité civile en cas d'échec des systèmes et protection des lanceurs d'alerte. L'enquête s'ajoute à 225 alertes safety suivies par AI Weekly ces 90 derniers jours, dans un cycle où le cadre juridique prend le pas sur le scénario catastrophe.