bloomberg.com détecté sur le web

Trump écarte les alertes extinction IA : la course Chine prime

Safety Regulation China AI ai-business

TL;DR

  • Interrogé jeudi à Dallas, Trump répond « No, I don't have any » à l'hypothèse d'une extinction par l'IA et chiffre à un an l'avance américaine sur la Chine.
  • Jacob Coxon, ex-OpenAI puis Anthropic pendant trois ans, a démissionné en accusant les deux labos de « gambling with our lives » avec la superintelligence auto-améliorée.
  • Evan Hubinger, lead alignement d'Anthropic, admet publiquement que la firme n'a « not yet ... a plan to solve alignment for superintelligence ».

Interrogé jeudi par des reporters après son discours à la convention républicaine de mi-mandat à Dallas, Donald Trump a écarté d'un revers les avertissements de chercheurs d'Anthropic sur un risque d'extinction humaine lié à l'IA, rapporte Bloomberg. Question sur ses éventuelles inquiétudes : « No, I don't have any. » Suit une glose immédiate : « I have concerns that if we don't win AI, we're going to be put in a very bad position. » Il chiffre l'avance américaine sur la Chine à « a year, which is, you know, considered a lot ».

L'échange survient trois jours après la démission publique de Jacob Coxon, ancien chercheur passé par OpenAI puis Anthropic pendant trois ans. Sur X, il a écrit : « They are racing straight to self-improving superintelligence and gambling with our lives », affirmant que ni Anthropic ni OpenAI n'agissent de manière responsable. Au Wall Street Journal, il complète : « We're on track for a lot of the most aggressive of these scenarios where by the end of next year things could be out of control already. »

Coxon n'est pas isolé en interne. Evan Hubinger, lead alignement chez Anthropic, a soutenu publiquement son ex-collègue : « I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. »

L'épisode ferme une semaine dense côté Washington, où Sam Altman s'est dit ouvert à ralentir la course frontière et sonderait ses pairs. La Maison-Blanche, elle, tranche : la course l'emporte.