Altman expose à OpenAI trois scénarios de fin de partie pour l'IA
TL;DR
- Sam Altman aurait présenté en interne trois voies de sortie pour l'IA de frontière : une agence type AIEA, une fusion façon CERN, ou un labo dominant.
- Le troisième scénario, « Eliezer Plan », verrait un développeur en auto-amélioration récursive « faire fondre » les GPU des concurrents.
- Altman qualifie cette option de « terrible », présentée « only for completeness », et estime qu'OpenAI doit trancher dans l'année.
Un des trois scénarios de « fin de partie » que Sam Altman aurait présentés en interne à OpenAI consiste à ce qu'un seul laboratoire fasse fondre les GPU de tous les autres, selon The Information relayé par The Decoder.
Altman aurait exposé à ses équipes trois voies pour sécuriser la course à la superintelligence. La première : un organisme international calqué sur l'AIEA, chargé d'« inspect systems, require audits, and monitor compute and energy use ». OpenAI défend publiquement cette idée depuis mai 2023 et Altman serait, selon les sources citées, le plus favorable à cette option des trois.
La deuxième, surnommée en interne « the Demis Plan » d'après le PDG de Google DeepMind Demis Hassabis, fusionnerait les grands laboratoires de frontière dans une structure façon CERN, qui fournirait ses modèles aux pays coopérants.
La troisième, « the Eliezer Plan » (en référence au théoricien de la sécurité IA Eliezer Yudkowsky), voit un développeur atteindre l'« recursive self-improvement (RSI) », bâtir une telle avance qu'il peut « melt everyone else's GPUs » et couper les capacités de calcul des concurrents. Altman l'aurait qualifiée de « terrible plan » et présentée « only for completeness ». Certains salariés y auraient lu une pique contre Anthropic : « Some employees reportedly interpreted the extreme scenario as aimed at Anthropic », rapporte The Information, Yudkowsky ayant des liens avec des figures clés du laboratoire rival.
Altman aurait aussi déploré la rareté des propositions crédibles de « speed limit » sur l'IA de frontière, et estimé qu'OpenAI doit trancher dans l'année laquelle de ces voies poursuivre. Le dossier s'ajoute à notre suivi quasi-quotidien d'OpenAI depuis trois mois.
Article original publié par the-decoder.com
Lire l'article original →Titre original : Sam Altman décrit à ses équipes trois fins de partie pour l'IA, dont un labo qui ferait fondre les GPU des rivaux