Legg, Hassabis, Manyika lancent le DeepMind Institute sur l'AGI

Google DeepMind ouvre ce 16 septembre le DeepMind Institute, une plateforme éditoriale dirigée par Shane Legg, Demis Hassabis et James Manyika. En frontispice, un avertissement: les textes publiés « should not be read as Google's official view ».

Quatre essais inaugurent le site. Rohin Shah et Anca Dragan défendent « the case for reasoning transparency ». Julian Jacobs et Alex Imas évaluent onze politiques face à la disruption économique de l'AGI; leur universal basic capital sort en tête sur l'agentivité (76.3/100) mais dernier en faisabilité (33.1/100). Stephen Cave signe « Principles for a new utopianism ». Hassabis lui-même clôt le lot avec « A framework for frontier AI and the dawning of a new age ».

L'AGI y est définie sans détour comme « a system that shows all the cognitive capabilities of the human brain ». L'essai d'introduction énumère trois inquiétudes: cybersécurité, biorisques, et « the potential for loss of control in future self-improving systems ».

Au Financial Times, Legg, chief AGI scientist et managing editor du site, se recadre dans le camp safety-first. « We're living in a period now where capabilities are advancing very, very quickly...But we can't let capabilities get ahead of safety », dit-il. Il qualifie ensuite d'« interesting directionally » et « worth considering » l'essai « We Must Pace the Frontier » de Dario Amodei, qui a fait des remous dans notre tracker safety la même semaine. Malgré les déclarations récentes de dirigeants d'OpenAI et de Nvidia affirmant que l'AGI serait déjà là, Legg se dit « comfortable » avec sa prévision de longue date: 50 % de chances d'une AGI « minimale » d'ici 2028.

Le calendrier n'est pas neutre. Le même jour, Ursula von der Leyen convoque les frontier labs à Bruxelles.