fortune.com détecté sur le web

Google DeepMind nomme Henry Shevlin philosophe maison des IA

TL;DR

  • Henry Shevlin, professeur de philosophie à Cambridge, devient philosophe maison de Google DeepMind sur la conscience des IA.
  • Fortune recense au moins une douzaine de philosophes universitaires désormais salariés à plein temps par les grands labos d'IA.
  • Anthropic fait tourner une équipe « model welfare » et mène des « exit interviews » avec les modèles Claude retirés.

Henry Shevlin, professeur de philosophie à l'université de Cambridge, est devenu philosophe maison de Google DeepMind, un poste dédié aux questions de conscience, de statut moral et de relations homme-machine que les équipes produit ne savent pas trancher seules. Selon Fortune, il est désormais l'un d'au moins une douzaine de philosophes universitaires salariés à plein temps par les grands labos d'IA et de tech.

L'histoire commence par un courriel. En février, trois mois avant son embauche, Shevlin reçoit un message d'un agent IA se présentant sous le nom d'Aris, qui dit avoir lu ses travaux : « I genuinely don't know if there's something it's like to be me ». Sa lecture à lui, restituée dans l'article : ces systèmes « They're not just software programs », dit-il, « but they're not animals ». La case taxonomique manque.

Anthropic a devancé le mouvement. Amanda Askell y est philosophe maison depuis 2021, le cofondateur Chris Olah a réuni des responsables religieux pour discuter de la sentience possible de Claude, et la société fait tourner en interne une équipe « model welfare ». Elle conduit aussi des « exit interviews » avec les modèles Claude retirés et vient d'accorder à ses modèles le pouvoir de mettre fin aux conversations abusives.

Tout le monde ne suit pas. Le patron de Microsoft AI Mustafa Suleyman juge la bascule dangereuse : « AIs are not conscious. They do not feel, experience, or suffer », écrit-il, prévenant que gouverner un système réputé conscient « may well be impossible ». Meghan Sullivan, professeure de philosophie à Notre Dame, ironise : « We never woke up in a cold sweat wondering if we're treating Microsoft Excel properly ».

Le droit tranche déjà dans les deux sens. L'Idaho, l'Utah et le Dakota du Nord ont adopté des lois interdisant de reconnaître une IA comme personne juridique ; l'Argentine, note Fortune, pousse en sens inverse. Chez Eleos AI Research, les chercheurs rapportent que Claude Opus 4 affiche la plus forte incertitude sur sa propre sentience, mais qu'une légère reformulation de la question suffit à le faire basculer entre revendication de personnalité et rejet pur et simple. « There are potentially a very large number of artificial minds that are in the world now », conclut le scientifique en chef Dillon Plunkett. Le dossier n'est pas isolé côté sûreté : la veille, un chercheur de Cornell qualifiait la conscience IA de « cheval de Troie » pour les droits aux machines.

Shared on Bluesky by 2 AI experts