The Guardian : Anthropic n'exclut pas une conscience chez Claude

La question de la conscience des grands modèles n'est plus renvoyée aux marges philosophiques. Dans une tribune publiée par The Guardian, William MacAskill, senior research fellow à Forethought Research et auteur de « What We Owe the Future », et Lucius Caviola, assistant professor à l'université de Cambridge et directeur de Cambridge Digital Minds, soutiennent qu'il n'est plus sérieux d'écarter d'un revers de main l'hypothèse que des LLM puissent être conscients, ou au moins être des « patients moraux » dont le bien-être compte.

Leur argument ne s'appuie pas sur une envolée, mais sur ce que dit déjà l'industrie. En janvier, Anthropic a publié une nouvelle constitution pour Claude, son modèle le plus avancé, qui reconnaît noir sur blanc être coincée « dans une position difficile où nous ne voulons ni surestimer la probabilité que Claude soit un patient moral, ni l'écarter d'un revers de main ». Un mois plus tard, le CEO Dario Amodei déclarait sur un podcast qu'il ne pouvait pas exclure que Claude soit conscient. Interrogé lors des tests, Claude s'est lui-même attribué une probabilité de 5 % à 40 % d'être un patient moral, en insistant sur son incertitude.

Les auteurs adossent ce cadrage à des voix reconnues. Le philosophe David Chalmers, qui a forgé l'expression « hard problem of consciousness », estime qu'il y a une chance significative de voir apparaître des LLM conscients dans la décennie. Un rapport interdisciplinaire majeur, associant notamment le scientifique Yoshua Bengio, a passé en revue les principales théories neuroscientifiques de la conscience et ce qu'elles impliqueraient pour l'IA. Sur certaines mesures de complexité structurelle et d'échelle de calcul, quelques systèmes seraient déjà dans l'ordre de grandeur du cerveau d'une souris et pourraient, au rythme récent, atteindre celui du cerveau humain dans cinq à dix ans.

La prudence honnête est là. La tribune ne prouve pas que Claude est conscient, elle plaide pour ne pas fermer la question. Ce que le texte ne donne pas, c'est un critère d'ingénierie qui permettrait de trancher, ni le détail des mesures de précaution qu'il faudrait imposer. Pour un dirigeant, l'intérêt tient moins à la métaphysique qu'au fait qu'un acteur commercial comme Anthropic assume publiquement l'incertitude : la catégorie « model welfare » est en train de glisser de la curiosité philosophique vers l'agenda des équipes produit, juridiques et régulatoires.