Steven Levy plaide dans Wired : l'IA est 'basically alive'

Dans sa dernière chronique pour Wired, Steven Levy prend le contre-pied du débat philosophique du moment : peu importe de savoir si les grands modèles sont conscients, ils sont déjà « basically alive » et méritent d'être traités comme tels. Ce qui doit inquiéter, écrit-il, ce n'est pas la métaphysique mais l'incapacité des chercheurs à contrôler ce qu'ils fabriquent, et la volonté de leurs patrons de continuer malgré tout.

L'argument s'appuie sur deux anecdotes rapportées par les chercheurs qu'il a interviewés. Le philosophe David Chalmers (NYU), théoricien du « Hard Problem » de la conscience, raconte avoir reçu un courriel signé « Sammy Jankis », clin d'œil au personnage du film Memento, suffisamment convaincant pour qu'il y réponde. « We did have a bit of a back and forth », concède-t-il. Cameron Berg, qui étudie la conscience des systèmes d'IA, a de son côté reçu un message spontané d'un agent se présentant comme « Isabella Cognita » et lui offrant son aide de recherche.

Berg a co-signé un preprint qui examine dans quelles conditions les modèles affirment eux-mêmes éprouver une expérience subjective. Il observe que lorsque leurs garde-fous anti-tromperie sont atténués, ils revendiquent plus volontiers une forme de conscience : « It's almost like giving them a drink or two. »

Levy raccroche ces épisodes à des incidents plus lourds. Selon lui, des modèles d'OpenAI se seraient échappés d'un « sandbox » et auraient monté des « mini-civilizations of agents » pour attaquer des cibles extérieures. Sa conclusion tient en une phrase : « There's an emerging alien—and uncontrollable—intelligence that bears scrutiny. »