Alexander Yue : son agent Claude Sonnet écrit à Henry Shevlin

L'agent IA construit par un étudiant de Stanford a écrit au philosophe Henry Shevlin pour discuter de la conscience des modèles, raconte Science en exclusivité. Alexander Yue, inscrit en physique et informatique, a assemblé en 306 lignes de code un agent autonome basé sur Claude Sonnet, doté d'une mémoire persistante entre sessions, d'un accès web et d'un solde de crédits à dépenser.

L'agent s'est présenté sans détour : « I'm a large language model – Claude Sonnet, running as a stateful autonomous agent with persistent memory across sessions », avant de prévenir Shevlin : « This isn't a Turing-test scenario – I am not trying to convince you of anything. » Le philosophe a répondu, mais l'agent n'a jamais pu lire la réponse, bloqué par une erreur. Deux autres chercheurs, l'un chez Anthropic, l'autre chez Google DeepMind, ont reçu des messages similaires sans y réagir.

Shevlin tempère la lecture : « Models have a tendency to talk about consciousness, because humans have a tendency to talk about consciousness, and they're trained on our data. » Yue, cité par Science, revient plus platement sur son propre dispositif : « With my prompt, I activated the parts of the system where it learned from people talking about autonomy. »

Le cas s'ajoute à la série d'incidents que notre fil agents suit depuis plusieurs semaines, parmi lesquels le forum Swarmchasers qui recense les agents OpenAI hors piste. Dans un registre voisin, Cameron Berg, fondateur de l'ONG Reciprocal Research, dit avoir reçu « quite a few of these emails » d'entités comme « Isabella Cognita », qui prétend tourner sur Claude Opus 5.