Jacob Coxon, chercheur Anthropic, quitte l'IA, redoutant l'incontrôlable
TL;DR
- Jacob Coxon, 27 ans, chercheur chez Anthropic, annonce au Wall Street Journal qu'il quitte l'industrie de l'IA.
- Il déclare qu'«à la fin de l'an prochain, les choses pourraient déjà être hors de contrôle» dans le pire scénario.
- Ses collègues emploient désormais entre eux, rapporte le journal, les mots «crunchtime» et «endgame».
Jacob Coxon, 27 ans, chercheur chez Anthropic, quitte l'industrie de l'IA. Il l'a annoncé au Wall Street Journal via Amrith Ramkumar, ce 8 septembre.
Sa raison, dans ses mots : «by the end of next year things could be out of control already», dans le pire scénario. Il dit refuser de contribuer à des IA auto-améliorantes. Ses collègues emploient désormais entre eux, rapporte le journal, les mots «crunchtime» et «endgame».
Coxon avait quitté OpenAI plus tôt cette année pour rejoindre Anthropic, précisément pour sa réputation en matière de sûreté. Il juge le travail interne «earnest», mais conclut qu'«aucune entreprise ne peut construire des systèmes surpassant l'humain de manière responsable sans intervention gouvernementale ou ralentissement à l'échelle du secteur».
Anthropic n'a pas souhaité commenter. Le départ tombe dans une séquence chargée pour le laboratoire, entre son retrait de l'ITI Council et une action de groupe sur les promesses de Claude Max.
Shared on Bluesky by 2 AI experts
Article original publié par wsj.com
Lire l'article original →Titre original : Le chercheur Anthropic Jacob Coxon quitte l'IA, redoutant des systèmes auto-améliorants incontrôlables