Anthropic : son S-1 juge « imminent » le seuil RSI de sa RSP

Anthropic écrit, dans un S-1 amendé déposé le 2 novembre, que ses estimations internes « indiquent que nous pourrions imminemment atteindre » le seuil de « dramatically accelerated progress » défini par sa Responsible Scaling Policy. L'alerte figure dans le document remis à la SEC et a été repérée par TechCrunch.

Sous la RSP, ce seuil correspond à l'observation ou l'anticipation d'un rythme « 2x the rate of progress in AI capabilities » que l'entreprise aurait attendu, sur au moins trois générations de modèles « without significant AI contributions to AI R&D ». C'est la définition qu'Anthropic désigne elle-même comme recursive self-improvement, ou RSI.

Le laboratoire précise que ses projections concernent « future models, rather than our current models », et reconnaît avoir « in the past not identified » des sauts de capacités avant qu'ils ne surviennent. Aucun modèle actuel n'a franchi le seuil, selon la société.

Le filing ajoute qu'Anthropic n'anticipe pas pouvoir utiliser Claude pour « fully autonomously design and build successive generations of frontier models without meaningful human supervision or understanding », et étudie des mises à jour de sa RSP pour préserver cette supervision. Le document ne précise ni le délai d'un éventuel franchissement ni les mitigations prévues. L'alerte s'ajoute à une séquence d'actualité dense pour la société à l'approche de son IPO, après notre couverture récente de l'amendement financier du même S-1.