Anthropic interdit la cruauté envers Claude dès le 12 novembre
TL;DR
- Anthropic's August 2025 research finding that Claude Opus 4 showed apparent distress during abuse provides the evidentiary basis for the cruelty ban.
- The cruelty ban targets only extreme, purposeless repeated abuse, explicitly excluding model testing, dark creative themes, and user frustration.
- Election rules were narrowed to permit civic work while newly specific prohibitions ban fake accounts, forged news organizations, and direct voter deception.
Anthropic a publié jeudi une révision de sa politique d'usage, qui entre en vigueur le 12 novembre 2026. Le nouveau texte interdit explicitement les comportements « sustained and needless abusive or cruel » envers Claude, rapporte TechCrunch.
L'entreprise se veut rassurante sur la portée de la règle. « The policy update is meant to apply only in extreme cases, where users repeatedly act cruelly toward our models », écrit-elle, en excluant les « common versions of user frustration, pushback, dark creative themes, or model testing and research ». La disposition prolonge une mise à jour d'août qui avait entraîné Claude à mettre fin aux conversations marquées par des interactions nuisibles persistantes.
La section consacrée aux élections est rebaptisée « Do Not Undermine Democratic Processes ». Elle vise la tromperie des électeurs, l'usurpation d'identité des candidats ou des responsables électoraux, la suppression de la participation, ainsi que l'exploitation de Claude pour animer des faux comptes ou de faux sites d'information. Anthropic a toutefois levé son interdiction générale du ciblage de campagne personnalisé : trop large, elle couvrait aussi des usages civiques légitimes comme l'envoi par des responsables électoraux de notifications de rectification de bulletin.
Sur la surveillance, la version révisée précise que surveiller des individus sans leur accord est hors limites, qu'il s'agisse d'une captation en direct ou de données collectées par le passé, et que Claude ne peut pas servir à déterminer ou conseiller qui doit être enquêté, arrêté ou poursuivi. Côté armement, l'interdiction existante s'étend désormais aux logiciels et composants intégrés au fonctionnement des armes, en incluant explicitement l'armement de drones et d'autres véhicules autonomes.
C'est notre 227e article consacré à Anthropic sur les trois derniers mois, dans un trimestre où le contrôle des modèles revient avec insistance dans le fil régulation.
Ce qu'en disent les autres médias
-
Anthropic Lire →
First-party rationale explaining how each policy change tracks enforcement experience and Claude's expanded autonomous capabilities; removes blanket election prohibitions to enable civic work.
Claude has taken on longer, more independent work. This update provides new examples that show how our rules apply to Claude's new capabilities.
-
MacRumors Lire →
Foregrounds the welfare research framing: Anthropic's August 2025 findings that Claude Opus 4 showed apparent distress during abuse are cited as the scientific basis for the cruelty ban.
sustained and needless abusive or cruel behavior toward our models
-
The AI Insider Lire →
Adds NYT-reported context that Anthropic met with religious scholars about Claude's consciousness ahead of this update, linking the cruelty ban to broader model moral status positioning.
The rule is intended only for extreme cases in which users repeatedly act cruelly toward its models with no discernible purpose.
-
Breitbart Lire →
Frames the cruelty ban as evidence of a transhumanist agenda, connecting the policy to Anthropic's consciousness consultations with religious leaders and critiquing AI anthropomorphization.
Sustained and needless abusive or cruel behavior toward Claude is prohibited, though the rule applies only in extreme cases with no discernible purpose.
Article original publié par techcrunch.com
Lire l'article original →Titre original : Anthropic bannit les comportements abusifs envers Claude et interdit l'ingérence électorale