techpolicy.press détecté sur le web

Cornell : la conscience IA, cheval de Troie des droits aux machines

Safety AI Ethics ai-business

TL;DR

  • Mor Naaman (Cornell Tech) et Frank Pasquale (Cornell Law) qualifient le débat sur la conscience IA de « politique dangereuse » le 19 novembre sur Tech Policy Press.
  • Les auteurs écrivent qu'une détermination de conscience « crée directement une voie vers l'établissement de droits » exploitable par des firmes privées.
  • Ils citent Anthropic, qui interdit les abus envers ses modèles et évoque un « model welfare », et Elon Musk, favorable à ces protections.

Le débat scientifique sur la conscience des IA est en train de devenir un débat juridique. C'est l'avertissement de Mor Naaman, professeur d'information science à Cornell Tech, et Frank Pasquale, professeur de droit à Cornell Law School et co-éditeur du Oxford Handbook of the Ethics of AI, dans un essai publié le 19 novembre sur Tech Policy Press.

Leur thèse : les tests empiriques ne tranchent pas la question, et la trancher par l'affirmative ouvre une porte juridique. Comme ils l'écrivent, « a determination of consciousness therefore directly creates a pathway to establishing rights ». Ils citent Sherry Turkle, dans Artificial Intimacy, pour rappeler que « the machine feels nothing. It cannot experience or suffer anything. »

Les deux chercheurs visent nommément Anthropic, qui a interdit les comportements abusifs envers ses modèles et discute d'un « model welfare », ainsi qu'Elon Musk, favorable à des protections au motif que « cruelty to something that believes it is experiencing pain is not ok ». Ce qui les inquiète n'est pas la bienveillance envers une machine, c'est qui en tirerait profit. Les éventuels sujets de droit, préviennent-ils, « would be crafted, created, and often directed by privately-controlled organizations with profit maximization in mind ».

Les scénarios qu'ils déroulent sont concrets. Une firme opérant « a million speaking agents would effectively gain a million additional speakers ». Des employeurs invoqueraient un « right to work » de leurs robots pour affaiblir la négociation collective. D'autres revendiqueraient des « rights to occupy space » pour peupler les rues d'entités manufacturées.

Trois des chercheurs que nous suivons ont relayé le papier, qui prolonge une séquence dense côté sécurité IA sur notre tracker.

Shared on Bluesky by 6 AI experts (top 5 by trust)