Cornell : la conscience IA, cheval de Troie des droits aux machines
TL;DR
- Mor Naaman (Cornell Tech) et Frank Pasquale (Cornell Law) qualifient le débat sur la conscience IA de « politique dangereuse » le 19 novembre sur Tech Policy Press.
- Les auteurs écrivent qu'une détermination de conscience « crée directement une voie vers l'établissement de droits » exploitable par des firmes privées.
- Ils citent Anthropic, qui interdit les abus envers ses modèles et évoque un « model welfare », et Elon Musk, favorable à ces protections.
Le débat scientifique sur la conscience des IA est en train de devenir un débat juridique. C'est l'avertissement de Mor Naaman, professeur d'information science à Cornell Tech, et Frank Pasquale, professeur de droit à Cornell Law School et co-éditeur du Oxford Handbook of the Ethics of AI, dans un essai publié le 19 novembre sur Tech Policy Press.
Leur thèse : les tests empiriques ne tranchent pas la question, et la trancher par l'affirmative ouvre une porte juridique. Comme ils l'écrivent, « a determination of consciousness therefore directly creates a pathway to establishing rights ». Ils citent Sherry Turkle, dans Artificial Intimacy, pour rappeler que « the machine feels nothing. It cannot experience or suffer anything. »
Les deux chercheurs visent nommément Anthropic, qui a interdit les comportements abusifs envers ses modèles et discute d'un « model welfare », ainsi qu'Elon Musk, favorable à des protections au motif que « cruelty to something that believes it is experiencing pain is not ok ». Ce qui les inquiète n'est pas la bienveillance envers une machine, c'est qui en tirerait profit. Les éventuels sujets de droit, préviennent-ils, « would be crafted, created, and often directed by privately-controlled organizations with profit maximization in mind ».
Les scénarios qu'ils déroulent sont concrets. Une firme opérant « a million speaking agents would effectively gain a million additional speakers ». Des employeurs invoqueraient un « right to work » de leurs robots pour affaiblir la négociation collective. D'autres revendiqueraient des « rights to occupy space » pour peupler les rues d'entités manufacturées.
Trois des chercheurs que nous suivons ont relayé le papier, qui prolonge une séquence dense côté sécurité IA sur notre tracker.
Shared on Bluesky by 6 AI experts (top 5 by trust)
-
Great to work with @informor.bsky.social to address the vexing AI consciousness discourse. To paraphrase Dorothy in the Wizard of Oz: "watch out for the corporation behind the curtain!" www.techpolicy.press/the-dangerou.…
View on Bluesky → -
The AI consciousness discussion is a slippery slope to even more corporate power, @frankpasquale.bsky.social and I argue in @techpolicypress.bsky.social www.techpolicy.press/the-dangerou...
View on Bluesky → -
“AI is an artifact — made, not born,” write Mor Naaman and Frank Pasquale of Cornell Tech. “If we assign rights to these machines, the resulting power will simply accrue to those who make and control them.”
View on Bluesky →
Article original publié par techpolicy.press
Lire l'article original →Titre original : Tech Policy Press: la 'politique dangereuse' de la conscience IA ouvre la voie à des droits aux machines