Mercor licencie des annotateurs OpenAI utilisant de l'IA
TL;DR
- Mercor retire les annotateurs de Project Lily qui utilisent Grammarly, des traducteurs IA ou d'autres modèles pour évaluer les réponses de ChatGPT.
- Les réviseurs s'appuient sur les tirets cadratins, un vocabulaire répétitif et une vitesse d'exécution anormale, plutôt qu'un seul signal, selon 404 Media.
- Un projet peut compter plus de dix mille contractors, et « des tonnes » auraient été détectés parmi les « milliers et milliers » d'annotateurs employés.
Les annotateurs recrutés par Mercor pour évaluer les réponses de ChatGPT sont retirés du programme lorsqu'ils s'appuient eux-mêmes sur des outils d'IA, rapporte 404 Media. Beaucoup travaillent sur « Project Lily », où des experts lisent de vraies conversations d'utilisateurs et notent les réponses.
Les documents internes obtenus par le site sont explicites : « Do not use AI detection tools, or AI yourself », y compris Grammarly et les traducteurs automatiques. Les réviseurs s'appuient sur les tirets cadratins, un vocabulaire répétitif et une vitesse d'exécution anormale, plutôt qu'un signal isolé. Une source affirme au site que « tons have been caught » parmi les « thousands and thousands » de contractors, un projet pouvant en compter « more than ten thousand ».
Un annotateur licencié raconte : « I just needed a little boost and turned to AI to help me which eventually led to my downfall. »
Mercor, qui gère ces missions, répond à 404 Media : « When we confirm an expert has used AI to complete a task, we immediately remove them », en disant investir dans ses systèmes de détection. Un autre annotateur décrit à l'inverse avoir sélectionné volontairement les pires réponses, se sentant « getting paid to make AI worse ». OpenAI a refusé de commenter. Le sujet s'ajoute à notre suivi continu des controverses OpenAI.
Shared on Bluesky by 5 AI experts
-
New: OpenAI has thousands of contractors improving its AI, including reading ChatGPT users' prompts We've found many of those contractors have been fired for themselves using AI to train the AI. People using AI "all the…
View on Bluesky → -
the real proof that companies use AI to break labor power, not because it can actually replace human work: OpenAI hires entire humans to prevent other humans from using AI to train the AI, and those humans can get fired …
View on Bluesky →
Article original publié par 404media.co
Lire l'article original →Titre original : 404 Media : des annotateurs entraînant ChatGPT licenciés pour avoir eux-mêmes utilisé de l'IA