Project Lily : des centaines de sous-traitants OpenAI relisent les chats ChatGPT pour l'entraînement
Résumé
404 Media révèle que OpenAI paie plus de 50 $/heure via des staffing firms pour relire des prompts ChatGPT réels et débriefer les réponses du chatbot, avec pour objectif de réduire l'anthropomorphisme et la sycophancy. L'entraînement modèle est activé par défaut sur les plans consommateurs. Un modèle Privacy Filter est censé retirer les identifiants personnels avant la revue humaine, mais OpenAI reconnaît qu'il peut manquer des identifiants rares et sous-rédiger quand le contexte est limité. Sur 900 M d'utilisateurs, la plupart ignorent cette relecture.
Shared on Bluesky by 14 AI experts (top 5 by trust)
-
Inside project Lily and the people reading your ChatGPT queries:
View on Bluesky → -
This article makes two important points: 1. People using ChatGPT expose sensitive data because they think it is private 2. OpenAI relies on hundreds of human contractors reviewing replies to improve their models www.4…
View on Bluesky → -
Anthropic confirmed it is doing much the same thing too, and is using human reviewers www.404media.co/inside-proje...
View on Bluesky →
Article original publié par 404media.co
Lire l'article original →Titre original : Project Lily : des centaines de sous-traitants OpenAI relisent les chats ChatGPT pour l'entraînement