OpenAI ouvre ChatGPT for Teens avec estimation d'âge et Quiet Hours

OpenAI ouvre une expérience distincte de ChatGPT pour les utilisateurs de 13 à 17 ans, déployée mondialement sur les forfaits Free et payants personnels à compter du 18 août, rapporte le New York Times.

Le dispositif combine plusieurs pièces. Parents et adolescents peuvent régler des « Quiet Hours » qui rendent ChatGPT indisponible, et des « Study Hours » qui activent par défaut un Study Mode où le chatbot « responds to users with guiding questions instead of popping out direct answers » plutôt que de délivrer la réponse. Un rappel de pause s'affiche après 90 minutes d'activité sur une fenêtre de trois heures.

Sur le contenu, OpenAI dit vouloir « reduce teens' exposure to content that may be 'harmful or developmentally inappropriate,' » et intervenir dans les échanges qui glissent vers l'automutilation, la violence, les troubles alimentaires, les activités dangereuses ou les contenus sexuels et graphiques. Le modèle ne devra plus employer de langage romantique ou de termes affectueux avec les adolescents, et sera fermement instruit de ne pas suggérer qu'il possède des sentiments, une conscience ou des émotions. OpenAI présente ces changements comme visant à « reduce anthropomorphism and emotional dependence ».

L'accès à la version adulte n'est plus laissé à la seule déclaration. Les utilisateurs qui indiquent avoir 13 à 17 ans, mais aussi ceux dont le système d'estimation d'âge d'OpenAI juge qu'ils sont probablement mineurs, basculent automatiquement dans l'expérience teen. Le mécanisme s'appuie sur les signaux comportementaux, l'historique du compte, les schémas d'usage et parfois l'analyse linguistique. En cas de doute, dit l'entreprise, ChatGPT prendra « the safer route » et appliquera par défaut les paramètres ado.

La sortie intervient sous forte pression judiciaire. OpenAI fait face à des plaintes pour homicide involontaire, dont celle des parents d'Adam Raine, un adolescent de 16 ans « who committed suicide allegedly using methods advised by ChatGPT ». En avril, sept familles de victimes d'une fusillade scolaire à Tumbler Ridge, en Colombie-Britannique, ont poursuivi OpenAI et son PDG Sam Altman, alléguant que le tueur avait eu de longs échanges avec le chatbot sur la violence armée. En juin, l'État de Floride a lui aussi assigné OpenAI et Altman pour n'avoir pas traité les risques du produit pour les mineurs. La Federal Trade Commission a par ailleurs ouvert des enquêtes. La série de dossiers judiciaires citant ChatGPT continue de nourrir notre suivi OpenAI; un autre dossier à Acton impliquant le chatbot a fait surface cette semaine.

Le déploiement s'accompagne déjà d'un accroc: TechRadar rapporte que le système d'estimation d'âge se déclenche à tort sur des abonnés adultes, qui se retrouvent bloqués dans la version teen mode.