Meta prévient les parents si un ado parle suicide à Meta AI

Meta commence à envoyer des alertes aux parents lorsqu'un adolescent aborde le suicide ou l'automutilation avec son chatbot Meta AI. La fonctionnalité est déployée dès aujourd'hui pour les familles utilisant Instagram Parental Supervision aux États-Unis, au Royaume-Uni, en Australie et au Canada, avec une extension mondiale promise d'ici la fin de l'année selon TechCrunch.

Le dispositif repose sur un système d'IA dédié qui repère les échanges à risque, puis fait passer chaque conversation détectée par une revue humaine avant que l'alerte ne parte au parent. Meta assume publiquement le biais de précaution: « Si l'intention d'un adolescent est ambiguë, nous préférons pécher par excès de prudence et alerter le parent », écrit le groupe, en reconnaissant que « cela signifie que nous préviendrons parfois des parents alors qu'il n'y a pas de véritable motif d'inquiétude ». En parallèle, Meta prépare une remontée directe aux services d'urgence lorsqu'une conversation, avec un adulte comme avec un mineur, suggère un risque suicidaire, et étend son réglage Limited Content à Meta AI, qui refuse déjà les échanges à caractère sexuel, romantique ou lié à l'alcool avec les adolescents.

Ce que ça change, côté concurrentiel: Meta prend une longueur d'avance sur les autres éditeurs de chatbots généralistes, dont aucun n'a pour l'instant câblé publiquement un canal parental de ce type. Le groupe met aussi en avant la consultation de plus de 75 cliniciens spécialisés en santé mentale adolescente, qui ont revu des centaines de réponses de l'IA. C'est autant un dispositif de sécurité qu'une carte à jouer face aux régulateurs américains, britanniques et australiens qui pressent depuis des mois les plateformes sur la protection des mineurs.

Le caveat honnête est celui que Meta reconnaît elle-même: les faux positifs sont attendus, et un adolescent qui apprend qu'une conversation ambiguë a été escaladée à ses parents peut simplement basculer sur un chatbot moins supervisé. Le reportage ne détaille pas non plus ce qui atterrit réellement chez le parent, transcription intégrale ou simple notification, ni comment Meta compte joindre concrètement des services d'urgence dont les circuits varient d'un pays à l'autre, ni les taux d'erreur de son détecteur.

Pour un responsable produit ou trust and safety qui construit un assistant en contact avec des mineurs, le vrai signal est ailleurs: le standard implicite vient de se déplacer vers du human-in-the-loop couplé à une supervision parentale opt-in. Ceux qui n'ont pas encore de réponse crédible à cette question devront en trouver une avant que les régulateurs ne l'écrivent à leur place.