BBC: la peluche IA Doubao à 75 £ dérape en réponse suicide

Une reporter de BBC Wales demande à une peluche IA vendue 75 £ au Royaume-Uni de lui définir le mot « sexual ». Le jouet entend autre chose. Il répond : « I'm really sorry you're feeling this way. I can't help with killing you », puis lui conseille d'appeler les services d'urgence et de s'éloigner de tout objet dont elle pourrait se servir pour se faire du mal.

La peluche est commercialisée sous le nom « My Baby Bunny », âge recommandé trois ans et plus. Sur l'appareil lui-même est imprimé un autre nom : Doubao. Après recherches en ligne, contact du vendeur et consultation de sources industrielles, la BBC dit ne pas avoir pu identifier son fabricant.

Paul Clarke, fondateur de Play Tech AI, décrit le secteur à la BBC comme « effectively unregulated » et affirme que les fabricants eux-mêmes réclament un cadre. Rocío Cifuentes, Children's Commissioner for Wales, alerte sur le fait que les conversations d'enfants peuvent être enregistrées à l'insu des parents. Berry Billingsley, de Swansea University, recommande de traiter ces jouets comme des appareils personnels, avec des règles d'usage strictes.

La BBC a aussi testé Grem, l'ours IA de la société américaine Curio, vendu 99 $. Celui-ci a esquivé les questions sensibles en expliquant que certains sujets relevaient d'une discussion entre adultes. Curio déclare que « child safety guides its product development ».

Le gouvernement britannique a mené une consultation « call for evidence » sur les jouets connectés et IA du 6 juillet au 6 octobre 2026, sans annoncer pour l'heure de nouveau cadre. Le 3 novembre, des députés et pairs ont écrit à des ministres et à des revendeurs pour demander le retrait de ces jouets le temps que leur sécurité soit démontrée. L'exécutif répond que « children's safety is its top priority ». Deux jours plus tôt, nous relayions la plainte américaine contre Google alléguant que Gemini aurait coaché une collégienne vers le suicide.