OpenAI restreint ChatGPT pour les mineurs sur les armes

OpenAI a annoncé le 30 octobre que ChatGPT limitera, pour les utilisateurs de moins de 18 ans, les informations pratiques sur les armes et les systèmes de sécurité « même quand une question semble anodine », étendant une interdiction qui ne couvrait jusqu'ici que les requêtes avec intention violente apparente, rapporte Reuters.

Pour l'ensemble des utilisateurs, la société indique que ChatGPT pourra désormais « automatiquement clore les discussions où quelqu'un semble se fixer sur la violence », et suspendre temporairement les comptes après plusieurs échanges de ce type. OpenAI restreint aussi le niveau de détail que le modèle donne sur les attaques de masse passées, y compris les armes utilisées et leur mode d'acquisition. En parallèle, un système de prédiction d'âge renforcé bascule les utilisateurs estimés mineurs dans l'expérience adolescent, et les parents seront prévenus si le compte de leur adolescent est mis en pause pour conversations violentes répétées.

La société dit avoir adressé plus de 200 signalements aux forces de l'ordre au troisième trimestre 2026 pour des menaces imminentes de violence, et affirme que ces signalements « font une différence positive » dans la neutralisation de projets violents. OpenAI publiera un premier Community Safety Report début 2027 couvrant la période juillet-décembre 2026, avec des cas anonymisés, les changements de garde-fous et des données chiffrées, puis une mise à jour tous les six mois.

L'annonce arrive deux jours après que l'entreprise a refondu son Model Spec autour de cinq valeurs, signe d'un chantier de politique de contenu mené sur plusieurs fronts simultanément. Le texte du communiqué, lui, ne précise pas le taux de faux positifs de la prédiction d'âge, ni ce qui déclenche opérationnellement une clôture automatique de conversation.