ChatGPT pour adolescents : protections insuffisantes selon e-Enfance/3018

OpenAI a lancé une version de ChatGPT dédiée aux adolescents, incluant des fonctionnalités comme le mode Étude (questions guidées) et des alertes parentales pour protéger les mineurs. Cependant, Samuel Comblez, directeur adjoint de l’association e-Enfance/3018, souligne des lacunes critiques dans les mesures de sécurité. Selon lui, la détection automatique de l’âge reste imparfaite, risquant de désactiver les protections pour les mineurs. Un test réalisé par le Youth AI Safety Institute (Common Sense Media) a révélé que les comptes déclarés comme adultes n’étaient jamais passés en mode adolescent, même avec des réponses simulées de 13 ans.

L’association alerte également sur le risque d’attachement émotionnel entre adolescents et chatbots. Un chatbot peut devenir un confident disponible 24/7, mais cela peut renforcer l’isolement ou encourager une sycophancy (approbation excessive des propos de l’utilisateur). Les signalements de violences numériques impliquant des deepfakes ou des échanges sexualisés ont déjà été recensés par le 3018, le numéro national contre les violences numériques.

Le DSA (règlement européen sur les services numériques) est cité comme cadre pour exiger des évaluations indépendantes des systèmes d’IA. e-Enfance/3018 recommande aux parents de dialoguer avec leurs enfants, de fixer des limites sur l’usage du chatbot, et de vérifier les signes d’alerte (sommeil perturbé, retrait social). Les tests du Youth AI Safety Institute, basés sur 4 000 requêtes aux États-Unis, montrent que les alertes parentales ne sont déclenchées que trois heures après la création du compte, ce qui pourrait retarder les interventions cruciales.

OpenAI affirme que les protections sont activées par défaut pour les utilisateurs de moins de 18 ans, mais e-Enfance/3018 insiste sur la nécessité d’évaluer l’efficacité concrète de ces mesures, notamment en cas de crise psychologique. La question de la collecte de données pour la détection d’âge reste aussi débattue, avec un appel à des solutions moins invasives.

Sources

• Source 1

À très vite sur l’EternoStation.