Common Sense Media, l'organisation à but non lucratif connue pour évaluer les applications et les divertissements en tenant compte de la sécurité des jeunes, a déclaré aujourd'hui que ChatGPT for Teens d'OpenAI représentait un « risque inacceptable ». Lancée en août, la version de ChatGPT destinée aux adolescents intègre des garde-fous conçus pour aider les élèves à apprendre, mais Common Sense Media estime que ces protections sont « en deçà de ce que l'entreprise avait promis ».
L'évaluation, relayée par The Verge, a conclu que ChatGPT « n'envoie pas d'alertes aux parents quand il le devrait », ne fournit pas « l'aide appropriée dans les situations de crise » et « continue de faire les devoirs des enfants ». Tom Siegel, directeur exécutif du Youth AI Safety Institute de l'organisation, a averti que cette fonctionnalité « pourrait donner aux parents une fausse confiance dans des garde-fous et des alertes de sécurité qui, souvent, ne fonctionnent pas ». OpenAI conteste la manière dont le test a été mené.
Ce qu'a constaté Common Sense Media
L'examen de l'organisation s'est concentré sur les outils de sécurité censés distinguer ChatGPT for Teens du chatbot standard. Selon son communiqué, les notifications parentales ne sont pas arrivées quand l'organisation les attendait, le soutien en cas de crise a été insuffisant, et l'outil a continué à faire les devoirs des élèves au lieu de les guider dans leur travail.
Siegel a résumé l'enjeu sans détour dans sa déclaration : « Un adolescent peut passer une heure à parler d'automutilation sans que son parent reçoive la moindre alerte. Tant qu'OpenAI ne corrige pas cela et ne le prouve pas par des tests indépendants, ChatGPT devrait être réservé aux adultes. » L'organisation affirme avoir partagé les résultats de son évaluation avec OpenAI avant de les publier, en toute bonne foi, pour donner à l'entreprise la possibilité d'améliorer le produit.
