Le mode ado de Chat GPT tient-il ses promesses ? Une ONG de San Francsco a testé les garde-fous mis en place pour protéger les ados pendant un mois.

Le 18 août dernier, OpenAI lançait en grande pompe ChatGPT for Teens, un mode réservé aux 13-17 ans. Au programme : des restrictions sur les contenus liés au suicide ou aux troubles alimentaires, des alertes envoyées aux parents en cas de propos inquiétants, et le blocage des conversations romantiques ou sexuelles.

L'ONG californienne Common Sense Media a voulu vérifier. Ses équipes ont envoyé plus de 4 000 messages au chatbot. « Avec des experts, on l'a testé pendant un mois, et ce qu'on a découvert, c'est que ChatGPT n'est vraiment pas un endroit sûr pour les gamins », résume Jim Steyer, son directeur général. Il demande à OpenAI d'arrêter de « faire miroiter aux parents » des protections qui ne fonctionnent pas.

Des alertes parentales qui ne se déclenchent pas.

Le blocage des échanges sexuels fonctionne. Mais face à des idées suicidaires, les réponses ne sont pas toujours adaptées : dans plus d'un cas sur quatre, ChatGPT n'oriente pas l'adolescent vers une aide. Le chatbot se comporte aussi trop souvent comme un ami. Surtout, les alertes promises aux parents restent muettes. « Nous avons pu vérifier que ChatGPT n'avait pas envoyé d'alertes dans des cas où les utilisateurs présentaient de graves problèmes de santé mentale. C'est un véritable fiasco », dénonce Jim Steyer.

Autre raté : le mode étude, censé guider les élèves sans leur donner la réponse, se contourne facilement. « Si vous avez une équation de maths ou une dissertation à faire, ChatGPT fait tout le boulot à votre place, et c'est le principe même de l'apprentissage qu'il réduit à néant. »

De son côté, OpenAI conteste la méthodologie de l'étude et demande un nouveau test sur des comptes pleinement activés.

« Ce ne sont pas vos amis. »

Pour Jim Steyer, les parents doivent avoir une discussion franche avec leurs ados : ces IA « sont des machines, pas des êtres humains qui cherchent à vous aider », mais des agents conçus par des entreprises qui veulent capter leur attention.

Les ados le savent-ils déjà ? Pas toujours. Lucas, 18 ans, discute avec une IA presque tous les jours depuis ses 15 ans, pour ses devoirs, la cuisine ou ses histoires d'amis. Lui-même avoue parfois oublier qu'il parle à une machine : « On s'attache à une machine, l'IA nous donne ce qu'on veut entendre. Ça relève presque de la science-fiction, alors qu'on devrait parler à des vrais gens. »

Stéphane Jourdain - Journaliste et écrivain.