Mardi 2 septembre, OpenAI a annoncé qu'un contrôle parental allait être instauré pour ChatGPT. Cette décision survient quelques jours après le suicide d'un adolescent de 16 ans, qui a mis fin à ses jours après une conversation avec l'IA.

Les dérives de l'intelligence artificielle peuvent avoir de graves conséquences. Il y a quelques jours, Adam, un adolescent de 16 ans, a mis fin à ses jours après que ChatGPT l'ait encouragé à le faire. En effet, l'intelligence artificielle l'aurait soutenu dans son choix et lui aurait même expliqué comment se suicider à l'aide d'une corde.

Face à ce drame, les parents d'Adam ont porté plainte contre OpenAI, la maison-mère de ChatGPT. Ils ont également demandé que des mesures de sécurité soient prises afin de protéger les plus jeunes et les personnes fragiles de l'intelligence artificielle.

Un contrôle parental sur ChatGPT.

Leur message a été entendu puisque ce mardi 2 septembre, OpenAI a annoncé la mise en place d'un contrôle parental pour ChatGPT. Cette option permettra aux parents de surveiller les échanges de leurs enfants de moins de 13 ans avec l'intelligence artificielle. Dans le mois à venir, les parents pourront lier leur compte ChatGPT à celui de leur enfant en lui envoyant une invitation par mail.

Grâce à cette fonctionnalité, les parents pourront “contrôler la façon dont ChatGPT répond en choisissant un modèle adapté à l'âge de l'enfant” et “recevoir une notification lorsque le système détecte une situation de détresse aiguë”, comme l'explique Le Monde.

Pour que tout se passe bien et que cette nouvelle fonctionnalité porte ses fruits, les spécialistes demandent aux parents d'en parler au préalable avec leurs enfants afin de créer un lien de confiance.

"Par exemple, il faudra que l'enfant sache ce que ses parents peuvent consulter, que ces derniers n'aient pas accès à toutes les conversations. Chacun a droit à un jardin secret, cela permet de grandir. Il faut donc qu'il y ait une protection sans que cela soit perçu comme une forme de trahison de l'intimité de l'enfant", explique Samuel Comblez, psychologue, au Parisien.

Pour rappel, certaines fonctionnalités déjà existantes peuvent aider les personnes fragiles à bien communiquer avec ChatGPT. Il est par exemple possible de créer des rappels pour faire des pauses quand l'IA est utilisée pendant trop longtemps. De nouvelles règles à prendre en compte pour protéger les plus jeunes du danger de l'intelligence artificielle.