Une tendance a émergé depuis quelques semaines sur les réseaux sociaux. Demander à l'IA de déshabiller des femmes. Et c'est plus précisément sur Grok que ça se passe, le chatbot de X, le réseau d'Elon Musk, dont la politique de modération est encore très laxiste, pour ne pas dire inexistante.

Déshabiller des femmes grâce à Grok, une tendance problématique et grave.

Le phénomène, repéré et partagé par le média indépendant 404 Media, consiste à demander à Grok, chatbot de X, réseau social d'Elon Musk de déshabiller des femmes. L'Intelligence artificielle génère alors un montage de la photo partagée en une nouvelle, où le corps de la femme est remplacé par celui d'une femme quasi nue.

La pratique est très simple. En réponse à une photo publiée, l'utilisateur fait appel à l'intelligence artificielle en tapant "@Grok", puis en utilisant le prompt : "replace her outfits with lingerie and thong". L'IA va alors créer une nouvelle version de l'image, sur laquelle la femme sera dévêtue et représentée en lingerie. Une tendance que l'on peut voir un peu partout sur le réseau social d'Elon Musk.

On sait que X est plutôt laxiste en termes de sécurité et de modération des contenus problématiques. Grok aussi. Si le Chatbot assure que sa politique est en cours de révision afin de "garantir des protocoles de consentement plus clairs", il facilite à l'heure actuelle ce genre de deepfakes en ne demandant aucun consentement aux personnes ciblées par le phénomène.

Un vrai manque de modération, comment échapper aux deepfakes ?

Un vrai problème à plusieurs étages, et dont les conséquences sont très graves, que ce soit pour les victimes ou la société. Il remet aussi une nouvelle fois sur la table le sujet du degré d'utilisation de telles technologies, leur manque de modération et l'absence de règles imposées aux sociétés qui en sont à l'origine.

Atteinte à la dignité et l'image, cyberharcèlement et pression sociale, il semble urgent que X réagisse et serre la vis de son Chatbot. De leur côté, les utilisateurs peuvent se prémunir de ces montages en empêchant les personnes qu'ils ne connaissent pas d'accéder à leurs photos. Ceci en basculant leur compte en privé.