X : cette application qui déshabille les femmes par IA inquiète

Depuis peu, une application sur laquelle vous pouvez déshabiller des femmes envahit Twitter. Une publicité malveillante (parmi tant d'autres) qui pourrait bien conduire à du harcèlement sexuel sur les femmes concernées pas les images en question.

publicités trompeuses, dropshipping, produits dangereux, messages haineux, bienvenue sur X

Depuis quelque temps sur X (anciennement Twitter), les contenus malveillants pullulent. Le réseau social s'autorise être la vitrine de publicités trompeuses, de dropshipping ou encore de produits dangereux, en raison d'une absence de modération soutenue des contenus. De même, des comptes relayant des fausses informations, placardant des "contenus violents et à caractère terroriste" ou encore des utilisateurs appelant au "discours de haine" sont légion sur l'ancien oiseau bleu. 

Face à la politique d'Elon Musk, La Commission européenne (basée à Bruxelles) a annoncé lundi dernier l'ouverture d'une "enquête formelle" visant le réseau social pour "des manquements présumés aux règles européennes en matière de modération des contenus et de transparence". Après l'ouverture d'une première procédure en octobre dernier, la commission, pas convaincue des réponses apportées par X, hausse le ton. La législation européenne prévoit désormais des amendes pouvant atteindre 6 % du chiffre d'affaires mondial du groupe. L'objectif est de contraindre l'entreprise à se plier aux règles européennes en matière de services numériques.

déshabiller des femmes, sans leur consentement

En attendant d'éventuelles sanctions, ou un effort de transparence du groupe, X est jonché de contenus et de publicités peu recommandables. L'une d'entre elle propose aux utilisateurs des applications pour déshabiller des femmes. Repéré par le site 404 Media, l'application en question permet, via une IA, de dévêtir des femmes, en affichant une légende : "Undress any girl using AI", littéralement "déshabillez toutes les filles en utilisant l'intelligence artificielle".

Comme le souligne 404 Media, ce type de publicités peut être utilisé à des fins de harcèlement sexuel et moral envers les femmes, ces dernières, étonnées de voir que leur photo est utilisée à ses fins, et prises évidemment sans leur consentement. Certaines, publiées par des comptes abonnés payants, montrent également que de l'argent est généré par ce moyen.

La fuite massive des annonceurs depuis ces dernières semaines laisse donc la place à ces types de contenus malveillants, que TikTok ou Instagram ont banni de leur application via la supression de mots-clés du type "déshabillage". Cette perte énorme à coûté pas moins de 75 millions de dollars rien que sur le mois de novembre 2023 à Elon Musk et son entreprise.