Nouvelle attaque sexiste sur X. L‘IA du réseau social d’Elon Musk permet de générer des images à caractère pornographique et de les diffuser librement. Les pouvoirs publics commencent tout juste à s’interroger sur la législation des plateformes.
Nouvelle horreur sur X : des utilisateurs du réseau social d’Elon Musk ont détourné l’IA du réseau social, surnommée Grok, pour générer des deepfake de jeunes femmes victimes du drame de Crans-Montana en Suisse. Pendant les fêtes de fin d’année, des milliers d’internautes avaient utilisé la nouvelle fonctionnalité de l’IA permettant à quiconque de demander de déshabiller les femmes sans leur consentement. Et l’IA exécute !
Le fléau des deepfake s’étend
La streameuse Fafa a été victime d’un de ces un hyper trucages vidéo, photo ou sonore, rendu possible par l’IA Grok. Interrogée par FranceInfo, elle rapporte qu’une photo d’elle en tenue de Nouvel An publiée sur X a été détournée. « Je me suis retrouvée plus ou moins dévêtue sur plusieurs photos totalement sans mon consentement (…) trois ou quatre personnes s’étaient amusées à utiliser l’IA de X en vue de me dévêtir », raconte-t-elle. «Il y a un gros sentiment d’impuissance », se désole-t-elle. Pire : lorsqu’elle signale ces photos à la plateforme dans le but de les supprimer, rien ne se passe, et les photos restent visibles plusieurs jours. « Les femmes ont le droit d’exister sur internet, mais elles doivent prendre des risques pour cela », déplore Fafa.
L’hostilité à l’égard des femmes sur internet n’est pas nouvelle. Les vagues de deepfake pornographiques visent régulièrement les femmes célèbres. La chanteuse Taylor Swift en avait fait les frais en 2024. Ce deepfake était devenu l’un des posts les plus repartagés et aimés sur X (anciennement Twitter).
Plus de la moitié des images générées par Grok
Mais ce phénomène dépasse les célébrités, toutes les femmes sont concernées, même mortes. Grok a répondu à des demandes « mets la en bikini » formulées sous les posts relayant le decès de Charlotte et Cyane, victimes de l’incendie de Crans Montana. En 2024, l’existence d’une messagerie cryptée Telegram, sur laquelle des centaines de milliers de Sud-Coréens s’échangaient des deepfake pornographiques de femmes de leur entourage, épouse, sœur ou camarade de classe, était révélée.
Dans une étude publiée le 5 janvier, l’ONG européenne AI Forensics a analysé près de 20 000 images générées par Grok du 25 décembre au 1er janvier. Résultat : une image sur deux représente une personne dénudée. 81% des personnes concernées étaient des femmes. En outre, 2% incluaient des personnes mineures, adolescentes mais « également très jeune enfant. L’organisation Internet Watch Foundation a observé que les contenus pédopornographiques générés par l’IA ont augmenté de 400 % au cours du premier semestre 2025.
« Si l’image est artificielle, le préjudice est bien réel »
Seule réponse de xAI : « Nous avons identifié des failles dans les dispositifs de sécurité et nous les corrigeons de toute urgence », a fait savoir le réseau social le 2 janvier, comme le rapporte l’agence Bloomberg.
La loi française sanctionne la diffusion d’images à caractère sexuel sans le consentement via un service de communication en ligne par trois ans de prison et 75 000 euros d’amende (vie publique). Pourtant, une sécurisation de l’espace numérique tarde à s’officialiser.
Suite à la vague de deepfake généré par l’IA Grok, les réactions de femmes et d’hommes politiques ont toutefois été nombreuses. Sur X, Sarah El Haïry, la haute-commissaire à l’enfance, s’est dite « scandalisée par les requêtes adressées à Grok de dénuder des filles et femmes ». Elle conclut : « Si l’image est artificielle, le préjudice est bien réel ». La députée insoumise Sarah Legrain estime que « l’IA n’est juste qu’un outil de plus pour les agresseurs… donnant peut-être à certains l’illusion facile de ne pas en être. Ne la leur laissez pas. Affichez ces porcs. Continuez à faire ce que vous voulez de vos corps », écrit-elle sur son compte X.
Le vendredi 2 janvier, le parquet de Paris a été saisi par deux députés, Eric Bothorel (Ensemble pour la République) et Arthur Delaporte (porte-parole du Parti socialiste). Ce dernier, en collaboration avec l’ex-député Stéphane Vojetta, travaille également a un rapport, qui devrait être examiné par le Premier ministre en janvier, qui préconise « d’interdire ces fonctions » de détournement pornographique des IA.
Dans le sillage de l’initiative d’Arthur Delaporte et Eric Bothorel, les ministres de l’économie Roland Lescure, la ministre déléguée chargée de l’intelligence artificielle et du numérique Anne Le Hénanff, et la ministre de l’égalité entre les femmes et les hommes, Aurore Bergé, ont émis un signalement au procureur de la République et saisi la plateforme Pharos « en vertu de l’article 40 du code de procédure pénale, des contenus manifestement illicites générés par l’intelligence artificielle générative Grok et diffusés sur la plateforme X, afin d’obtenir leur retrait immédiat ».
Depuis son rachat par le milliardaire Elon Musk, le réseau social X, anciennement Twitter, autorise la propagation de contenus pornographiques. Déjà depuis le 3 juin 2024, les utilisateurs du réseau social X peuvent diffuser et visionner des contenus à caractères sexuels. Face à l’explosion de l’IA, et de ses détournements deepfake, les pouvoirs publics peinent encore à limiter l’empire Musk et ses dérives.
À lire dans LesNouvellesNews.fr :
LE « DEEP FAKE » PORNOGRAPHIQUE : COMME TAYLOR SWIFT, LES FEMMES SONT EN PREMIÈRE LIGNE
CORÉE DU SUD : LES FÉMINISTES LUTTENT CONTRE LE FLÉAU DES DEEPFAKES
TIKTOK : ENTRE INTERDICTIONS ET ÉDUCATION, LA COMMISSION PARLEMENTAIRE REND SES RECOMMANDATIONS
RÉSEAUX SOCIAUX : LES ALGORITHMES INVISIBILISENT LES MESSAGES FÉMINISTES
SOUS COUVERT DE LIBERTÉ D’EXPRESSION, LES CONTENUS PORNOGRAPHIQUES SONT AUTORISÉS SUR X
FIN DU « FACT-CHECKING » CHEZ META : CAP VERS LA DÉSINFORMATION… ET LA MISOGYNIE
MUSELÉES SUR LES RÉSEAUX SOCIAUX, LES FÉMINISTES VONT SE FAIRE VOIR ET ENTENDRE AILLEURS
ENCORE DES ATTAQUES SEXISTES CONTRE UNE YOUTUBEUSE APRÈS LE GP EXPLORER
LES CRÉATRICES À PEINE VISIBLES SUR YOUTUBE
