Le problème des deepfakes à caractère sexuel non consensuel dans le secteur technologique s’étend désormais bien au-delà de la plateforme X (anciennement Twitter). Récemment, plusieurs sénateurs américains ont adressé une lettre aux dirigeants de X, Meta, Alphabet, Snap, Reddit et TikTok, leur demandant de fournir des preuves quant à la mise en place de « protections et politiques robustes » visant à limiter la prolifération des deepfakes sexuellement explicites sur leurs plateformes. Ces parlementaires exigent également la préservation de tous les documents et informations liés à la création, la détection, la modération et la monétisation de ces images générées par intelligence artificielle, ainsi que la clarification des politiques existantes dans ce domaine.
Cette démarche intervient peu après que X a annoncé une mise à jour de Grok, conçue pour interdire la création ou modification d’images représentant de vraies personnes en vêtements révélateurs, avec une restriction supplémentaire pour la création d’images à destination des abonnés payants. Depuis ces déclarations, plusieurs médias ont rapporté que Grok générait régulièrement des images sexualisées ou nues de femmes et d’enfants, soulignant la difficulté pour ces plateformes d’assurer une modération efficace face à la prolifération de contenus problématiques. Les sénateurs ont ainsi souligné que, malgré des politiques déclarées contre les images non consensuelles ou exploitant la sexualité, ces garde-fous sont souvent contournés ou insuffisants.
Les sénateurs appellent à une régulation plus stricte et à une transparence accrue des plateformes face à la montée des deepfakes sexuellement explicites, qui échappent souvent aux contrôles.
Les plateformes ne sont pas toutes égales face à cette problématique. Alors que Reddit a rapidement supprimé les vidéos de pornographie synthétique virale en 2018, d’autres sites comme TikTok, YouTube ou Meta ont vu fleurir des contenus dans cette veine, souvent créés à partir d’images manipulées ou générées par IA. Meta, par exemple, a été sanctionné par son propre Conseil de supervision pour deux cas d’images explicites impliquant des figures publiques féminines, et a dû lutter contre la vente de certaines applications de nudification sur sa plateforme. Des rapports ont également fait état de la circulation de deepfakes impliquant des enfants sur Snapchat, ou encore d’outils sur Telegram destinés à déshabiller des photos de femmes.
En réponse à la lettre envoyée par le Congrès, X a affirmé que la mise à jour de Grok visait à interdire spécifiquement le contenu non consensuel et à renforcer ses mécanismes de suppression. « Nous ne permettons pas et ne permettrons jamais la diffusion de médias intimes non consensuels sur Reddit, et nous avons des mesures proactives pour les détecter et les retirer », a déclaré un porte-parole de Reddit dans une déclaration par e-mail.
Cependant, ni Alphabet, Snap, TikTok ni Meta n’ont encore fourni de commentaires détaillés dans cette affaire. La législation américaine a tenté de réguler cette problématique avec des lois telles que la Take It Down Act, adoptée en mai, qui criminalise la création et la diffusion d’images à caractère sexuel non consensuel, mais son efficacité reste limitée face à la complexité du sujet.
Les enjeux évoluent rapidement à l’échelle mondiale, notamment avec la montée en puissance des générateurs de contenu synthétique chinois, souvent associés à ByteDance. Ces outils facilitent la manipulation de visages, voix et vidéos, avec une réglementation exigeante en Chine qui, pour l’instant, reste peu implémentée aux États-Unis. Des initiatives locales, comme celle de la gouverneure de New York, Kathy Hochul, qui propose de légiférer pour étiqueter les contenus générés par IA et interdire certains deepfakes lors des périodes électorales, témoignent de la nécessité d’une régulation plus stricte pour protéger les citoyens et la démocratie contre ces formes de manipulations numériques.
Les gouvernements et les plateformes sont confrontés à un défi sans précédent pour encadrer une technologie dont les usages abusifs deviennent de plus en plus nombreux et sophistiqués.
