“`html
Meta a récemment déposé une plainte contre Joy Timeline HK, le créateur de l’application Crush AI, qui est devenue populaire pour ses services controversés de “nudification” assistée par IA. La société allègue que cette dernière a tenté de contourner ses processus de révision pour diffuser plus de 8 000 annonces sur ses plateformes, notamment Facebook et Instagram, au cours des deux premières semaines de 2025. Meta a déjà supprimé plusieurs de ces publicités pour violation de ses politiques, mais l’entité derrière Crush AI aurait continué à placer des annonces additionnelles.
Crush AI utilise des technologies d’IA générative pour produire des images sexuelles explicites de personnes réelles sans leur consentement, une pratique qui suscite des préoccupations éthiques et juridiques majeures. Selon un rapport d’Alexios Mantzarlis, rédacteur pour le newsletter Faked Up, environ 90% du trafic vers les sites de Crush AI provenait des réseaux sociaux de Meta, ce qui soulève des questions sur la responsabilité des plateformes en matière de contenu généré par l’utilisateur. En réponse à ces défis, Meta a déclaré qu’elle mettait en place de nouvelles mesures pour renforcer la modération de ce type de contenu.
Meta intensifie ses efforts pour assurer la sécurité de ses utilisateurs, en particulier des mineurs, face à l’essor des applications d’IA compromettrices.
Les difficultés rencontrées par Meta ne sont pas uniques; d’autres entreprises comme X et TikTok font également face à des défis similaires en matière de modération du contenu généré par l’IA. La demande croissante pour des applications de nudification par IA a été alimentée par des publicités massive sur diverses plateformes, et une étude a révélé que les liens vers ces applications avaient explosé, en particulier en 2024, affectant la sécurité des utilisateurs sur ces réseaux sociaux.
Pour s’attaquer à cette problématique grandissante, Meta a mis en place des technologies innovantes pour identifier les publicités de services de nudification assistée par IA, même si ces annonces n’incluent pas de nudité explicite. En augmentant ses listes de mots-clés et de phrases, et en perturbant les réseaux responsables de la diffusion de telles publicités, la société a affirmé avoir déjà mis hors d’état de nuire quatre réseaux différents promouvant ces services depuis le début de l’année.
Hors de ses applications, Meta s’engage également à partager des informations sur ces applications nuisibles dans le cadre du programme Lantern de la Tech Coalition, qui inclut des entreprises majeures telles que Google et Snap. En s’attaquant à ce fléau, la société a déclaré qu’elle continuera à soutenir des législations visant à protéger les jeunes utilisateurs, comme le Take It Down Act aux États-Unis, témoignant de son engagement à garantir la sécurité des mineurs sur ses plateformes.
“`
