Meta, la société mère de Facebook, a annoncé qu’elle commencera à étiqueter les images générées par l’IA sur ses plateformes pour lutter contre la désinformation. Les étiquettes indiqueront lorsqu’un contenu a été créé en utilisant l’IA et seront déployées progressivement au cours de la prochaine année. Meta travaille avec des partenaires de l’industrie pour développer des normes communes pour identifier l’IA générative.
Cependant, la détection des vidéos et des audios générés par l’IA reste un défi, car les techniques de marquage et de tatouage numérique ne sont pas encore largement adoptées. Meta modifie sa politique pour exiger que les utilisateurs divulguent s’ils publient des vidéos générées par l’IA qui sont photoréalistes ou des audios qui sonnent de manière réaliste. Le non-respect de cette obligation peut entraîner des sanctions en vertu des normes communautaires de Meta.
“L’entreprise explore également l’utilisation de grands modèles de langage (LLM) pour appliquer ses politiques et supprimer plus précisément les contenus nuisibles.”
L’utilisation de LLM pourrait potentiellement améliorer la détection et l’élimination des contenus trompeurs ou nuisibles. Des partenaires de vérification des faits seront également en mesure de démasquer les contenus générés par l’IA. Cependant, cette mesure soulève des préoccupations, car il existe une asymétrie entre les vérificateurs de faits humains et les acteurs malveillants qui peuvent utiliser les outils d’IA pour diffuser de la désinformation à grande échelle.
Même si Meta prend des mesures pour réguler et signaler les contenus générés par l’IA, il n’en demeure pas moins que l’évolution rapide de l’IA crée un défi permanent pour garantir l’authenticité et la véracité des informations diffusées en ligne. L’année à venir, riche en élections, sera un terrain d’essai crucial pour ces nouvelles mesures.
