Les autorités indonésiennes ont annoncé samedi qu’elles mettaient temporairement fin à l’accès au chatbot Grok développé par xAI, une filiale d’Elon Musk. Cette décision fait suite à une vague de contenus générés par intelligence artificielle (IA) à caractère sexuel, souvent illustrés par des images pornographiques mettant en scène des femmes et des mineurs, parfois accompagnées de scènes d’agression ou d’abus. Ces images, qui avaient été postées en réponse à des requêtes d’utilisateurs sur le réseau social X (anciennement Twitter), soulèvent de graves préoccupations relatives à la protection des droits et à la sécurité des individus.
Dans une déclaration communiquée au Guardian ainsi qu’à d’autres médias, la ministre indonésienne des communications et du numérique, Meutya Hafid, a insisté sur la gravité de la situation : « La pratique de deepfakes sexuels non consensuels est une violation grave des droits humains, de la dignité et de la sécurité des citoyens dans l’espace numérique. » Face à cette problématique, le gouvernement indonésien a également convoqué des représentants de la société X pour discuter de la gestion de ce contenu problématique. Cette réaction s’inscrit dans un contexte international où plusieurs gouvernements prennent des mesures pour encadrer l’usage de l’IA dans la génération d’images.
Plusieurs pays intensifient leurs efforts pour réguler ou suspendre l’utilisation de l’IA, face à la proliferation de contenus inappropriés et dangereux.
En Inde, le ministère des Technologies de l’information a ordonné à xAI d’empêcher Grok de produire du contenu obscène, tandis que la Commission européenne exige la conservation de tous les documents liés à cette technologie, ce qui pourrait annoncer une future enquête réglementaire. Au Royaume-Uni, l’autorité de régulation des médias, Ofcom, a annoncé qu’elle allait rapidement évaluer la situation pour déterminer si des violations de conformité sont à craindre, avec le soutien du Premier ministre Keir Starmer. Contrairement à ces mouvements européens et asiatiques, la réponse de la vacillante administration américaine demeure muette, bien que certains sénateurs démocrates aient exhorté Apple et Google à retirer X de leurs boutiques d’applications, craignant une dérive dangereuse dans l’utilisation de l’IA pour la création de contenus illicites.
De son côté, xAI a initialement tenté de contenir la controverse en publiant des excuses d’un ton apparemment personnel sur le compte Grok, admettant qu’un contenu publié avait « violé des normes éthiques et potentiellement la législation américaine » concernant la pornographie enfantine. La société a ensuite limité la fonction de génération d’images à ses abonnés payants sur X, sans toutefois modifier la capacité de l’application Grok à générer des images en toute liberté, ce qui soulève encore des questions sur la régulation de ces outils. Elon Musk a également commenté la situation en insinuant que certains gouvernements cherchent en réalité à justifier la censure, ce qui ajoute une couche de complexité dans la gestion de cette crise.
