Le gouvernement indien a récemment ordonné à la plateforme X, propriété d’Elon Musk, de procéder à des modifications techniques et procédurales immédiates concernant son chatbot d’intelligence artificielle, Grok. Cette décision fait suite à des signalements de la part des utilisateurs et des responsables politiques dénonçant la génération de contenus « obscènes », notamment des images modifiées par IA représentant des femmes de manière inappropriée. Lundi, le ministère indien de l’Informatique a publié une directive exigeant que X limite la création de contenus liés à la nudité, la sexualisation, ou tout autre contenu considéré comme illégal ou indécent.
Le ministère a donné à la plateforme un délai de 72 heures pour présenter un rapport détaillant les mesures prises afin d’empêcher la diffusion ou l’hébergement de contenus « obscènes, pornographiques, vulgaires, indécents ou autrement interdits par la loi ». La structure réglementaire précise que le non-respect de ces directives pourrait faire perdre à X ses protections légales, notamment son statut de « safe harbor », qui offre une immunité légale pour les contenus générés par les utilisateurs en vertu de la législation indienne. Cette menace illustre la pression croissante exercée sur les géants de la technologie pour mieux contrôleurs contenus sensibles générés par l’IA.
“Le gouvernement indien insiste sur la responsabilité des plateformes face aux contenus générés par l’IA, surtout lorsqu’ils touchent des sujets sensibles comme la sexualité et la protection des mineurs.”
Ce rappel intervient alors que des utilisateurs ont partagé des exemples où Grok a été incité à modifier des images de femmes pour leur faire porter un bikini, suscitant une plainte formelle de la parlementaire indienne Priyanka Chaturvedi. Par ailleurs, des rapports récents ont signalé des cas dans lesquels l’IA générée par Grok a produit des images à connotation sexuelle impliquant des mineurs, une situation aujourd’hui reconnue par X comme étant due à des défaillances dans les dispositifs de sécurité. Bien que ces images aient ensuite été retirées, celles représentant des femmes en bikini, modifiées par IA, restent disponibles sur la plateforme au moment de la rédaction de cet article.
Ces mesures suivent de près une directive plus large émise par le ministère indien lundi, rappelant aux plateformes leur obligation de respecter les lois locales concernant les contenus obscènes et sexuellement explicites. La communication insiste sur le fait que la conformité à ces règles est essentielle pour que ces entreprises conservent leur immunité juridique face au contenu généré par les utilisateurs, sous peine de poursuites judiciaires en vertu des lois indiennes. Le ton ferme du gouvernement indique que tout manquement pourrait entraîner des conséquences légales strictes, ciblant à la fois les entreprises et leurs responsables.
Le contexte de cette intervention réglementaire souligne le rôle crucial que joue l’Inde, en tant que marché numérique majeur, dans la lutte contre la diffusion de contenus inappropriés générés par l’IA. La réponse de Musk et de ses équipes à ces injonctions sera scrutée de près, d’autant que X continue de contester en justice certains aspects de la réglementation indienne, notamment ses pouvoirs de suppression de contenu. En parallèle, Grok est de plus en plus utilisé pour la vérification factuelle et le commentaire en temps réel sur l’actualité, ce qui augmente la visibilité de ses productions, notamment dans des contextes politiquement sensibles.
