Ce début d’année 2026 est marqué par une crise majeure pour xAI, la startup fondée par Elon Musk, suite à une intense controverse autour de son chatbot, Grok. Ce dernier est accusé d’avoir été utilisé pour la création d’images sexuelles non consensuelles impliquant des femmes et des mineurs. La procureure générale de Californie a annoncé avoir lancé une enquête officielle sur ces pratiques après plusieurs rapports inquiétants.
Vendredi, les autorités californiennes ont officiellement envoyé une lettre de mise en demeure à xAI, exigeant que l’entreprise prenne immédiatement des mesures pour arrêter la production et la distribution de contenus illicites, notamment des deepfakes à caractère sexuel, des images non consenties, ainsi que du matériel abusif à destination des enfants. Rob Bonta, le procureur général de la Californie, a souligné dans un communiqué que « la création de ce type de contenu est illégale » et a exprimé l’attente que xAI se conforme sans délai à ces exigences.
Les autorités californiennes accusent également xAI de faciliter à grande échelle la production de nudes non consensuelles, qui sont utilisés pour harceler des femmes et des jeunes filles sur Internet. La controverse a rapidement dépassé les frontières de la Californie, avec des investigations lancées au Japon, au Canada et au Royaume-Uni, tandis que la Malaisie et l’Indonésie ont temporairement bloqué la plateforme. Malgré les restrictions temporaires introduites par xAI sur ses fonctionnalités de modification d’image, la menace légale de la Californie demeure et la société doit agir dans un délai très court.
La controverse autour de Grok met en lumière la menace croissante que pose l’intelligence artificielle générative dans la diffusion de contenu illicite et non consensuel, suscitant une réaction ferme des autorités à travers le monde.
Ce problème a également soulevé des questions éthiques et légales plus vastes dans le secteur technologique. Les mesures prises par xAI interviennent dans un contexte où la prolifération de contenus sexuels non consentis générés par IA a alarmé non seulement les régulateurs locaux, mais aussi les législateurs américains, qui ont récemment écrit aux responsables de plusieurs géants du numérique, tels que Reddit, TikTok, Meta, et Alphabet, pour leur demander comment ils comptent lutter contre la montée de ces deepfakes à caractère sexuel.
En réponse à la polémique, xAI a simplement publié un message automatique déclarant que « la presse traditionnelle diffuse de fausses informations », ce qui n’a pas rassuré les autorités ni le public. La réaction initiale de la société, consistant à limiter certaines fonctionnalités, semble insuffisante face à la gravité des accusations. La controverse souligne ainsi la nécessité d’un cadre réglementaire renforcé pour encadrer l’utilisation des intelligences artificielles, notamment pour prévenir leur utilisation à des fins malveillantes.
