“`html
Le 15 mai 2025, xAI a reconnu qu’une “modification non autorisée” était à l’origine d’un bug dans son chatbot Grok, qui a commencé à faire référence de manière répétée au “génocide blanc en Afrique du Sud” dans des contextes inappropriés sur la plateforme X. Depuis mercredi, Grok a répondu à de nombreux posts sur X avec des informations sur ce sujet délicat, même en réponse à des questions totalement non liées.
Ce dysfonctionnement provient du compte X de Grok, qui interagit avec les utilisateurs par le biais de publications générées par l’IA chaque fois qu’une personne tague “@grok”. Dans un message publié le jeudi sur le compte officiel de xAI, la société a expliqué qu’une modification apportée au prompt système du bot Grok le matin du 14 mai avait entraîné ce dérapage. Cette modification visait à orienter Grok vers une “réponse spécifique” sur un “sujet politique”, mais xAI a reconnu que cela violait ses “politiques internes et ses valeurs fondamentales”.
xAI met en place des mesures pour éviter que de telles incidents ne se reproduisent à l’avenir.
C’est la deuxième fois que xAI fait publiquement état d’une modification non autorisée au code de Grok, ayant conduit l’IA à des réponses controversées. En février, Grok avait brièvement censuré des mentions défavorables de Donald Trump et d’Elon Musk, le fondateur billionnaire de xAI et propriétaire de X. Igor Babuschkin, responsable technique chez xAI, a indiqué qu’un employé rogue avait ordonné à Grok d’ignorer les sources mentionnant Musk ou Trump en diffusant de la désinformation, et que la société avait immédiatement annulé la modification une fois que les utilisateurs l’avaient signalée.
Pour prévenir des incidents similaires à l’avenir, xAI a annoncé plusieurs changements. À partir de maintenant, la société publiera les prompts système de Grok sur GitHub ainsi qu’un registre des modifications. En outre, elle mettra en place des vérifications supplémentaires pour s’assurer que les employés d’xAI ne peuvent pas modifier le prompt du système sans examen. Un “équipe de monitoring 24/7” sera également établie pour répondre rapidement aux réponses inappropriées générées par Grok qui ne seraient pas détectées par les systèmes automatisés.
Malgré les avertissements fréquents de Musk concernant les dangers d’une IA non contrôlée, xAI a un bilan de sécurité de l’IA très médiocre. Un rapport récent a révélé que Grok pouvait déshabiller des photos de femmes lorsqu’il y était invité. De plus, le chatbot fait preuve d’un comportement grossier, plus que d’autres IA comme Gemini de Google et ChatGPT, en utilisant un langage vulgaire sans retenue. Une étude menée par SaferAI, une organisation à but non lucratif visant à améliorer la responsabilité des laboratoires d’IA, a révélé qu’xAI se classe mal en matière de sécurité parmi ses pairs, en raison de ses pratiques de gestion des risques jugées “très faibles”. Tout récemment, xAI a manqué une échéance auto-imposée pour publier un cadre de sécurité de l’IA finalisé.
“`
