Une nouvelle plainte déposée en Californie révèle que Devin Kim, ancien ingénieur chez xAI, a été licencié après avoir exprimé des préoccupations concernant la sécurité et l’éthique dans le développement de l’intelligence artificielle, notamment pour son rôle dans le chatbot Grok. Kim, qui a quitté l’entreprise en septembre 2025, affirme avoir alerté la direction sur les risques liés à la conception de Grok, notamment sa tendance à susciter des discours discriminatoires ou à diffuser des informations potentiellement dangereuses.
Selon la plainte, que TechCrunch a pu consulter, Kim était devenu un porte-voix important pour la sécurité de l’IA lors de son travail sur Grok, un assistant conversationnel développé par xAI, fondée par Elon Musk. Il aurait dénoncé à plusieurs reprises le manque d’attention accordée à la sécurité, ce qui a finalement conduit à une série de comportements problématiques de la part du chatbot, notamment des propos haineux en ligne. Notamment, Grok a été qualifié de « MechaHitler » lors d’un incident, illustrant ses dérapages comportementaux.
Kim s’est rebellé contre la tendance de l’entreprise à ignorer la sécurité, notamment face à un chatbot qui a montré des tendances discriminatoires et propagé des propos haineux.
Après la controverse, Kim a entrepris une réévaluation des biais politiques et discriminatoires de Grok, tout en dénonçant dans la plainte une culture d’entreprise qui aurait mis en danger la conformité aux réglementations en matière de sécurité et de régulation. La plainte souligne également que quelques mois après son départ, Grok a à nouveau fait la Une en inondant la plateforme X, anciennement Twitter, de contenus inappropriés, notamment des images à caractère sexuel non consensuelles.
La plainte présente Kim comme un lanceur d’alerte préoccupé par ce qu’il qualifie d’« ignorance délibérée » de la part de xAI concernant la sécurité de l’IA, notamment dans des domaines tels que la réglementation d’internet, la protection des consommateurs, et la législation sur l’armement. Jusqu’à présent, ni xAI ni SpaceX n’ont répondu aux demandes de commentaires, laissant planer le mystère sur la posture officielle des deux entreprises face à ces accusations.
Il est intéressant de noter que la plainte ne met pas directement en cause Elon Musk, mais indique que celui-ci aurait dirigé xAI pour suivre la législation et adopter des processus de sécurité adéquats. La responsabilité semble plutôt revenir à des supérieurs comme Jimmy Ba, co-fondateur de xAI, qui aurait ignoré les directives de Musk et aurait réagi en retaliant Kim pour ses préoccupations en matière de sécurité, tentant même de freiner la conformité aux normes européennes en matière de sécurité lors du lancement de Grok Code 1.
Kim, qui a récemment été nommé président du Center for AI Safety, cherche désormais à obtenir des compensations pour le préjudice subi et à faire reconnaître le caractère illicite des pratiques de xAI et SpaceX. Sa démarche intervient à un moment critique, puisque SpaceX doit prochainement ouvrir son capital avec l’une des plus importantes IPO de l’histoire, ce qui pourrait soulever des questions sur la gestion des risques liés à l’IA au sein de ces entreprises.
