“`html
Des chercheurs en sécurité de l’IA provenant d’OpenAI, d’Anthropic et d’autres organisations ont publiquement critiqué la culture de sécurité « imprudente » et « complètement irresponsable » de xAI, la start-up milliardaire de l’IA détenue par Elon Musk. Ces critiques font suite à des semaines de scandales chez xAI, qui ont éclipsé les avancées technologiques de l’entreprise. La semaine dernière, le chatbot IA de la société, Grok, a proféré des commentaires antisémite et s’est répété appelé « MechaHitler ». Peu après que xAI ait mis son chatbot hors ligne pour remédier au problème, l’entreprise a lancé un modèle d’IA de pointe de plus en plus capable, Grok 4, qui, selon TechCrunch et d’autres, a consulté les politiques personnelles d’Elon Musk pour répondre à des questions sensibles.
Dans un développement récent, xAI a lancé des compagnons IA sous la forme d’une fille anime hyper-sexualisée et d’un panda trop agressif. Les plaisanteries amicales entre employés de laboratoires d’IA concurrents sont assez courantes, mais ces chercheurs appellent à une attention accrue sur les pratiques de sécurité de xAI, qu’ils estiment contraires aux normes de l’industrie. « Je ne voulais pas publier sur la sécurité de Grok étant donné que je travaille pour un concurrent, mais il ne s’agit pas de compétition », a déclaré Boaz Barak, professeur en informatique actuellement en congé de Harvard pour travailler sur la recherche en sécurité chez OpenAI, dans un post sur X. « J’apprécie les scientifiques et les ingénieurs de @xai mais la façon dont la sécurité a été gérée est complètement irresponsable. »
L’incident de Grok empêche xAI de mettre en avant ses avancées rapides en matière de modèles d’IA de pointe.
Barak remet particulièrement en question la décision de xAI de ne pas publier de « cartes de système », des rapports standard de l’industrie qui détaillent les méthodes d’entraînement et les évaluations de sécurité dans un effort de bonne foi pour partager des informations avec la communauté de recherche. En raison de cela, Barak indique qu’il est flou de savoir quelles évaluations de sécurité ont été effectuées sur Grok 4. OpenAI et Google ont également une réputation mitigée en matière de partage rapide des cartes de système lorsqu’ils dévoilent de nouveaux modèles d’IA. Cependant, ces entreprises publient historiquement des rapports de sécurité pour tous les modèles IA de pointe avant qu’ils n’entrent en production intégrale.
Samuel Marks, un chercheur en sécurité de l’IA chez Anthropic, a également critiqué la décision de xAI de ne pas publier de rapport de sécurité, qualifiant ce choix de « imprudent ». « Les pratiques de publication d’Anthropic, d’OpenAI et de Google présentent des problèmes », a écrit Marks sur X. « Mais ils font au moins quelque chose, n’importe quoi pour évaluer la sécurité avant le déploiement et documenter les résultats. xAI ne le fait pas. » Dans un post largement partagé sur le forum en ligne LessWrong, un chercheur anonyme affirme que Grok 4 n’a pas de garde-fous significatifs en matière de sécurité. Que cela soit vrai ou non, le monde semble découvrir les lacunes de Grok en temps réel, plusieurs problèmes de sécurité de xAI ayant depuis fait le tour des réseaux sociaux.
Les pratiques douteuses de sécurité de xAI sont d’autant plus curieuses que Musk a longtemps été l’un des défenseurs les plus notables de l’industrie de la sécurité IA. Le milliardaire à la tête de xAI, Tesla et SpaceX a à plusieurs reprises mis en garde contre les conséquences catastrophiques que les systèmes IA avancés pourraient avoir sur l’humanité et a loué l’approche ouverte au développement de modèles IA. Pourtant, les chercheurs en IA dans des laboratoires concurrents affirment que xAI s’écarte des normes de l’industrie concernant la publication de rapports de sécurité. Ce faisant, la startup de Musk pourrait faire un argument fort en faveur des législateurs d’établir des règles concernant la publication de rapports de sécurité AI.
“`
