L’utilisation d’un modèle d’intelligence artificielle chinois dans des produits américains a récemment fait l’objet d’une vive controverse, mettant en lumière les risques potentiels de l’utilisation d’IA chinoise pour diffuser de la propagande de Pékin. La source de cette contestation est une liseuse populaire, Boox, qui aurait utilisé un Large Language Model (LLM) produit par ByteDance, la société mère de TikTok. Des captures d’écran partagées sur Reddit ont montré que lorsque l’IA de Boox était interrogée sur la Chine et ses alliés, elle diffusait de la propagande pro-gouvernementale chinoise, provoquant l’indignation des utilisateurs.
La LLM utilisée pour alimenter l’assistant IA de Boox est connue sous le nom de Doubao, un produit de ByteDance proposé comme une API sous la division Volcano Engine de ByteDance. Cependant, un porte-parole de ByteDance a informé TechCrunch que le modèle Doubao est conçu pour être utilisé uniquement au sein de la Chine continentale. De son côté, le fabricant de la liseuse, la société chinoise Onyx International, qui commercialise les liseuses Boox en Chine et aux États-Unis, n’a pas répondu aux demandes de commentaires.
“La controverse autour de l’assistant IA de Boox illustre les risques associés à l’utilisation d’outils qui intègrent l’IA générative chinoise, une tendance déjà attaquée par certains leaders de l’IA.”
L’assistant IA de Boox, lancé l’été dernier, a commencé à faire parler de lui en décembre 2024 lorsqu’un utilisateur a partagé sur un subreddit dédié aux liseuses que cet assistant diffusait de la propagande gouvernementale chinoise en réponse à certaines questions. Par exemple, l’assistant IA a nié que la Chine ait jamais connu de “soi-disant massacres”, et a refusé de dire quoi que ce soit de négatif sur la Corée du Nord et la Russie. En revanche, l’assistant n’a pas hésité à critiquer les pays occidentaux, pointant notamment du doigt l’exploitation historique des ressources locales et des populations autochtones par le colonialisme français.
L’incident a soulevé l’inquiétude de certains experts de l’IA, qui mettent en garde contre les risques liés à l’utilisation d’outils alimentés par l’IA chinoise. Le PDG de la société d’IA Hugging Face, Clément Delangue, a ainsi déclaré lors d’un podcast français en septembre 2024 : “Si vous créez un chatbot et lui posez une question sur Tiananmen, eh bien, il ne vous répondra pas de la même manière que si c’était un système développé en France ou aux États-Unis. Donc si vous avez un pays comme la Chine qui devient de loin le plus fort en IA, en fait ils seront capables de diffuser certains aspects culturels que peut-être le monde occidental ne voudrait pas voir se propager”.
Depuis cette polémique, Boox aurait changé de fournisseur d’IA, revenant à l’utilisation de GPT-3 de OpenAI via Microsoft Azure, selon un autre post sur le subreddit de Boox. Il reste toutefois encore à confirmer quel LLM Boox utilise actuellement pour son assistant IA. Boox n’a pas fait de déclaration officielle à propos de cet incident, et OpenAI et Microsoft n’ont pas répondu immédiatement aux requêtes de commentaires de TechCrunch.
