Google a annoncé la suspension temporaire de la capacité de Gemini, son modèle phare d’IA générative, à générer des images de personnes. La société travaille à la mise à jour de la technologie afin d’améliorer la précision historique des sorties impliquant des représentations humaines. Dans une publication sur la plateforme de médias sociaux X, l’entreprise a annoncé ce qu’elle a qualifié de “pause” dans la génération d’images de personnes, ajoutant qu’elle travaille à résoudre les “problèmes récents” liés à des inexactitudes historiques. “Pendant que nous faisons cela, nous allons interrompre la génération d’images de personnes et nous relancerons une version améliorée bientôt”, a-t-elle ajouté.
Google a lancé l’outil de génération d’images Gemini plus tôt ce mois-ci. Cependant, des exemples de celui-ci générant des images incongrues de personnes historiques ont trouvé leur chemin sur les médias sociaux ces derniers jours – comme des images des pères fondateurs des États-Unis représentés comme des Amérindiens, des Noirs ou des Asiatiques – conduisant à des critiques et même à des moqueries. Dans une publication sur LinkedIn, le capital-risqueur basé à Paris, Michael Jackson, s’est joint au pile-on aujourd’hui – qualifiant l’IA de Google de “parodie absurde de DEI” (DEI signifiant ‘Diversity, Equity and Inclusion’, soit ‘Diversité, Équité et Inclusion’).
“Les outils IA génératifs produisent des résultats basés sur des données d’entraînement et d’autres paramètres, tels que les poids du modèle. Ces outils ont plus souvent été critiqués pour produire des résultats biaisés de manière plus stéréotypée.”
Dans une publication sur X hier, Google a confirmé qu’il était “conscient” que l’IA produisait des “inexactitudes dans certaines représentations générées d’images historiques”, ajoutant dans une déclaration : “Nous travaillons à améliorer ces types de représentations immédiatement. La génération d’images d’IA de Gemini génère une large gamme de personnes. Et c’est généralement une bonne chose parce que des gens du monde entier l’utilisent. Mais elle manque le coche ici.” Les outils d’IA génératifs produisent des sorties basées sur des données d’entraînement et d’autres paramètres, tels que les poids du modèle. Ces outils ont plus souvent été critiqués pour produire des sorties biaisées de manière plus stéréotypée – comme des images fortement sexualisées de femmes ou en répondant aux commandes pour des rôles à haut statut avec des images d’hommes blancs.
Un précédent outil de classification d’images d’IA créé par Google a suscité l’indignation en 2015, lorsqu’il a incorrectement classé les hommes noirs en tant que gorilles. L’entreprise a promis de corriger le problème mais, comme l’a rapporté Wired quelques années plus tard, sa “solution” était totalement détournée : Google bloquait tout simplement la technologie pour qu’elle ne reconnaisse pas du tout les gorilles.
