Abandonnant les “deepfakes” de Taylor Swift, Google sort un nouvel outil alimenté par l’IA, ImageFX, pour la création d’images. Soutenu par Imagen 2, un modèle d’image GenAI développé par l’équipe DeepMind de Google, ImageFX offre une interface utilisateur basée sur des invites pour créer et éditer des images. Ceci n’est pas différent d’outils tels que DALL-E 3 de OpenAI, Midjourney, Imagine de Meta avec Meta AI et Microsoft Designer. Mais la particularité unique d’ImageFX est les “puces expressives” – essentiellement une liste de suggestions de mots-clés qui permettent aux utilisateurs d’expérimenter avec des “dimensions adjacentes” de leurs créations et idées. “Conçu pour l’expérimentation et la créativité, ImageFX vous permet de créer des images avec une simple invite textuelle, puis de les modifier facilement avec une nouvelle approche des invites en utilisant des puces expressives”, écrit Google dans un article de blog.
Mais qu’en est-il du potentiel d’abus – surtout à la lumière des événements récents ? Google affirme qu’il a pris des mesures pour garantir que ImageFX ne puisse pas être utilisé de manière inappropriée, par exemple en ajoutant des “garde-fous techniques” pour limiter les “résultats problématiques” comme le contenu violent, offensant et sexuellement explicite. ImageFX dispose également d’un filtre au niveau des invites pour les “personnes nommées”, vraisemblablement des figures publiques – bien que Google n’ait pas été particulièrement clair sur ce point dans ses documents de presse. “Nous avons investi dans la sécurité des données d’entraînement dès le départ”, a déclaré Google.
“Conformément à nos principes d’IA, nous avons également mené des tests adverses approfondis et des équipes d’enquête rouge pour identifier et atténuer le contenu potentiellement nuisible et problématique.”
En tant que mesure de sécurité supplémentaire, Google marque les images produites à l’aide d’ImageFX avec SynthID, un filigrane numérique qui est soi-disant robuste contre les éditions d’image et les cultures. “Les filigranes SynthID sont imperceptibles à l’œil humain mais détectables pour l’identification”, poursuit Google dans l’article de blog. “Avec des informations supplémentaires dans ‘À propos de cette image’, vous saurez si une image a peut-être été générée avec les outils d’IA de Google lorsque vous la rencontrez dans Google Search ou Chrome.” On trouve ImageFX dans AI Test Kitchen, l’application web de Google pour les projets d’IA expérimentaux.
Dans des nouvelles associées aujourd’hui, Google a annoncé qu’il va apporter Imagen 2 à plus de ses produits et services à partir de cette semaine, y compris à son expérience de recherche AI de nouvelle génération et à sa famille de services gérés d’IA Vertex AI. Imagen 2, qui alimente également maintenant les capacités de texte à l’image dans Google Ads et Duet AI dans Workspace, la suite de produits GenAI de Google pour la productivité, a trouvé sa place dans SGE (Search Generative Experience) de Google. SGE, qui a commencé à faire apparaître des outils de génération d’images pour les utilisateurs sur Google Image Search en octobre dernier, utilise maintenant Imagen 2 pour générer des images.
Sur Vertex AI, Imagen 2 est disponible via une API pour les clients de Google Cloud. Ailleurs, Imagen 2 est maintenant invoqué par Bard, le chatbot alimenté par l’IA de Google. “Avec Imagen 2, Bard comprend des invites simples ou complexes pour que vous puissiez générer une gamme d’images de haute qualité”, explique Google. “Il suffit de taper une description – comme ‘créer une image d’un chien surfant’ – et Bard générera des visuels personnalisés et divers pour donner vie à votre idée.”
