Google vient de lancer un nouveau trio de modèles d’IA générative “ouverts”, qu’il qualifie de “plus sûrs”, “plus petits” et “plus transparents” que la plupart – une affirmation audacieuse, il faut l’admettre. Ces ajouts à la famille Gemma 2 de Google, lancée en mai, sont les modèles Gemma 2 2B, ShieldGemma et Gemma Scope, conçus pour des applications et des utilisations légèrement différentes, avec un angle commun : la sécurité.
Les Gemma de Google sont différents des modèles Gemini en ce sens que Google ne rend pas le code source de Gemini disponible, ce dernier étant utilisé par les propres produits de Google ainsi que par les développeurs. Gemma est plutôt l’effort de Google pour favoriser la bonne volonté au sein de la communauté des développeurs, un peu comme Meta essaie de le faire avec Llama.
Gemma 2 2B est une version allégée pour générer et analyser du texte qui peut fonctionner sur une gamme de matériel, y compris les ordinateurs portables et les appareils edge. Elle est autorisée pour certaines applications de recherche et commerciales et peut être téléchargée à partir de sources comme la bibliothèque de modèles Vertex AI de Google, la plateforme de science des données Kaggle et la boîte à outils AI Studio de Google. Pour ce qui est de ShieldGemma, il s’agit d’une collection de “classificateurs de sécurité” qui tentent de détecter des éléments toxiques comme le discours de haine, le harcèlement et le contenu explicitement sexuel.
“La sortie des nouveaux modèles Gemma 2 intervient peu après que le département américain du Commerce ait approuvé les modèles d’IA ouverts dans un rapport préliminaire.”
Construit sur Gemma 2, ShieldGemma peut servir à filtrer les sollicitations à un modèle génératif ainsi que le contenu que le modèle produit. Enfin, Gemma Scope permet aux développeurs de “zoomer” sur des points spécifiques d’un modèle Gemma 2 et de rendre ses rouages internes plus interprétables.
Voici comment Google le décrit dans un post de blog : “[Gemma Scope est composé de] réseaux neuronaux spécialisés qui nous aident à déballer l’information dense et complexe traitée par Gemma 2, en l’élargissant sous une forme plus facile à analyser et comprendre. En étudiant ces vues élargies, les chercheurs peuvent obtenir des informations précieuses sur la manière dont Gemma 2 identifie les modèles, traite l’information et fait finalement des prédictions.”
La sortie des nouveaux modèles Gemma 2 intervient peu après que le département américain du Commerce ait approuvé les modèles d’IA ouverts dans un rapport préliminaire. Les modèles ouverts élargissent la disponibilité de l’IA générative pour les petites entreprises, les chercheurs, les organismes à but non lucratif et les développeurs individuels, souligne le rapport, tout en mettant en évidence la nécessité de disposer de capacités pour surveiller ces modèles pour d’éventuels risques.
