La startup Groq, qui développe des puces pour exécuter des modèles d’IA génératifs plus rapidement que les processeurs conventionnels, a annoncé lundi avoir levé 640 millions de dollars lors d’un nouveau tour de financement mené par Blackrock. Neuberger Berman, Type One Ventures, Cisco, KDDI et Samsung Catalyst Fund ont également participé. Cette tranche, qui porte le total levé par Groq à plus d’un milliard de dollars et valorise la société à 2,8 milliards de dollars, est une grande victoire pour Groq, qui cherchait initialement à lever 300 millions de dollars à une valorisation légèrement inférieure (2,5 milliards de dollars). Elle double plus que la précédente valorisation de Groq (~1 milliard de dollars) en avril 2021, lorsque la société avait levé 300 millions de dollars lors d’un tour mené par Tiger Global Management et D1 Capital Partners.
Le chef scientifique d’IA de Meta, Yann LeCun, servira de conseiller technique à Groq et Stuart Pann, l’ancien responsable de l’activité de fonderie d’Intel et ex-CIO chez HP, rejoindra la startup en tant que directeur d’exploitation, a également annoncé Groq aujourd’hui. La nomination de LeCun est un peu surprenante, compte tenu des investissements de Meta dans ses propres puces IA, mais elle donne sans aucun doute à Groq un allié de poids dans un secteur très compétitif. Apparue discrètement en 2016, Groq crée ce qu’elle appelle un moteur d’inférence LPU (unité de traitement du langage). La société affirme que ses LPUs peuvent exécuter des modèles d’IA génératifs existants similaires en architecture à ChatGPT d’OpenAI et GPT-4 à 10 fois la vitesse et avec un dixième de l’énergie.
Groq pourrait considérer Arm, Intel, AMD et un nombre croissant de startups comme des concurrents également, dans un marché des puces IA qui pourrait atteindre 400 milliards de dollars de ventes annuelles d’ici cinq ans, selon certains analystes.
Jonathan Ross, PDG de Groq, est célèbre pour avoir aidé à inventer l’unité de traitement tensoriel (TPU), la puce d’accélération IA personnalisée de Google utilisée pour entraîner et exécuter des modèles. Ross s’est associé à Douglas Wightman, un entrepreneur et ancien ingénieur du laboratoire de lune d’Alphabet, la société mère de Google, pour co-fonder Groq il y a près d’une décennie. Groq fournit une plateforme de développement alimentée par LPU appelée GroqCloud qui propose des modèles “ouverts” comme la famille Llama 3.1 de Meta, Gemma de Google, Whisper d’OpenAI et Mixtral de Mistral, ainsi qu’une API qui permet aux clients d’utiliser ses puces dans des instances cloud. (Groq héberge également une aire de jeux pour les chatbots alimentés par l’IA, GroqChat, qu’elle a lancée fin de l’année dernière.)
En juillet, GroqCloud comptait plus de 356 000 développeurs ; Groq indique qu’une partie du produit de la levée de fonds sera utilisée pour augmenter la capacité et ajouter de nouveaux modèles et fonctionnalités. “Beaucoup de ces développeurs sont dans de grandes entreprises”, a déclaré Stuart Pann, le COO de Groq, à TechCrunch. “Selon nos estimations, plus de 75% du Fortune 100 sont représentés.” Tout en établissant des relations avec les clients, Groq, basé à Mountain View, en Californie, se dirige vers la prochaine génération de sa puce. En août dernier, la société a annoncé qu’elle passerait un contrat avec la société de semi-conducteurs Global Foundries pour fabriquer des LPUs 4nm, qui devraient offrir des gains de performance et d’efficacité par rapport aux premières puces 13nm de Groq. Groq prévoit de déployer plus de 108 000 LPUs d’ici la fin du premier trimestre 2025.
