La consommation électrique représente une ressource essentielle pour le développement de l’intelligence artificielle, mais les nouvelles techniques de traitement augmentent la difficulté pour les opérateurs de centres de données à gérer leur relation avec le réseau électrique. En conséquence, ces centres sont contraints de réduire leur puissance jusqu’à 30 %, afin d’éviter la surcharge. Jensen Huang, le CEO de Nvidia, a souligné lors de la conférence annuelle GTC que « beaucoup d’énergie est gaspillée dans ces usines d’IA » et que « chaque watt inutilisé constitue une perte de revenus ».
C’est dans ce contexte que la jeune startup israélienne Niv-AI, sortie du silence avec un financement initial de 12 millions de dollars, cherche à répondre à cette problématique. Fondée l’année dernière à Tel Aviv par Tomer Timor (CEO) et Edward Kizis (CTO), cette entreprise bénéficie notamment du soutien de Glilot Capital, Grove Ventures, Arc VC, Encoded VC, Leap Forward et Aurora Capital Partners. Niv-AI ne communique pas sur sa valorisation, mais ambitionne de révolutionner la gestion énergétique des centres de données en intégrant des capteurs précis qui mesurent la consommation électrique à l’échelle du milliseconde sur des GPU, tout en développant des outils pour optimiser leur usage.
« Leur objectif est de comprendre les profils de consommation de différentes tâches d’apprentissage profond pour libérer davantage de capacité tout en assurant une gestion responsable de l’énergie. »
Actuellement, des milliers de GPU travaillent en concert pour entraîner et faire fonctionner des modèles avancés, mais leur puissance de calcul génère fréquemment des pics de consommation sur de très courtes périodes. Ces fluctuations rendent difficile la gestion de la puissance par les centres de données, qui doivent soit recourir à des stockages temporaires d’énergie, souvent coûteux, soit réduire l’utilisation de leurs GPU, ce qui impacte la rentabilité. Selon Lior Handlesman, partenaire chez Grove Ventures : « Nous ne pouvons pas continuer à construire des centres de données comme nous le faisons aujourd’hui. »
La stratégie de Niv-AI repose sur le déploiement de capteurs au niveau des racks, capables de détecter précisément la consommation électrique en temps réel. Ces données leur permettront de développer une intelligence artificielle pour prédire et synchroniser la charge électrique dans le centre, servant ainsi de véritable copilote pour les ingénieurs. La startup prévoit de déployer son système dans quelques data centers américains dans les prochains six à huit mois, une étape cruciale face aux difficultés d’accès à de nouveaux terrains et aux interruptions de la chaîne d’approvisionnement.
Au-delà de l’optimisation technologique, Niv-AI se voit comme une couche d’intelligence manquant entre les centres de données et le réseau électrique, détournant ainsi le spectre d’un réseau effrayé par une consommation excessive ponctuelle. Comme le résume Timor : « Le problème réside dans deux enjeux. D’un côté, aider les centres de données à exploiter davantage leurs GPU, et de l’autre, instaurer des profils de consommation plus responsables avec le réseau. »
