Une grande partie des discussions autour de l’intelligence artificielle (IA) porte aujourd’hui sur la capacité des infrastructures cloud et la construction de centres de données massifs pour faire fonctionner des modèles. Tandis que des géants comme Apple et Qualcomm s’attachent à rendre l’IA sur appareils plus performante, une startup londonienne, Mirai, se focalise sur l’optimisation du fonctionnement des modèles directement sur smartphones et ordinateurs portables. Fondée par Dima Shvets et Alexey Moiseenkov, cette jeune entreprise, soutenue par une levée de fonds de 10 millions de dollars menée par Uncork Capital, vise à transformer la façon dont l’IA est déployée sur les appareils de consommation.
Les fondateurs, expérimentés dans le développement d’applications grand public, avaient depuis longtemps réfléchi à l’intégration de l’IA et du machine learning directement sur les dispositifs utilisateurs, bien avant que la popularité de l’IA générative n’explose. Shvets, co-fondateur de l’application Reface, spécialisée dans le face-swapping, et ancien scout pour a16z, ainsi que Moiseenkov, à la tête de Prisma, une application de filtres IA virale, ont décidé de s’unir pour combler un vide : l’absence d’outils efficaces pour faire tourner des modèles complexes en local, sans dépendre entièrement du cloud.
Mirai développe une plateforme permettant aux modèles d’atteindre de meilleures performances en local, en optimisant notamment la vitesse de traitement sans sacrifier la qualité.
Actuellement, Mirai a créé un moteur d’inférence pour Apple Silicon, permettant d’augmenter la capacité de traitement en local jusqu’à 37 %. Leur prochaine étape est le lancement d’un SDK, conçu pour simplifier l’intégration de leur technologie dans les applications, avec seulement quelques lignes de code. Le moteur, développé en Rust, se concentre sur l’amélioration des modalités textuelles et vocales, avec des plans pour étendre la prise en charge de la vision, tout en collaborant avec des fournisseurs de modèles de pointe pour optimiser leur compatibilité.
Consciente que toutes les opérations d’IA ne peuvent pas toujours s’effectuer en local, la startup planifie également la mise en place d’une couche d’orchestration qui permettra de basculer vers la cloud lorsque les demandes nécessitent plus de puissance. Mirai ambitionne également de proposer des benchmarks pour tester les performances des modèles sur appareils, favorisant ainsi une évaluation précise de leur efficacité en contexte réel. Une telle approche pourrait propulser l’utilisation de l’IA dans des assistants vocaux, des transcripteurs, ou des traducteurs intégrés, tout en réduisant fortement les coûts associés au cloud.
Selon Andy McLoughlin, partenaire chez Uncork Capital, cette initiative intervient dans un contexte où le coût de l’inférence dans le cloud devient un facteur limitant. Il affirme que « tout modèle souhaitant déployer ses tâches en local aura bientôt besoin de solutions comme Mirai, qui est bien positionnée pour répondre à cette demande. » Avec la participation d’investisseurs renommés issus de divers horizons, y compris des entrepreneurs de la tech et des fonds de capital-risque, la startup dispose d’un écosystème solide pour accélérer son développement et sa montée en puissance sur le marché de l’edge AI.
Mirai pourrait bien jouer un rôle clé dans la transition vers une IA plus décentralisée, limitant la dépendance aux infrastructures cloud coûteuses et énergivores, tout en permettant aux utilisateurs de profiter d’applications plus rapides et plus sécurisées.
En résumé, Mirai s’inscrit dans une tendance majeure : faire descendre l’IA du « cloud » vers les appareils, avec un fort accent sur la simplicité d’intégration et la performance. Son approche pourrait transformer non seulement la façon dont les développeurs conçoivent leurs applications, mais aussi encourager une adoption plus large de l’IA sur dispositifs, en alliant performance, coût maîtrisé et respect de la vie privée.
