Face aux défis rencontrés par les entreprises pour transformer leurs programmes pilotes d’intelligence artificielle en composantes opérationnelles fiables, la question de la fiabilité est devenue centrale. Une nouvelle startup, Pramaana Labs, souhaite apporter une solution en s’appuyant sur des outils de formalisation mathématique, alliant l’une des systèmes les plus fiables de l’informatique à l’une des plus chaotiques. Mercredi, Pramaana a annoncé une levée de fonds de 27 millions de dollars en phase d’amorçage, menée par Khosla Ventures, avec la participation d’Accel, Boldcap, Nexus Venture Partners, Premji Invest et Unbound.
La société se concentre sur des secteurs très sensibles tels que le droit, la découverte de médicaments ou la fiscalité, où les erreurs peuvent engendrer des coûts importants. L’intégration de l’IA dans ces domaines exige des protections renforcées contre les hallucinations et les erreurs. Selon Ranjan Rajagopalan, co-fondateur et PDG de Pramaana, leur approche s’appuie sur la formalisation, comparable à une structure mathématique, où un grand nombre de règles doit être respecté. « Une fois que vous avez une version codifiée de ces règles, le raisonnement devient déterministe », explique-t-il.
Le système de Pramaana exploite toujours un grand modèle de langage (LLM), ce qui lui confère la flexibilité de répondre en langage naturel ou de traiter des problèmes complexes. Cependant, il intègre une couche déterministe au-dessus de ce modèle, garantissant que les résultats soient vérifiés et conformes. La particularité de leur démarche réside dans l’utilisation d’outils de vérification formelle, notamment en s’appuyant sur le langage open-source LEAN, couramment utilisé pour la vérification de preuves mathématiques.
« La plupart des problèmes mondiaux ne sont pas insurmontables, ils sont simplement mal formalises. »
A titre d’exemple, Pramaana s’inspire du projet français CATALA, qui formalise le système fiscal et les prestations sociales en code exécutable. Pour chaque utilisation, l’entreprise construit son propre système de vérification formelle, supervisé par des experts dans chaque domaine. En matière de fiscalité, elle collabore avec l’ancien commissaire de l’IRS, Danny Werfel, tandis que des professeurs de l’IIT Delhi, IIT Madras et UC Berkeley supervisent la sécurité informatique et la découverte de médicaments.
Selon Rajagopalan, « les problèmes les plus difficiles au monde ne sont pas insolubles, ils sont mal formalises », soulignant l’importance de la codification des règles pour résoudre des questions dont l’issue peut coûter la santé, l’argent ou la liberté. Cette approche innovante promet d’apporter une robustesse nouvelle à des secteurs où la fiabilité de l’IA est cruciale et où chaque erreur peut avoir des conséquences lourdes. La combinaison de modèles linguistiques avancés avec une vérification stricte ouvre la voie à une IA plus sûre et plus fiable, en particulier dans les domaines réglementés et sensibles.
