Quand les développeurs ont une tâche précise que l’IA peut résoudre, il n’est généralement pas aussi simple de pointer un LLM sur les données. Il y a d’autres considérations comme le coût, la vitesse et la précision et trouver des moyens d’équilibrer tout cela a été particulièrement difficile, surtout avec l’arrivée de nombreux nouveaux modèles tout le temps. C’est ici qu’intervient Unify, une start-up britannique fondée par un ancien du Imperial College, qui a mis au point un outil de routage permettant aux développeurs d’entrer des paramètres et de trouver le meilleur LLM pour leurs besoins uniques, quels qu’ils soient. Mercredi, l’entreprise a annoncé un investissement de 8 millions de dollars.
“L’objectif principal avec Unify est de déterminer quels modèles de quels fournisseurs sont les meilleurs pour votre tâche en utilisant des références objectives et des tableaux de bord qui vous permettent de les comparer,” a déclaré le fondateur et PDG de l’entreprise, Daniel Lenton, à TechCrunch. “Le routeur est en quelque sorte une extension naturelle de ce processus, surtout lorsque les entreprises commencent à déployer à grande échelle, et que la vitesse et le coût deviennent plus importants. Donc, ce que nous essayons vraiment de faire est de donner aux gens un contrôle beaucoup plus important sur le profil de qualité, de coût et de vitesse de leurs applications LLM,” a déclaré Lenton.
Comme on pouvait s’y attendre, Unify utilise l’IA pour exécuter l’application de routage centrale. “Notre routeur lui-même est un réseau neuronal appris. Il apprend donc quels modèles sont les meilleurs pour accomplir quelles tâches,” a-t-il déclaré. L’entreprise fait cela en effectuant des références exhaustives sur chaque nouveau modèle pour toutes ces tâches en utilisant GPT Pro comme juge. À partir de cela, le système apprend à quel point ce modèle était bon pour accomplir certaines tâches sur leurs ensembles d’entraînement. “Très rapidement, tout nouveau fournisseur de modèle est pris en charge par le routeur en gros un jour ou deux plus tard,” a-t-il déclaré.
Lenton indique que le routeur, et la manière unique dont ils ont construit un modèle pour le former, est une façon de défendre ce que fait sa start-up contre la concurrence des acteurs plus importants, d’autant plus ils sont neutres, ce que les hyperscalers pourraient ne pas être.
Il a ajouté que généralement, les clients expérimentent simplement avec différents modèles et n’ont pas d’outil pour suivre lequel est le meilleur. “Il y a des gens qui ont des problèmes très urgents et qui sont prêts à essayer une solution existante. Je pense donc que c’est ainsi que nous avons réussi à faire notre entrée,” a-t-il déclaré. Bien qu’il existe des concurrents comme Martian Router, OpenRouter et Portkey, Lenton affirme que son entreprise est la seule à optimiser conjointement la qualité, le coût et la vitesse.
L’entreprise est actuellement petite avec sept employés, et Lenton la garde intentionnellement maigre alors qu’il travaille à la mise en marché d’un produit pleinement monétisé. Le plan est d’ajouter trois employés supplémentaires cette année. Il rapporte environ 3 000 inscriptions à ce jour avec quelques centaines d’utilisateurs réguliers. Ils espèrent gagner de l’argent en facturant aux entreprises la création de leurs propres références personnalisées. Chaque entreprise peut commencer à utiliser l’outil avec un crédit de 50 $. L’investissement de 8 millions de dollars est venu d’une multitude d’investisseurs, dont SignalFire, M12, J12, Essence VC, A. Capital, Lunar VC, Y Combinator et plusieurs anges de l’industrie reconnus.
