LiteLLM, une plateforme d’API d’intelligence artificielle très utilisée par des millions de développeurs à travers le monde, a récemment annoncé son changement de cap en matière de conformité et de sécurité. Après avoir obtenu deux certifications en utilisant les services de la startup de conformité Delve, la société décide désormais de se tourner vers un autre prestataire et de faire appel à un auditeur indépendant suite à une série d’incidents et de controverses.
Cette décision intervient peu de temps après qu’une version open source de LiteLLM a été compromise par un logiciel malveillant de type “cred theft”, visant à voler des identifiants d’accès. La société avait précédemment mis en avant la conformité réglementaire attestée par Delve, qui garantissait la mise en place de procédures de sécurité robustes. Cependant, la suspicion grandit autour de la crédibilité de Delve, accusé d’avoir falsifié des données et d’avoir laissé ses auditeurs valider de faux rapports, renforçant ainsi les doutes sur la sérieux de ses certifications.
LiteLLM a décidé de changer de partenaire de certification et de faire appel à un auditeur indépendant pour garantir la transparence et la sécurité.
Les accusations contre Delve ont été vivement contestées par le fondateur de la startup, qui a nié toute malveillance et proposé des re-tests gratuits à ses clients, ce qui a toutefois alimenté la méfiance dans la communauté. La semaine a été marquante et tendue, culminant avec une divulgation de reçus et de documents attestant de possibles falsifications. En réponse, Ishaan Jaffer, le directeur technique de LiteLLM, a annoncé sur X (ex-Twitter) que l’entreprise allait désormais utiliser les services de Vanta, un concurrent plus crédible, pour sa re-certification, et qu’elle engagera un auditeur tiers indépendant pour vérifier ses contrôles de conformité.
Ce changement marque un tournant pour LiteLLM, qui semble vouloir réaffirmer son engagement envers la sécurité et la transparence, après une période tumultueuse. La société veut ainsi mettre fin aux polémiques et restaurer la confiance de ses utilisateurs et partenaires dans ses capacités à assurer une gestion sécurisée de ses services et de ses données.
Après une semaine difficile, LiteLLM tourne la page et veut renforcer sa crédibilité en misant sur l’indépendance de ses audits de sécurité.
