Ilya Sutskever, l’un des co-fondateurs d’OpenAI, vient de lancer une nouvelle entreprise, Safe Superintelligence Inc.(SSI). Ce lancement intervient un mois seulement après son départ officiel d’OpenAI. Sutskever, qui a longtemps été le scientifique en chef d’OpenAI, a fondé SSI avec Daniel Gross, ancien partenaire de Y Combinator, et Daniel Levy, ancien ingénieur chez OpenAI. Chez OpenAI, Sutskever a joué un rôle clé dans les efforts de l’entreprise pour améliorer la sécurité de l’IA avec l’avènement des systèmes d’IA « superintelligents », un domaine sur lequel il a travaillé aux côtés de Jan Leike, qui co-dirigeait l’équipe de Superalignment d’OpenAI.
Cependant, aussi bien Sutskever que Leike, ont quitté l’entreprise en mai après une rupture dramatique avec la direction d’OpenAI sur la manière d’aborder la sécurité de l’IA. Leike dirige maintenant une équipe chez Anthropic, un concurrent d’OpenAI. Depuis longtemps, Sutskever attire l’attention sur les aspects les plus problématiques de la sécurité de l’IA. Dans un article de blog publié en 2023, Sutskever, en collaboration avec Leike, prédisait qu’une IA dotée d’une intelligence supérieure à celle des humains pourrait voir le jour d’ici une décennie, qu’elle ne serait pas nécessairement bienveillante, d’où la nécessité de rechercher des moyens pour la contrôler et la restreindre.
“La superintelligence est à notre portée. Construire une superintelligence sûre (SSI) est le problème technique le plus important de notre époque.”
D’une évidence implacable, il est toujours aussi engagé dans cette cause. Mercredi après-midi, un tweet annonçant la formation de la nouvelle entreprise de Sutskever indique que: “La SSI est notre mission, notre nom et notre feuille de route de produits entiers, car c’est notre seul objectif. Notre équipe, nos investisseurs, notre modèle d’affaires sont tous alignés pour atteindre cet objectif. Nous envisageons la sécurité et les capacités simultanément, comme des problèmes techniques à résoudre par des percées révolutionnaires en ingénierie et en sciences.”
Lors d’un entretien avec Bloomberg, Sutskever a donné plus de détails sur la nouvelle entreprise, bien qu’il ait refusé de discuter de sa situation financière ou de sa valorisation. Ce qui est plus clair, c’est qu’à la différence de OpenAI – qui a démarré en 2015 comme organisation à but non lucratif avant de se restructurer lorsque le besoin en ressources financières pour sa puissance de calcul est devenu plus évident – la SSI est conçue dès le début comme une entité à but lucratif. À en juger par l’intérêt pour l’IA et les qualifications spécifiques de l’équipe, elle pourrait très prochainement être submergée de capitaux. “Parmi tous les problèmes auxquels nous sommes confrontés”, déclare Gross à Bloomberg, “lever des capitaux ne sera pas l’un d’eux”. SSI a des bureaux à Palo Alto et à Tel Aviv, où elle recrute actuellement des talents techniques.
