Miles Brundage, chercheur de longue date chez OpenAI et conseiller principal de l’équipe de préparation à l’AGI de l’entreprise, a démissionné. Dans un poste sur X mercredi et dans un essai dans sa newsletter, Brundage a déclaré qu’il pense qu’il aura plus d’impact en tant que chercheur et défenseur dans le secteur à but non lucratif, où il aura “plus de capacité à publier librement”. “Une partie de ce qui a rendu cette décision difficile est que travailler chez OpenAI est une opportunité de grand impact, maintenant plus que jamais,” a déclaré Brundage. “OpenAI a besoin d’employés qui se soucient profondément de la mission et qui s’engagent à maintenir une culture de prise de décision rigoureuse en matière de développement et de déploiement (y compris le déploiement interne, qui deviendra de plus en plus important avec le temps).”
Avec le départ de Brundage, la division de recherche économique d’OpenAI, qui jusqu’à récemment était une sous-équipe de préparation à l’AGI, sera déplacée sous le nouveau chef économiste d’OpenAI, Ronnie Chatterji. Le reste de l’équipe de préparation à l’AGI – qui est en train de se résorber – sera distribué parmi les autres divisions d’OpenAI, selon Brundage. Joshua Achiam, responsable de l’alignement des missions, prendra en charge certains des projets de préparation à l’AGI. Un porte-parole d’OpenAI a dit à TechCrunch que la société “soutient pleinement” la décision de Brundage de poursuivre sa recherche en matière de politique en dehors de l’industrie et est “profondément reconnaissante” pour ses contributions.
“Le plan de Brundage de s’investir totalement dans la recherche indépendante sur la politique de l’IA lui donne la possibilité d’avoir un impact à une échelle plus large, et nous sommes ravis d’apprendre de son travail et de suivre son impact”, a déclaré le porte-parole dans un communiqué. “Nous sommes convaincus que dans son nouveau rôle, Miles continuera à élever la barre de la qualité de l’élaboration des politiques dans l’industrie et le gouvernement.”
Le porte-parole n’a pas dit qui prendra la relève des responsabilités de Brundage. Brundage a rejoint OpenAI en 2018, où il a commencé en tant que chercheur et est ensuite devenu le responsable de la recherche en politique de l’entreprise. Avant OpenAI, Brundage était chercheur à l’Institut pour l’avenir de l’humanité de l’Université d’Oxford. Dans l’équipe de préparation à l’AGI, Brundage s’est particulièrement concentré sur le déploiement responsable des systèmes de génération de langage tels que ChatGPT. Il a dirigé d’autres initiatives ailleurs, notamment le programme de test d’équipe rouge externe d’OpenAI et ses premiers “rapports de carte de système” documentant les capacités et les limites des modèles d’IA.
Ces dernières années, OpenAI a été accusé par plusieurs anciens employés – et membres du conseil – de privilégier les produits commerciaux au détriment de la sécurité de l’IA. Dans son poste sur X, Brundage a exhorté les employés d’OpenAI à “exprimer leurs opinions” sur la manière dont l’entreprise peut faire mieux. “Certaines personnes m’ont dit qu’elles étaient tristes que je parte et ont apprécié que j’aie souvent été disposé à soulever des préoccupations ou des questions pendant que j’étais ici … OpenAI a beaucoup de décisions difficiles à prendre, et ne prendra pas les bonnes décisions si nous cédons à la pensée de groupe”, a-t-il écrit. La direction d’OpenAI a récemment vu partir plusieurs cadres de haut niveau suite à des désaccords sur la direction de l’entreprise. La CTO, Mira Murati, le directeur de la recherche, Bob McGrew, et le vice-président de la recherche, Barret Zoph, ont annoncé leur démission fin septembre. Le chercheur éminent Andrej Karpathy a quitté OpenAI en février; quelques mois plus tard, le co-fondateur et ancien chef scientifique d’OpenAI, Ilya Sutskever, a démissionné, tout comme l’ex-responsable de la sécurité, Jan Leike. En août, le co-fondateur John Schulman a annoncé qu’il quitterait OpenAI. Et Greg Brockman, le président de l’entreprise, est en congé prolongé.
Mercredi matin, OpenAI a été le sujet d’un profil du New York Times de l’ancien chercheur d’OpenAI, Suchir Balaji, qui a déclaré qu’il avait quitté l’entreprise parce qu’il ne voulait plus contribuer à des technologies qu’il croyait apporter plus de mal que de bien à la société. Balaji a également accusé OpenAI de violation du droit d’auteur en formant ses modèles sur des données protégées par des droits de propriété intellectuelle sans autorisation – une allégation que d’autres ont portée contre l’organisation dans des recours collectifs. TechCrunch a une newsletter axée sur l’IA ! Inscrivez-vous ici pour la recevoir dans votre boîte de réception tous les mercredis.
