OpenAI a annoncé une nouvelle nomination à son conseil d’administration : Zico Kolter. Kolter, professeur et directeur du département d’apprentissage automatique à l’Université Carnegie Mellon, concentre principalement ses recherches sur la sécurité de l’IA. Ce qui fait de lui un “directeur technique indispensable pour la gouvernance d’OpenAI”, écrit OpenAI dans un billet sur son blog officiel. La sécurité de l’IA a été un gros problème au sein de l’entreprise. La nomination de Kolter intervient quelques mois après que plusieurs dirigeants et employés d’OpenAI figuraient parmi ceux qui se sont concentrés sur la sécurité, dont le co-fondateur Ilya Sutskever, ont quitté l’entreprise.
Plusieurs de ces démissions venaient de l’ancienne équipe de “Superalignment” de Sutskever, qui se concentré sur les moyens de gouverner les systèmes d’IA “super intelligents”, mais qui, selon une source, s’est vu refuser l’accès aux ressources informatiques initialement promises. Kolter rejoindra également le comité de sécurité et de sûreté du conseil d’administration d’OpenAI aux côtés des directeurs Bret Taylor, Adam D’Angelo, Paul Nakasone, Nicole Seligman, du PDG Sam Altman et des experts techniques d’OpenAI. Le comité est chargé de formuler des recommandations sur les décisions en matière de sécurité et de sûreté pour tous les projets d’OpenAI – mais, comme nous l’avons noté dans un article en mai, il est composé principalement d’initiés, ce qui a suscité des questions parmi les observateurs sur son efficacité.
“Zico apporte une compréhension technique approfondie et une perspective en matière de sécurité et de robustesse de l’IA qui nous aideront à garantir que l’intelligence artificielle générale profite à l’ensemble de l’humanité.”, a déclaré le président du conseil d’administration d’OpenAI, Taylor, dans un communiqué.
Kolter, anciennement scientifique en chef des données chez C3.ai, a obtenu son doctorat en informatique à l’Université Stanford en 2010, suivi d’un poste de chercheur postdoctoral au MIT de 2010 à 2012. Ses recherches incluent la démonstration du potentiel de contourner les protections existantes de l’IA à l’aide de techniques d’optimisation automatisées. Habitué des collaborations industrielles, Kolter est actuellement “expert en chef” chez Bosch et conseiller technique en chef chez la start-up d’IA Gray Swan.
La sécurité de l’entreprise est une de ses grandes préoccupations, et l’ajout de Zico, avec ses recherches centrées sur la sécurité et son expérience en tant qu’expert dans plusieurs compagnies d’IA, semble être un ajout très pertinent et nécessaire pour le comité de sécurité et de sûreté du conseil d’administration d’OpenAI.
