L’Institut Cosmos, une organisation à but non lucratif dont les fondateurs comprennent le co-fondateur d’Anthropic, Jack Clark, et l’ancien technologue du département de la Défense, Brendan McCord, a annoncé un programme d’entreprise et des initiatives de recherche pour, selon les termes de l’organisation, “cultiver une nouvelle génération de technologues et d’entrepreneurs équipés d’une réflexion philosophique approfondie pour naviguer dans le territoire inexploré de notre ère IA”. McCord, président de Cosmos, a annoncé dans un billet de blog que l’Institut créera un laboratoire d’IA à l’Université d’Oxford appelé le Laboratoire d’IA centrée sur l’humain, ou “HAI Lab” en abrégé. Il sera dirigé par le philosophe d’Oxford Philipp Koralus, un autre des fondateurs de l’Institut, et cherchera à “traduire les principes philosophiques de l’épanouissement humain en logiciels libres et en systèmes d’IA”.
Qu’entend-on exactement par “traduire les principes philosophiques de l’épanouissement humain” ? Cela n’est pas clair. Mais l’idée principale est de favoriser la création de technologies d’IA qui respectent la dignité humaine tout en évitant de promouvoir une perturbation nuisible (par exemple, l’automatisation conduisant à des pertes d’emplois). Un objectif élevé et nébuleux, certes, mais que le HAI Lab s’efforcera d’atteindre. L’Institut est également en train de créer une bourse – la Bourse Cosmos – avec un premier groupe de quatre boursiers. Travaillant au HAI Lab ou dans d’autres institutions partenaires pendant “un trimestre et une année”, les boursiers collaboreront avec les mentors de Cosmos et mèneront des projets indépendants pour “[explorer] l’intersection de l’expertise en IA et de l’approfondissement philosophique”, a déclaré McCord.
Peut-être que l’Institut Cosmos se débrouillera mieux avec son adoption de ce que McCord appelle “l’accélérationisme” : l’idée que l’avenir n’est pas prédéterminé et que l’humanité est donc responsable de ce qu’il contient.
Il y a un volet d’investissement dans les plans de l’Institut, et il se lance sous la forme d’une organisation d’investissement : Cosmos Ventures. Dirigée par l’ancien responsable de produit de DeepMind, Jason Zhao, l’ancien responsable de la stratégie d’entreprise de Stripe, Alex Komoroske, Darren Zhu et Zoe Weinberg, Cosmos Ventures soutiendra “de nouveaux prototypes provocateurs, des essais et des projets créatifs qui explorent les questions fondamentales autour de la philosophie de la technologie”, a déclaré McCord. Il caractérise Cosmos Ventures comme une organisation “à faible coût”, inspirée par le modèle d’Emergent Ventures du membre de l’Institut Tyler Cowen. Les investissements varieront entre 1 000 et 10 000 dollars par projet, et les projets – qui peuvent être nouveaux ou existants – doivent produire une “livrable majeure” dans un délai de trois mois. Le premier groupe a déjà été financé, a déclaré McCord.
L’Institut Cosmos n’est pas le premier à tenter de promouvoir une vision plus éthique et humaniste de l’IA. OpenAI, fondée dans le but de fournir les avantages de l’IA avancée à toute l’humanité, a démonté des équipes entières de sécurité. Anthropic, la propre entreprise de Clark, s’est déjà positionnée comme un fournisseur plus sûr et plus éthique, mais ces derniers mois, elle a repoussé les réglementations de l’IA et a aspiré agressivement des données sans autorisation. “Nous devons construire une IA qui encourage l’interrogation plutôt que la complaisance et qui favorise l’engagement actif plutôt que la dépendance passive, surtout dans l’éducation, la médecine, la place publique et d’autres domaines vitaux”, écrit McCord. “Nous défendons une IA qui décentralise le pouvoir et permet des solutions de bas en haut, permettant aux individus et aux communautés de co-créer une société plus riche, plus diversifiée”. Ces positions sont certes admirables. Ce journaliste espère seulement que l’argent, l’influence et le pouvoir ne rendront pas la tentation d’y renoncer irrésistible.
