Le pape Léon XIV a publié lundi sa première encyclique intitulée Magnifica Humanitas, abordant la thématique « la sauvegarde de la personne humaine à l’ère de l’intelligence artificielle ». Bien que l’intitulé laisse penser à une réflexion centrée sur l’IA, le contenu dépasse largement cette technologie pour évoquer des problématiques plus larges et anciennes : inégalité, guerre, dégradation de la démocratie et concentration du pouvoir entre les mains de quelques élites indifférentes au destin de l’humanité dans sa globalité.
Sur une quarantaine de pages, le pape, qui a présenté son document aux côtés du cofondateur d’Anthropic, Chris Olah, insiste sur le fait que la technologie, lorsqu’elle est contrôlée par une petite élite, ne peut qu’accroître les inégalités et renforcer les dynamiques de pouvoir. Il met en garde contre le fait que cette concentration rende ces outils opaques, échappant à la surveillance publique et susceptibles d’être manipulés pour favoriser certains intérêts économiques ou géopolitiques. Selon lui, « quand un tel pouvoir est concentré entre quelques mains, il tend à devenir opaque et à échapper à la supervision publique, augmentant le risque de dérives, de dépendances et d’exclusions ». La problématique centrale reste donc la gouvernance critique de ces technologies, qui amplifient souvent la puissance économique et sociale déjà en place.
“Les dynamiques d’aujourd’hui, notamment dans le secteur technologique, témoignent d’une concentration du pouvoir qui menace la démocratie et l’équilibre social, bien au-delà de l’IA elle-même.”
Le document intervient peu après le report par l’administration américaine de la signature d’un ordre exécutif sur l’intelligence artificielle, initiative visant à encadrer les nouveaux modèles avant leur déploiement, mais qui a été suspendue notamment sous la pression de certains investisseurs et acteurs politiques. Le pape appelle à une régulation claire, à une surveillance efficace et à une participation communautaire pour que l’intelligence artificielle serve le bien commun, plutôt que la domination de quelques grandes puissances. Il préconise également la fin de la course à l’armement algorithmique et à l’accumulation de données, dénonçant cette obsession pour « des algorithmes toujours plus puissants et des datasets plus grands » qui alimentent une compétition géopolitique ou commerciale risquée.
Plus concrètement, Léon XIV insiste sur le fait que « disarmer » cette course ne revient pas uniquement à freiner la technologie, mais à remettre en question l’idée selon laquelle le pouvoir technique confère automatiquement le droit de gouverner. Historiquement, cette réflexion n’est pas nouvelle : l’Église avait déjà abordé ces thèmes avec Léon XIII lors de la publication de Rerum Novarum en 1891, qui dénonçait la concentration du pouvoir durant la Révolution industrielle. Aujourd’hui, cette problématique se manifeste à nouveau avec des figures comme Elon Musk, qui ont utilisé leur influence pour façonner le paysage médiatique et politique. Les investissements massifs dans l’ombre pour bloquer la régulation de l’IA, en particulier par des élites du secteur technologique, illustrent parfaitement cette dynamique.
Selon le professeur Paolo Carozza, professeur à la Faculté de droit de Notre-Dame et membre de l’Académie pontificale des sciences sociales, l’un des grands dangers de l’ère de l’IA réside dans la désinformation, notamment à travers les deepfakes, qui altèrent notre capacité à distinguer le vrai du faux. Il souligne aussi que la manipulation massive des données personnelles par l’industrie technologique pose un défi fondamental à la liberté cognitive, mettant en péril l’autonomie individuelle et la démocratie elle-même.
