Le terme « récursion » est devenu le mot à la mode dans les cercles de l’intelligence artificielle. Deux startups distinctes portent le même nom, et de nombreux acteurs mentionnent désormais la « Self-Improvement Récursive » (RSI) dans leurs feuilles de route. Comme ce fut le cas pour l’Intelligence Artificielle Générale (AGI), RSI incarne une vision d’un saut exponentiel de l’IA, bien que sa signification précise fasse encore débat. En termes simples, RSI désigne un système d’IA capable de s’améliorer de manière continue et autonome, en se mettant à jour lui-même.
Une fois que ces systèmes pourront gérer le cycle d’amélioration mieux que les humains, le processus pourrait devenir une boucle fermée, limitée uniquement par la puissance de calcul à leur disposition. Ce scénario soulève à la fois fascination et inquiétude, car il pourrait signifier que l’IA ne nécessiterait plus d’interventions humaines, voire ne serait plus guidée par elles. Dernièrement, le chercheur en IA Richard Socher a lancé « Recursive Superintelligence », une initiative ayant pour objectif explicite de développer une superintelligence auto-récursive à grande échelle, où tout le processus, de l’idéation à la validation, serait automatisé.
Les défis majeurs résident dans la fiabilité de ces systèmes et dans la capacité qu’ils auront à se perfectionner sans intervention humaine, un enjeu qui reste largement à explorer.
De leur côté, des figures comme Alex Karpathy, ancien de Tesla et OpenAI, expérimentent avec des essaims d’agents pour entraîner des modèles linguistiques sur des tâches simples, dans un projet baptisé Auto-Research. Bien que ces travaux en soient encore à des améliorations mineures sur des modèles de type GPT-2, ils ont suffi pour inspirer d’autres chercheurs à poursuivre cette voie, espérant réaliser des progrès significatifs vers la self-improvement automatisée. Par ailleurs, la startup Adaption, créée par Sara Hooker d’après Cohere et Google, a lancé AutoScientist, un outil visant à automatiser la formation de modèles à la frontière de la recherche en IA. Si ces initiatives parviennent à dépasser leurs limites, elles pourraient rapidement évoluer vers une automatisation complète de la recherche, s’inscrivant ainsi dans la logique RSI.
Un exemple éclatant de potentialité de RSI est survenu lorsque Doris Xin, fondatrice de Disarray, a vu son agent d’apprentissage automatique auto-formé remporter 28 médailles lors d’une compétition Kaggle, surpassant de nombreux agents entraînés par des humains. Pour Xin, le principal défi réside dans la fiabilité des systèmes : « Avec une puissance de calcul infinie et une horizon temporel illimité, nous serions déjà là », affirme-t-elle. Selon elle, il s’agit surtout de solutions d’ingénierie plutôt que d’une quête créative.
Pourtant, il reste de nombreux doutes quant à la proximité réelle de ces systèmes récursifs. Google CEO Sundar Pichai a reconnu dans un récent entretien que, bien que tous progressent, nous ne sommes pas encore au niveau d’une RSI véritable, capable de provoquer une accélération de l’intelligence artificielle à un niveau supérieur. La majorité des chercheurs s’accordent cependant à dire que plusieurs systèmes actuels possèdent déjà des capacités d’auto-amélioration qui frôlent la transition vers une véritable RSI. Par exemple, chez Anthropic, un de leurs programmateurs principaux a admis que « près de 100 % » du code de leur modèle Claude était généré par l’outil lui-même, illustrant cette tendance à l’auto-appropriation.
Tant que la recherche et le développement en IA restent largement axés sur la montée en puissance par scale, le chemin vers une RSI autonome et fiable reste semé d’embûches majeures, notamment en matière d’ingénierie et d’alignement des objectifs.
Des avis divergents existent quant à la rapidité avec laquelle une telle évolution pourrait se produire. Certaines instances, comme le Center for Security and Emerging Technology de Georgetown, anticipent un déploiement imminent de phénomènes de « superintelligence ». D’autres, plus prudentes, prévoient une progression plus lente, pouvant atteindre un plateau avant une explosion soudaine. L’expert Ayeja Cotra a proposé une échelle pour mesurer les étapes clés vers une prise de contrôle totale, allant de « l’aptitude » à « la parité », puis à « la suprématie » de l’IA seule. Elle estime que nous pourrions déjà atteindre le stade de l’« adéquation », où l’IA en recherche fonctionnerait sans intervention humaine, avec les yeux tournés vers la parité et la suprématie, qui impliqueraient une accélération exponentielle des progrès IA.
