Le PDG d’Anthropic, Dario Amodei, veut que vous sachiez qu’il n’est pas un “catastrophiste” de l’IA. C’est du moins ce que j’ai retenu du très long essai, d’environ 15 000 mots, que Amodei a publié sur son blog tard vendredi soir. Amodei esquisse un tableau d’un monde où tous les risques liés à l’IA sont atténués, et la technologie offre une prospérité, un élan social et une abondance jusque-là inédits. Il affirme que cela ne vise pas à minimiser les inconvénients de l’IA – au départ, Amodei met en cause, sans nommer de noms, les entreprises d’IA qui surestiment et propagent généralement les capacités de leur technologie.
Mais on pourrait soutenir que l’essai penche un peu trop vers l’utopisme technologique, en faisant des affirmations tout simplement non étayées par les faits. Amodei estime que l’IA “puissante” arrivera dès 2026. Par IA puissante, il entend une IA qui est “plus intelligente qu’un lauréat du prix Nobel” dans des domaines tels que la biologie et l’ingénierie, et qui peut accomplir des tâches telles que résoudre des théorèmes mathématiques non résolus et écrire “de très bons romans”.
“Selon Amodei, si l’IA prend en charge chaque travail concevable et le fait mieux et plus rapidement, cela laissera les humains dans une situation économique précaire. Amodei admet cela, oui, et à ce moment-là, la société devra avoir des conversations sur “comment l’économie devrait être organisée”.
Cette IA, selon Amodei, sera capable de contrôler tout logiciel ou matériel imaginable, y compris les machines industrielles, et de faire essentiellement la plupart des tâches que font les humains aujourd’hui – mais mieux. “Cette IA peut engager n’importe quelles actions, communications, ou opérations à distance…y compris prendre des actions sur internet, donner ou prendre des instructions aux humains, commander des matériaux, diriger des expériences, regarder des vidéos, faire des vidéos, etc.”, écrit Amodei. “Elle n’a pas d’incarnation physique (autre que celle de vivre sur un écran d’ordinateur), mais elle peut contrôler les outils physiques existants, les robots ou les équipements de laboratoire via un ordinateur ; en théorie, elle pourrait même concevoir des robots ou des équipements pour son propre usage. “
Il y a beaucoup à faire pour en arriver là. Même la meilleure IA d’aujourd’hui ne peut pas “penser” comme nous le comprenons. Les modèles ne raisonnent pas vraiment, ils répliquent plutôt les patterns qu’ils ont observé dans leurs données d’entraînement. Supposons, aux fins de l’argumentation d’Amodei, que l’industrie de l’IA parvienne bientôt à “résoudre” la pensée humaine. La robotique se rattraperait-elle pour permettre à l’IA du futur de réaliser des expériences en laboratoire, de fabriquer ses propres outils, et ainsi de suite? La fragilité des robots actuels suggère que c’est peu probable. Pourtant, Amodei est optimiste – très optimiste.
