La question de savoir quand prendre au sérieux les « alarmistes de l’IA » est au cœur du procès opposant Elon Musk à OpenAI. Ce dernier cherche à faire fermer l’entreprise à but lucratif, arguant que cette organisation, initialement créée comme une charité soucieuse de la sécurité de l’intelligence artificielle, s’est éloignée de ses objectifs pour poursuivre des profits. Les avocats de Musk ont mis en avant d’anciens courriels et déclarations des fondateurs d’OpenAI pour prouver cette divergence, évoquant leur volonté d’établir un contrepoids public à Google DeepMind.
Lors de l’audience, l’un des moments clés a été la confrontation avec Stuart Russell, professeur en informatique à l’Université de Californie, Berkeley, et spécialiste de longue date de l’IA. Sa mission était d’apporter un contexte technique sur le sujet et de souligner que cette technologie comporte des risques significatifs. En mars 2023, Russell avait signé une lettre ouverte appelant à une pause de six mois dans la recherche sur l’IA, une position qu’il a réitérée lors de cette procédure, même si paradoxalement Elon Musk, co-signataire de cette lettre, lançait aussi son propre laboratoire d’IA, xAI, axé sur le profit.
Durant ses déclarations, Russell a décrit une série de dangers liés à l’avancée de l’IA, tels que les menaces en cybersécurité, la mauvaise gestion des risques d’alignement de l’IA avec l’humain, ou encore la tendance à la concentration du pouvoir dans la course à la création d’une intelligence artificielle générale (AGI). Il a insisté sur le conflit inhérent entre la recherche d’AGI et la nécessité de garantir la sécurité, sans que ses propos exploitent pleinement le risque existentiel que pose une IA non contrôlée. Cependant, ses conclusions sur la compétition mondiale pour atteindre l’AGI ont été quelque peu limitées par la cour suite à des objections des avocats d’OpenAI.
La justice doit jauger entre la soif de profit et la nécessité de sécuriser un avenir où l’IA pourrait devenir une menace existentielle.
Malgré cela, Stuart Russell est reconnu comme un critique virulent de la course à l’armement technologique que ses concurrents alimentent à l’échelle mondiale. Il a souvent plaidé pour une régulation gouvernementale plus stricte afin de limiter cette course effrénée. Les fondateurs d’OpenAI, tout en étant eux-mêmes préoccupés par les risques, ont également poursuivi la vitesse de développement pour profiter des bénéfices potentiels de l’IA, ce qui a accentué les tensions internes et alimenté l’échiquier concurrentiel actuel. La nécessité de financements issus du secteur privé pour progresser a rapidement renforcé cette dynamique, créant une rupture au sein de l’organisation et déclenchant la course qui conduit aujourd’hui à ce litige judiciaire.
Ce phénomène ne se limite pas au domaine privé : la tension entre innovation et régulation se manifeste également sur le plan national. À cet égard, le sénateur Bernie Sanders a récemment proposé un moratoire sur la construction de centres de données, une mesure que certains estiment essentielle, et que d’autres, comme Hodan Omaar du Center for Data Innovation, considèrent comme un débat complexe. La question essentielle qui se pose désormais est de savoir dans quelle mesure il faut prendre au sérieux la rhétorique alarmiste de certains « titans » de la tech, tout en conservant une approche équilibrée face à leurs ambitions et leurs avertissements.
Les deux parties dans cette affaire invitent la cour à faire preuve de discernement, en prenant en considération certains arguments, tout en rejetant ceux qui semblent moins pertinents dans le contexte juridique. La fin de ce procès pourrait ainsi influencer durablement la régulation et le développement futur de l’intelligence artificielle, entre la recherche de progrès et la nécessité de prévenir des risques existentiels.
