Les principaux développeurs d’IA, tels qu’OpenAI et Anthropic, marchent sur une ligne de crête délicate pour vendre des logiciels à l’armée américaine: rendre le Pentagone plus efficace, sans laisser leur IA tuer des personnes. Aujourd’hui, leurs outils ne sont pas utilisés comme des armes, mais l’IA offre au Département de la Défense un “avantage significatif” pour identifier, suivre et évaluer les menaces, a déclaré à TechCrunch dans une interview téléphonique le responsable en chef du numérique et de l’IA du Pentagone, le Dr Radha Plumb. «Nous augmentons évidemment les moyens par lesquels nous pouvons accélérer l’exécution de la chaîne de la mort afin que nos commandants puissent réagir à temps pour protéger nos forces», a déclaré Plumb.
La “chaîne de la mort” fait référence au processus militaire d’identification, de suivi et d’élimination des menaces, impliquant un système complexe de capteurs, de plates-formes et d’armes. L’IA générative s’avère utile lors des phases de planification et de stratégie de la chaîne de la mort, selon Plumb. La relation entre le Pentagone et les développeurs d’IA est relativement récente. OpenAI, Anthropic et Meta ont modifié leurs politiques d’utilisation en 2024 pour laisser les agences américaines de renseignement et de défense utiliser leurs systèmes d’IA. Cependant, ils ne permettent toujours pas à leur IA de nuire aux humains. «Nous avons été très clairs sur ce que nous utiliserons et n’utiliserons pas de leurs technologies», a déclaré Plumb, lorsqu’on lui a demandé comment le Pentagone travaille avec les fournisseurs de modèles d’IA.
«Jouer à travers différents scénarios est quelque chose pour lequel l’IA générative peut être utile», a déclaré Plumb. «Cela vous permet de tirer parti de la gamme complète d’outils dont disposent nos commandants, mais aussi de réfléchir de manière créative à différentes options de réponse et aux compromis potentiels dans un environnement où il existe une menace potentielle, ou une série de menaces, qui doivent être poursuivies. »
Il n’est pas clair quelle technologie le Pentagone utilise pour ce travail; l’utilisation de l’IA générative dans la chaîne de la mort (même à la phase de planification précoce) semble violer les politiques d’utilisation de plusieurs développeurs de modèles principaux. La politique d’Anthropic, par exemple, interdit d’utiliser ses modèles pour produire ou modifier des “systèmes conçus pour causer du tort ou la perte de vies humaines”. En réponse à nos questions, Anthropic a orienté TechCrunch vers l’interview récente de son PDG Dario Amodei avec le Financial Times, où il a défendu son travail militaire.
Ces derniers mois, un débat sur la technologie de la défense a éclaté sur la question de savoir si les armes à IA devraient vraiment être autorisées à prendre des décisions de vie ou de mort. Certains soutiennent que l’armée américaine possède déjà des armes qui le font. Le PDG d’Anduril, Palmer Luckey, a récemment noté sur X que l’armée américaine a une longue histoire d’achat et d’utilisation de systèmes d’armes autonomes tels qu’une tourelle CIWS.
Lorsque TechCrunch a demandé si le Pentagone achète et exploite des armes entièrement autonomes, sans aucun humain dans la boucle, Plumb a rejeté l’idée par principe. «Non, est la réponse courte», a-t-elle déclaré. «Par souci de fiabilité et d’éthique, nous aurons toujours des humains impliqués dans la décision d’employer la force, et cela inclut pour nos systèmes d’armes.» Le mot “autonomie” est quelque peu ambigu et a suscité des débats dans toute l’industrie technologique sur le moment où les systèmes automatisés – tels que les agents de codage d’IA, les voitures autonomes ou les armes qui tirent d’elles-mêmes – deviennent véritablement indépendants. Plumb a suggéré que l’utilisation de systèmes d’IA par le Pentagone est vraiment une collaboration entre les humains et les machines, où les dirigeants prennent des décisions actives tout au long du processus.
