La société d’intelligence artificielle Anthropic a déclaré qu’elle ne pouvait pas accepter la « dernière et meilleure » offre du Pentagone pour résoudre un différend sur les restrictions imposées par l’entreprise sur la manière dont l’armée américaine peut utiliser ses modèles d’intelligence artificielle. Quelques heures seulement avant la date limite fixée vendredi pour répondre aux demandes du Pentagone ou faire face à des actions qui pourraient empêcher Anthropic de faire affaire avec toute entreprise qui fait également affaire avec l’armée américaine, le conflit est devenu de plus en plus amer.
Les responsables du Pentagone ont publiquement remis en question le caractère du PDG d’Anthropic, Dario Amodei. Pendant ce temps, les employés des laboratoires d’IA concurrents ont signé des lettres ouvertes soutenant la position d’Anthropic. Le PDG d’OpenAI, Sam Altman, a déclaré jeudi aux employés dans une note, selon Axios, qu’OpenAI imposerait les mêmes limitations en matière d’armes autonomes et de surveillance de masse qu’Anthropic alors qu’il négocie l’extension de l’utilisation de ChatGPT, actuellement disponible pour l’armée pour des cas d’utilisation non sensibles, à des domaines plus classifiés.
Le combat entre Anthropo et le Pentagone menace désormais de se transformer en une rébellion à l’échelle de l’industrie parmi les travailleurs technologiques des entreprises d’IA sur la manière dont l’armée utilise les systèmes d’IA qu’ils construisent. Jeudi, plus de 100 employés de Google ont envoyé une lettre à Jeff Dean, le scientifique en chef de l’entreprise, demandant également des limites similaires sur la manière dont l’armée américaine utilise les modèles d’IA Gemini de l’entreprise, selon le New York Times.
Jeudi, Amodei a publié une longue déclaration expliquant pourquoi l’entreprise estime qu’il devrait y avoir des restrictions sur l’utilisation de la technologie d’IA de son entreprise pour les armes autonomes et la surveillance de masse. Ce sont les deux domaines dans lesquels Anthropic restreint actuellement l’utilisation de ses modèles par l’armée, à la fois selon les termes de son contrat et grâce aux garanties qu’elle a intégrées directement dans ses modèles Claude. Le Pentagone souhaite que ces limitations soient supprimées et qu’Anthropic accepte que l’armée américaine puisse utiliser ses modèles “à des fins licites”.
Les systèmes d’IA de Frontier « ne sont pas suffisamment fiables pour alimenter des armes entièrement autonomes » et, sans une surveillance appropriée, « on ne peut pas leur faire confiance pour exercer le jugement critique dont nos troupes professionnelles hautement entraînées font preuve chaque jour », a écrit Amodei dans sa déclaration. Concernant la surveillance, il a fait valoir qu’une IA puissante peut désormais rassembler des données publiques individuellement inoffensives, telles que les journaux de localisation, l’historique de navigation et les associations sociales, pour former un portrait complet de la vie de tout citoyen américain à grande échelle.
Emil Michael, vice-secrétaire américain à la Guerre, a qualifié Amodei de “menteur” doté d’un “complexe divin”, accusant le PDG de vouloir “contrôler personnellement l’armée américaine” dans des publications sur la plateforme de médias sociaux.
Le Pentagone a exigé qu’Anthropic supprime les limitations contractuelles auxquelles il s’oppose avant 17h01. vendredi ou risquer l’annulation de son contrat de 200 millions de dollars avec l’armée américaine ou, dans une mesure plus extrême, être qualifié de « risque pour la chaîne d’approvisionnement », ce qui empêcherait de fait toute entreprise faisant affaire avec l’armée d’utiliser la technologie d’Anthropic.
Ce type de démarche est normalement réservé à des adversaires étrangers comme le chinois Huawei ou la société russe de cybersécurité Kaspersky.
“L’utiliser contre une entreprise nationale parce qu’elle n’est pas disposée à faire des compromis sur certains principes de ce type est vraiment inquiétant et sans précédent”, a déclaré Seán Ó hÉigeartaigh, directeur exécutif du Cambridge Center for the Study of Existential Risk, à Fortune.
Le ministère de la Guerre a également menacé d’invoquer la loi sur la production de défense datant de la guerre froide, en utilisant la loi pour forcer Anthropic à livrer une version sans restriction de Claude au motif que le gouvernement la considère comme essentielle à la sécurité nationale. Si le Pentagone choisit cette voie, il utilisera uniquement ses pouvoirs d’urgence pour résoudre un différend contractuel en temps de paix. Il existe un précédent à cela : l’administration Biden a également invoqué le DPA en 2023 pour forcer les laboratoires d’IA frontaliers à transmettre des informations sur la sécurité de leurs modèles d’IA. Mais forcer une entreprise à fabriquer un produit, plutôt que de simplement fournir des informations, équivaut plus à nationaliser une entreprise technologique leader.
“S’ils sont effectivement obligés de permettre que leur technologie soit utilisée d’une manière qu’ils considèrent eux-mêmes comme peu fiable dans des situations à haut risque de vie ou de mort, comme sur le champ de bataille”, a déclaré Ó hÉigeartaigh, “cela crée un précédent très dangereux.”
Le ministère de la Guerre a déclaré publiquement qu’il n’avait pas l’intention de mener une surveillance de masse ou d’exclure les humains des décisions de ciblage des armes, mais le différend pourrait dépendre de la manière dont l’une ou l’autre des parties définit « autonome » ou « surveillance » dans la pratique. Les représentants du ministère n’ont pas immédiatement répondu à une demande de commentaires de Fortune.
Un porte-parole d’Anthropic a déclaré à Fortune que l’entreprise continuait à « travailler de bonne foi » avec le ministère de la Guerre. Cependant, le porte-parole a déclaré que le texte du contrat reçu du jour au lendemain n’avait fait « pratiquement aucun progrès » sur les questions fondamentales. Le nouveau langage « présenté comme un compromis » était « combiné avec un jargon juridique qui permettrait d’ignorer ces garanties à volonté », ont-ils déclaré. Amodei a qualifié les menaces du ministère de la Guerre de « intrinsèquement contradictoires », car « l’un nous qualifie de risque pour la sécurité ; l’autre qualifie Claude d’essentiel à la sécurité nationale ».
Anthropic a reçu des éloges de certains côtés pour sa volonté de tenir bon. Lawrence Lessig, professeur de droit à Harvard, a salué la déclaration de l’entreprise comme “un bel acte d’intégrité et de principe” et l’a qualifiée d'”incroyablement rare pour notre époque”.
Les rivaux OpenAI et xAI ont conclu des contrats avec le Pentagone autorisant l’utilisation de leurs modèles à toutes fins légales, et xAI va plus loin en acceptant de déployer leurs systèmes dans certains environnements classifiés. Mais plus de 330 employés actuels des laboratoires rivaux Google DeepMind et OpenAI ont également publié une lettre ouverte de soutien à Anthropic, exhortant leurs propres dirigeants à suivre l’exemple de l’entreprise. “Ils tentent de démanteler chaque entreprise de peur que l’autre ne cède”, indique la lettre. “Cette stratégie ne fonctionne que si aucun de nous ne sait où en sont les autres.” Les signataires comprenaient des chercheurs scientifiques de haut niveau et des chercheurs nommés et anonymes des deux sociétés.
Ó hÉigeartaigh a déclaré que les résultats du différend pourraient s’étendre bien au-delà d’Anthropic lui-même. “Si le Pentagone s’en sort sans problème”, a-t-il déclaré, “cela créera un précédent qui ne sera pas bon pour l’indépendance de ces entreprises ou pour leur capacité à se conformer aux normes éthiques”.
