Le président Donald Trump a accusé Anthropic de mettre en danger les troupes et la sécurité nationale, mais le PDG Dario Amodei a déclaré que son entreprise était patriotique.
“Je pense que nous devons défendre notre pays contre des adversaires autocratiques comme la Chine et la Russie”, a-t-il déclaré. “Et c’est pourquoi nous avons été très agiles. Nous disposons d’une équipe importante du secteur public.”
Alors qu’Anthropic fournissait son IA au gouvernement, le Pentagone exigeait son utilisation sans restriction dans tous les scénarios juridiques. Mais l’entreprise a maintenu qu’elle avait des « lignes rouges », c’est-à-dire son utilisation dans la surveillance de masse nationale et les armes autonomes.
Les négociations n’ont pas abouti à un accord, ce qui a incité Trump à interdire Anthropic des agences gouvernementales, tout en accordant au Pentagone une période d’élimination progressive de six mois.
Le secrétaire à la Défense Pete Hegseth a également qualifié l’entreprise de « risque pour la chaîne d’approvisionnement », ce qui signifie que d’autres sous-traitants travaillant pour le Pentagone ne seraient pas autorisés à utiliser l’IA d’Anthropic à des fins militaires.
Amodei a déclaré à CBS qu’Anthropic était d’accord avec 98 à 99 % des cas d’utilisation militaire. Mais sa préoccupation concernant la surveillance de masse est que la dernière IA change la donne, même dans les limites légales actuelles.
“Ce n’est pas réellement illégal. Cela n’a tout simplement jamais été utile avant l’ère de l’IA. Il y a donc une manière dont la surveillance de masse nationale devance la loi”, a-t-il expliqué. “La technologie avance si vite qu’elle n’est pas en phase avec la loi.”
Quant aux armes autonomes, Amodei a déclaré que l’IA n’est pas suffisamment fiable pour exclure complètement les humains, soulignant le problème technique de « l’imprévisibilité fondamentale » des modèles actuels.
Jusqu’à présent, il ne connaît aucun exemple concret d’utilisateur se heurtant aux lignes rouges d’Anthropic, mais il a reconnu qu’il n’est pas viable à long terme qu’une entreprise privée décide de ces questions.
En fin de compte, le Congrès doit ériger des barrières à l’utilisation de l’IA, mais les législateurs tardent à agir, a déclaré Amodei. L’entreprise est également “catégoriquement opposée aux armes entièrement autonomes”, mais estime que la fiabilité de l’IA n’a pas encore atteint son apogée.
Pendant ce temps, Anthropic est toujours disposé à travailler avec le gouvernement et a suggéré aux deux parties de rester en contact.
“Nous sommes disposés à proposer nos modèles à toutes les branches du gouvernement, y compris le ministère de la Guerre, la communauté du renseignement et les branches plus civiles du gouvernement, selon les conditions que nous avons fixées dans nos lignes rouges”, a-t-il déclaré.
La mise sur liste noire d’Anthropic par Trump et Hegseth est intervenue quelques heures avant que les États-Unis et Israël ne lancent des frappes aériennes généralisées contre l’Iran, dans ce qui s’annonce comme un conflit prolongé visant un changement de régime.
L’IA est devenue un outil essentiel pour l’armée, notamment pour identifier les cibles et prédire le comportement d’un adversaire grâce à une analyse rapide du renseignement.
Lorsque CBS lui a demandé ce qu’il dirait à Trump maintenant, Amodei a répondu : « Je dirais que nous sommes des Américains patriotes. Tout ce que nous avons fait a été pour le bien de ce pays, pour le bien de soutenir la sécurité nationale des États-Unis. Notre tendance à déployer nos modèles avec l’armée est due à notre foi en ce pays. »
Mais il a ajouté : “Nous avons tracé les lignes rouges que nous avons tracées parce que nous pensons que les franchir est contraire aux valeurs américaines. Et nous voulions défendre les valeurs américaines.”
La désignation par le chef du Pentagone d’un risque lié à la chaîne d’approvisionnement menace Anthropic, une décision sans précédent contre une entreprise américaine qui pourrait nuire à sa croissance.
Amodei l’a qualifié de punitif mais a minimisé les dommages éventuels, affirmant que cela n’affecterait pas le travail non-défense effectué par les clients d’Anthropic.
« Tout ira bien pour nous », a-t-il déclaré. “L’impact de cette désignation est assez faible. La nature du tweet publié par le secrétaire a été conçue pour créer de l’incertitude, elle a été conçue pour créer une situation où les gens croyaient que l’impact serait beaucoup plus grand, elle a été conçue pour créer de la peur, de l’incertitude et du doute. Mais nous ne permettrons pas que cela réussisse. Tout ira bien.”
