La chef de cabinet de la Maison Blanche, Susie Wiles, prévoit d’interroger le PDG d’Anthropic, Dario Amodei, sur le nouveau modèle Mythos de la société d’intelligence artificielle, qui a attiré l’attention du gouvernement fédéral sur la façon dont il pourrait transformer la sécurité nationale et l’économie.
Un responsable de la Maison Blanche, qui a requis l’anonymat pour discuter de la réunion prévue vendredi, a déclaré que l’administration discutait avec des laboratoires d’intelligence artificielle avancés au sujet de leurs modèles et de la sécurité de leurs logiciels. Le responsable a souligné que toute nouvelle technologie susceptible d’être utilisée par le gouvernement fédéral nécessiterait une période technique d’évaluation.
La réunion intervient après une escalade des tensions entre l’administration Trump et Anthropic, soucieux de sa sécurité, qui a cherché à ériger des barrières au développement de l’IA afin de minimiser les risques potentiels et de maximiser ses avantages économiques et de sécurité nationale pour les États-Unis.
Le président Donald Trump a tenté d’empêcher toutes les agences fédérales d’utiliser le chatbot d’Anthropic, Claude, en raison du différend contractuel entre l’entreprise et le Pentagone, et Trump a déclaré dans un message sur les réseaux sociaux en février que l’administration « ne fera plus affaire avec eux !
Le secrétaire à la Défense, Pete Hegseth, a également cherché à déclarer Anthropic comme un risque pour la chaîne d’approvisionnement, une mesure sans précédent contre une entreprise américaine qu’Anthropic a contestée devant deux tribunaux fédéraux. La société a déclaré qu’elle souhaitait avoir l’assurance que le Pentagone n’utiliserait pas sa technologie pour des armes entièrement autonomes et pour la surveillance des Américains. Hegseth a déclaré que la société doit autoriser toute utilisation que le Pentagone juge légale.
La juge de district américaine Rita Lin a rendu une décision en mars bloquant l’application de la directive de Trump sur les médias sociaux ordonnant à toutes les agences fédérales de cesser d’utiliser les produits Anthropic.
Anthropic a refusé de discuter de la réunion à l’avance.
Anthropic, basée à San Francisco, a déclaré que le nouveau modèle Mythos annoncé le 7 avril est si « étonnamment performant » qu’il limite son utilisation à certains clients en raison de sa capacité à surpasser les experts en cybersécurité humaine dans la recherche et l’exploitation des vulnérabilités informatiques.
Et tandis que certains experts du secteur se demandent si les affirmations d’Anthropic selon lesquelles une technologie d’IA trop puissante étaient un stratagème marketing, même certains des critiques les plus virulents de l’entreprise ont suggéré que Mythos pourrait représenter une nouvelle avancée dans le domaine de l’IA.
Un critique anthropique influent, David Sacks, qui était le tsar de l’IA et des cryptomonnaies à la Maison Blanche, a déclaré que les gens devraient « prendre cela au sérieux ».
“Chaque fois qu’Anthropic fait peur aux gens, vous devez vous demander : ‘Est-ce un stratagème ? Est-ce que cela fait partie de leur routine Chicken Little ? Ou est-ce réel ?'”, a déclaré Sacks sur le podcast “All-In” qu’il co-anime avec d’autres investisseurs technologiques. “Avec le cyber, je leur donnerais du crédit pour celui-ci et je dirais que c’est plus réel.”
Sacks a déclaré : « Il est tout simplement logique qu’à mesure que les modèles de codage deviennent de plus en plus performants, ils deviennent plus capables de trouver des bugs. Cela signifie qu’ils sont plus capables de trouver des vulnérabilités. Cela signifie qu’ils sont plus capables d’enchaîner plusieurs vulnérabilités et de créer un exploit.
Les avantages potentiels du modèle, ainsi que ses risques, ont également attiré l’attention en dehors des États-Unis.
L’AI Safety Institute du Royaume-Uni a déclaré avoir évalué le nouveau modèle et le considérait comme un « pas en avant » par rapport aux modèles précédents, qui s’amélioraient déjà rapidement.
“Mythos Preview peut exploiter des systèmes présentant une faible sécurité et davantage de modèles dotés de ces capacités seront probablement développés”, a déclaré l’institut dans un rapport.
Anthropic est également en pourparlers avec l’Union européenne au sujet de ses modèles d’IA, y compris des modèles avancés qui n’ont pas encore été lancés en Europe, a déclaré vendredi le porte-parole de la Commission européenne, Thomas Regnier.
Axios a d’abord rendu compte de la réunion prévue entre Wiles et Amodei.
Lors de l’annonce de Mythos, Anthropic a déclaré qu’elle formait également une initiative appelée Project Glasswing, qui rassemblerait des géants de la technologie comme Amazon, Apple, Google et Microsoft, ainsi que d’autres sociétés comme JPMorgan Chase, dans l’espoir de protéger les logiciels critiques du monde des conséquences « graves » que le nouveau modèle pourrait poser pour la sécurité publique, la sécurité nationale et l’économie.
“Nous le déployons auprès d’un sous-ensemble de certaines des plus grandes entreprises et organisations du monde afin qu’elles puissent l’utiliser pour détecter des vulnérabilités”, a déclaré Jack Clark, co-fondateur et directeur politique d’Anthropic, lors de la conférence Semafor World Economy de cette semaine.
Clark a ajouté que Mythos, bien qu’à la pointe de la technologie, n’est pas un « modèle spécial ».
“Il y aura d’autres systèmes comme celui-ci dans quelques mois par d’autres sociétés, et dans un an ou un an et demi plus tard, il y aura des modèles ouverts en provenance de Chine qui auront ces capacités”, a-t-il déclaré. Le monde devra donc se préparer aux systèmes plus puissants qui existeront en son sein.
___
O’Brien a rapporté de Providence, RI. Le journaliste économique de l’AP, Kelvin Chan, a contribué à ce rapport depuis Londres.
