Le secrétaire au Trésor Scott Bessent et le président de la Réserve fédérale, Jerome Powell, auraient convoqué mardi les dirigeants de Wall Street à une réunion d’urgence sur le dernier modèle d’IA d’Anthropic, signalant des inquiétudes concernant un risque accru de cybersécurité.
Bessent et Powell ont réuni le groupe de dirigeants de haut niveau au siège du Trésor pour s’assurer que les banques étaient conscientes des cyber-risques présentés par le nouveau modèle d’Anthropic, Mythos, et de futurs modèles similaires, ont rapporté Bloomberg et le Financial Times. Des sources qui ont parlé à Bloomberg ont déclaré que parmi les participants figuraient Jane Fraser, PDG de Citigroup, Ted Pick, PDG de Morgan Stanley, Brian Moynihan, PDG de Bank of America, Charlie Scharf, PDG de Wells Fargo, et David Solomon, PDG de Goldman Sachs. Le PDG de JPMorgan, Jamie Dimon, était également invité mais n’a pas pu y assister, ont indiqué les sources.
La Réserve fédérale a refusé de commenter Fortune. Le Trésor n’a pas immédiatement répondu à la demande de commentaires de Fortune.
La réunion intervient quelques semaines seulement après que Fortune a rapporté en exclusivité qu’Anthropic développait un modèle inédit décrit par la société comme « de loin le modèle d’IA le plus puissant » qu’elle ait jamais développé, dont Anthropic a rendu publique par inadvertance l’existence le mois dernier via son système de gestion de contenu. L’entreprise a ensuite reconnu ce modèle comme étant Claude Mythos.
Anthropic a publié mardi un rapport intitulé « Évaluation des capacités de cybersécurité de Claude Mythos Preview », soulignant comment le modèle a pu détecter de nombreuses vulnérabilités vieilles de 10 et 20 ans, ainsi qu’une vulnérabilité vieille de 27 ans dans OpenBSD, un système d’exploitation réputé pour être l’un des plus sécurisés.
Anthropic a informé les hauts responsables du gouvernement américain et les parties prenantes de l’industrie des capacités de Mythos Preview avant son lancement, a déclaré à Fortune une personne connaissant le sujet. Dans un article de blog, la société a déclaré qu’elle était prête à travailler avec des responsables de tous les niveaux de gouvernement pour garantir que la sécurité nationale soit une priorité lors de la mise en œuvre de nouveaux modèles d’IA et que les États-Unis conservent leur leadership dans les technologies d’IA.
Anthropic a déclaré à Fortune que le partenariat avec le gouvernement était le plan de l’entreprise depuis le début (l’entreprise est actuellement dans une bataille juridique avec le Pentagone après que le ministère de la Défense l’a mise sur liste noire pour avoir imposé des restrictions sur l’utilisation de ses technologies d’IA).
Le nouveau modèle d’IA d’Anthropic pourrait « remodeler la cybersécurité », c’est pourquoi l’entreprise a lancé le projet Glasswing
En partenariat avec JPMorgan Chase, Amazon et Google, ainsi que d’autres sociétés technologiques clés, Anthropic a lancé cette semaine le projet Glasswing, une initiative visant à protéger les logiciels critiques face aux progrès de l’IA. Dans le cadre de ce partenariat, Anthropic a déclaré dans un article de blog qu’elle partagerait ce qu’elle apprend avec les secteurs de la technologie et des services financiers.
En plus de ses partenaires, la société a étendu l’accès à 40 organisations supplémentaires qui construisent ou déploient une infrastructure logicielle critique et a engagé jusqu’à 100 millions de dollars en crédits d’utilisation Mythos Preview, l’unité d’utilisation de l’IA la plus élémentaire. Anthropic a noté que le projet a été lancé en réponse aux capacités que l’entreprise a constatées dans son nouveau modèle frontalier, Mythos, qui, selon elle, pourrait « remodeler la cybersécurité ».
“Compte tenu du rythme des progrès de l’IA, de telles capacités ne tarderont pas à proliférer, potentiellement au-delà des acteurs engagés à les déployer en toute sécurité”, prévient la publication. “Les conséquences (pour les économies, la sécurité publique et la sécurité nationale) pourraient être graves.”
Anthropic a déclaré dans le communiqué de mardi qu’il communiquerait initialement le nouveau modèle à un groupe limité de partenaires industriels pour “permettre aux défenseurs de commencer à protéger les systèmes critiques avant que des modèles dotés de capacités similaires ne soient largement disponibles”.
D’autres chefs d’entreprise ont tiré la sonnette d’alarme sur les risques de cybersécurité posés par les puissants modèles d’IA. Dimon a souligné dans sa lettre annuelle aux actionnaires les risques de cybersécurité auxquels les grandes industries et entreprises sont confrontées en raison de l’IA, affirmant que la cybersécurité “reste l’un de nos plus grands risques”. Il a ajouté : « L’IA va presque certainement aggraver ce risque. »
Dans le cadre du projet Glasswing, JPMorgan vise à réduire les cyber-risques liés à l’évolution rapide des capacités de l’IA. “La promotion de la cybersécurité et de la résilience du système financier est au cœur de la mission de JPMorgan Chase, et nous pensons que le secteur est plus fort lorsque les principales institutions travaillent ensemble sur des défis communs”, a déclaré Pat Opet, responsable de la sécurité de l’information chez JPMorgan, dans un communiqué.
« Le projet Glasswing offre une opportunité unique d’évaluer les outils d’IA de nouvelle génération pour la cybersécurité défensive dans les infrastructures critiques, à la fois selon nos propres conditions et aux côtés de leaders technologiques respectés », a-t-il ajouté.
