Anthropic divulgue le code source de son propre outil de codage d’IA lors d’une deuxième faille de sécurité majeure | Fortune

Anthropic divulgue le code source de son propre outil de codage d’IA lors d’une deuxième faille de sécurité majeure | Fortune

Anthropic a accidentellement divulgué le code source de son outil de codage populaire Claude Code.

La fuite survient quelques jours seulement après que Fortune a rapporté que la société avait rendu public par inadvertance près de 3 000 fichiers, y compris un projet d’article de blog détaillant un futur modèle puissant qui présente des risques de cybersécurité sans précédent. Le modèle est connu en interne sous les noms de « Mythos » et « Capybara », selon le billet de blog divulgué obtenu par Fortune.

La fuite du code source a exposé environ 500 000 lignes de code dans environ 1 900 fichiers. Contacté pour commentaires, Anthropic a confirmé que « du code source interne » avait été divulgué dans une « version Claude Code ».

Un porte-parole a déclaré : « Aucune donnée client ou identifiant sensible n’a été impliqué ou exposé. Il s’agit d’un problème d’emballage de version causé par une erreur humaine, et non par une faille de sécurité. Nous mettons en œuvre des mesures pour éviter que cela ne se reproduise. »

La dernière violation de données est potentiellement plus dommageable pour Anthropic que la précédente exposition accidentelle du projet de blog de l’entreprise sur son prochain modèle. Bien que la dernière faille de sécurité n’ait pas révélé l’importance du modèle Claude lui-même, elle a permis à des personnes techniquement averties d’extraire des informations internes supplémentaires de la base de code de l’entreprise, selon un professionnel de la cybersécurité chargé par Fortune d’examiner la faille.

Claude Code est peut-être le produit le plus populaire d’Anthropic et a vu ses taux d’adoption monter en flèche par les grandes entreprises. Au moins certaines des capacités de Claude Code ne proviennent pas du vaste modèle de langage sous-jacent qui alimente le produit, mais du « faisceau » logiciel qui entoure le modèle d’IA sous-jacent et lui indique comment utiliser d’autres outils logiciels et fournit des barrières et des instructions importantes qui régissent son comportement. C’est le code source de ce harnais d’agent qui a désormais fuité en ligne.

La fuite permet potentiellement à un concurrent de faire de l’ingénierie inverse sur le fonctionnement du harnais d’agent de Claude Code et d’utiliser ces connaissances pour améliorer ses propres produits. Certains développeurs peuvent également chercher à créer des versions open source du faisceau d’agents de Claude Code basées sur le code divulgué.

Le code divulgué a également fourni davantage de preuves qu’Anthropic dispose d’un nouveau modèle en interne nommé Capybara que la société se prépare activement à lancer, selon Roy Paz, chercheur principal en sécurité de l’IA chez LayerX Security. Paz a déclaré que la société allait probablement lancer une version « rapide » et « lente » du nouveau modèle, basée sur la fenêtre contextuelle apparemment plus grande du modèle, et qu’il s’agirait du modèle le plus avancé du marché.

Actuellement, Anthropic commercialise chacun de ses modèles en trois tailles différentes. Les versions de modèles plus grandes et plus performantes portent la marque Opus ; Les versions légèrement plus rapides et moins chères, mais moins performantes, portent la marque Sonnet ; et les plus petits, les moins chers et les plus rapides s’appellent Haiku. Dans le projet de blog obtenu par Fortune la semaine dernière, Anthropic décrit le Capybara comme un nouveau niveau de modèle encore plus grand et plus performant que l’Opus, mais aussi plus cher.

La fuite la plus récente, qui a été rendue publique pour la première fois dans un L’erreur semble être une « erreur humaine » après que quelqu’un a pris un raccourci qui contournait les garanties normales de publication, a déclaré Paz. Anthropic a déclaré à Fortune que les garanties normales de libération n’avaient pas été contournées.

“Habituellement, les grandes entreprises ont des processus stricts et de multiples contrôles avant que le code n’atteigne la production, comme un coffre-fort qui nécessite plusieurs clés pour s’ouvrir”, a-t-il déclaré à Fortune. “Chez Anthropic, il semble que le processus n’était pas en place et qu’une seule mauvaise configuration ou un clic incorrect a soudainement exposé l’intégralité du code source.”

Paz a également soulevé des questions sur la manière dont l’outil pourrait potentiellement se connecter aux systèmes internes d’Anthropic. Il a déclaré que la plus grande préoccupation n’était peut-être pas l’accès direct aux modèles back-end, mais plutôt que le code divulgué pourrait révéler des détails non publics sur le fonctionnement des systèmes, tels que les API et les processus internes. Il a ajouté que ce type d’informations pourrait aider les acteurs sophistiqués à mieux comprendre l’architecture des modèles d’Anthropic et la manière dont ils sont mis en œuvre, ce qui pourrait à son tour éclairer les tentatives visant à contourner les garanties existantes.

Le modèle actuel le plus puissant d’Anthropic, le Claude 4.6 Opus, est déjà classé par l’entreprise comme un modèle dangereux en matière de risques de cybersécurité. Anthropic a déclaré que ses modèles Opus actuels sont capables d’identifier de manière autonome les vulnérabilités Zero Day des logiciels. Bien que ces capacités soient destinées à aider les entreprises à détecter et à corriger les failles, les pirates informatiques, y compris les États-nations, pourraient également les utiliser comme armes pour trouver et exploiter les vulnérabilités.

Ce n’est pas la première fois qu’Anthropic divulgue par inadvertance des détails sur son populaire outil Claude Code. En février 2025, une version antérieure de Claude Code a accidentellement exposé son code original lors d’une violation similaire. L’exposition montrait comment l’outil fonctionnait en coulisses et comment il se connectait aux systèmes internes d’Anthropic. Anthropic a ensuite supprimé le logiciel et le code public.

NOTE DE L’ÉDITEUR : Cet article a été mis à jour pour inclure des commentaires supplémentaires d’Anthropic et des clarifications de certains détails techniques provenant de l’une des sources.

Website |  + posts
spot_imgspot_img

Articles connexes

spot_imgspot_img

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici