L’intelligence artificielle est suffisamment intelligente (et stupide) pour former de vastes cartels de fixation des prix dans les conditions des marchés financiers si elle est laissée à elle-même.
Un document de travail publié plus tôt cette année sur le site Web du Bureau national de recherche économique de la Wharton School de l’Université de Pennsylvanie et de l’Université des sciences et technologies de Hong Kong a révélé que lorsque des agents commerciaux basés sur l’IA étaient lancés sur des marchés simulés, les robots étaient de connivence les uns avec les autres, s’engageant dans une fixation des prix pour un profit collectif.
Dans l’étude, les chercheurs ont lâché des robots sur des modèles de marché, essentiellement un programme informatique conçu pour simuler les conditions réelles du marché et entraîner l’IA à interpréter les données sur les prix du marché, les teneurs de marché virtuels fixant les prix en fonction de différentes variables du modèle. Ces marchés peuvent présenter différents niveaux de « bruit », faisant référence à la quantité d’informations contradictoires et aux fluctuations des prix dans différents contextes de marché. Alors que certains robots ont été formés pour se comporter comme des investisseurs particuliers et d’autres comme des hedge funds, dans de nombreux cas, les machines ont adopté des comportements de tarification « généralisés » en refusant collectivement de négocier de manière agressive, sans qu’on leur demande explicitement de le faire.
Dans un modèle algorithmique analysant la stratégie de déclenchement des prix, les agents d’IA ont négocié de manière prudente avec des signaux jusqu’à ce qu’une fluctuation suffisamment importante du marché les incite à négocier de manière très agressive. Les robots, formés à l’aide de l’apprentissage par renforcement, étaient suffisamment sophistiqués pour comprendre implicitement qu’un trading agressif et généralisé pourrait créer davantage de volatilité sur le marché.
Dans un autre modèle, les robots IA avaient des biais excessifs et étaient formés pour internaliser le fait que si une transaction risquée aboutissait à un résultat négatif, ils ne devraient plus suivre cette stratégie. Les robots négociaient de manière conservatrice et « dogmatique », même lorsque les transactions plus agressives étaient considérées comme plus rentables, agissant collectivement d’une manière que l’étude qualifie de « stupidité artificielle ».
“Dans les deux mécanismes, ils convergent fondamentalement vers ce modèle où ils n’agissent pas de manière agressive, et à long terme, c’est bon pour eux”, a déclaré Itay Goldstein, co-auteur de l’étude et professeur de finance à Wharton, à Fortune.
Les régulateurs financiers s’efforcent depuis longtemps de lutter contre les pratiques anticoncurrentielles telles que le trucage et la fixation des prix sur les marchés. Mais dans le commerce de détail, l’IA a attiré l’attention, d’autant plus que les entreprises qui utilisent la tarification algorithmique sont sous surveillance. Ce mois-ci, Instacart, qui utilise des outils de tarification basés sur l’IA, a annoncé la fin de son programme dans lequel certains clients voyaient des prix différents pour le même article sur la plateforme de la société de livraison. Cela fait suite à une analyse de Consumer Reports qui a révélé dans une expérience qu’Instacart proposait près de 75 % de ses produits d’épicerie à des prix multiples.
“Pour la Securities and Exchange Commission et les régulateurs des marchés financiers, leur objectif principal n’est pas seulement de préserver ce type de stabilité, mais également d’assurer la compétitivité et l’efficacité du marché”, a déclaré à Fortune Winston Wei Dou, professeur de finance à Wharton et l’un des auteurs de l’étude.
Dans cet esprit, Dou et deux collègues ont entrepris d’identifier comment l’IA se comporterait sur un marché financier en plaçant des robots d’agents commerciaux sur divers marchés simulés en fonction de niveaux de « bruit » élevés ou faibles. En fin de compte, les robots ont obtenu des « avantages supraconcurrentiels » en décidant collectivement et spontanément d’éviter un comportement commercial agressif.
“Ils croyaient simplement qu’un comportement commercial sous-optimal était optimal”, a déclaré Dou. “Mais il s’avère que si toutes les machines de l’environnement fonctionnent de manière “sous-optimale”, tout le monde peut en profiter, car ils ne veulent pas profiter les uns des autres.”
En termes simples, les robots n’ont pas remis en question leurs comportements commerciaux conservateurs, car ils gagnaient tous de l’argent et ont donc cessé de s’engager dans des comportements compétitifs les uns avec les autres, formant ainsi des cartels de facto.
Craintes de l’IA dans les services financiers
Grâce à leur capacité à accroître l’inclusion des consommateurs sur les marchés financiers et à faire gagner du temps et de l’argent aux investisseurs en matière de services de conseil, les outils d’intelligence artificielle destinés aux services financiers, tels que les robots agents commerciaux, sont devenus de plus en plus attrayants. Près d’un tiers des investisseurs américains ont déclaré qu’ils étaient à l’aise d’accepter les conseils de planification financière d’un outil génératif alimenté par l’IA, selon une enquête réalisée en 2023 par le CFP Board, une organisation de planification financière à but non lucratif. Un rapport publié en juillet par la bourse de crypto-monnaie MEXC a révélé que parmi 78 000 utilisateurs de la génération Z, 67 % de ces traders ont activé au moins un robot de trading alimenté par l’IA au cours du trimestre fiscal précédent.
Mais malgré tous leurs avantages, les agents commerciaux IA ne sont pas sans risques, selon Michael Clements, directeur des marchés financiers et de la communauté au Government Accountability Office (GAO). Au-delà des préoccupations de cybersécurité et des prises de décision potentiellement biaisées, ces robots de trading peuvent avoir un réel impact sur les marchés.
“De nombreux modèles d’IA sont entraînés avec les mêmes données”, a déclaré Clements à Fortune. “S’il y a une consolidation au sein de l’IA, de telle sorte qu’il n’y ait que quelques fournisseurs majeurs de ces plateformes, un comportement grégaire pourrait se produire : un grand nombre d’individus et d’entités achètent ou vendent en même temps, ce qui peut entraîner des perturbations des prix.”
Jonathan Hall, responsable externe du comité de politique financière de la Banque d’Angleterre, a averti l’année dernière que les robots IA encouragent ce « comportement grégaire » qui pourrait affaiblir la résilience des marchés. Il a plaidé en faveur d’un « arrêt » de la technologie, ainsi que d’une plus grande surveillance humaine.
Exposer les failles réglementaires dans les outils de tarification de l’IA
Clements a expliqué que jusqu’à présent, de nombreux régulateurs financiers ont pu appliquer des règles et des statuts bien établis à l’IA, affirmant par exemple : « Qu’une décision de prêt soit prise avec l’IA ou avec du papier et un crayon, les règles s’appliquent toujours de la même manière. »
Certaines agences, comme la SEC, choisissent même de combattre le feu par le feu, en développant des outils d’intelligence artificielle pour détecter les comportements commerciaux anormaux.
“D’un côté, il peut y avoir un environnement dans lequel l’IA provoque des transactions anormales”, a déclaré Clements. “D’un autre côté, les régulateurs seraient également dans une position légèrement meilleure pour pouvoir le détecter.”
Selon Dou et Goldstein, les régulateurs ont exprimé leur intérêt pour leurs recherches, qui, selon les auteurs, ont contribué à révéler les lacunes de la réglementation actuelle autour de l’IA dans les services financiers. Lorsque les régulateurs recherchaient auparavant des cas de collusion, ils recherchaient des preuves de communication entre individus, estimant que les humains ne peuvent pas vraiment maintenir des comportements de tarification à moins qu’ils ne correspondent les uns aux autres. Mais dans l’étude de Dou et Goldstein, les robots ne disposaient d’aucun moyen explicite de communication.
“Avec les machines, lorsque vous disposez d’algorithmes d’apprentissage par renforcement, cela ne s’applique pas vraiment, car ils ne communiquent ni ne se coordonnent clairement”, a déclaré Goldstein. “Nous les codons et nous les programmons, et nous savons exactement ce qu’il y a dans le code, et il n’y a rien là-dedans qui parle explicitement de collusion. Mais avec le temps, ils apprennent que c’est la voie à suivre.”
Les différences dans la façon dont les traders humains et robots communiquent en coulisses sont l’une des « questions les plus fondamentales » sur lesquelles les régulateurs peuvent apprendre à s’adapter aux technologies d’IA en développement rapide, a soutenu Goldstein.
“Si vous l’utilisez pour considérer la collusion comme le résultat de la communication et de la coordination”, a-t-il déclaré, “ce n’est clairement pas la façon d’envisager les choses lorsqu’il s’agit d’algorithmes”.
Une version de cette histoire est apparue sur Fortune.com le 1er août 2025.
Pour en savoir plus sur la tarification de l’IA : rejoignez-nous au Fortune Workplace Innovation Summit les 19 et 20 mai 2026 à Atlanta. La prochaine ère d’innovation sur le lieu de travail est arrivée, et les vieux manuels sont en train d’être réécrits. Lors de cet événement exclusif et dynamique, les dirigeants les plus innovants du monde se réuniront pour explorer comment l’IA, l’humanité et la stratégie convergent pour redéfinir une fois de plus l’avenir du travail. Inscrivez-vous maintenant.
