La concurrence mondiale pour dominer l’intelligence artificielle a atteint son paroxysme, mais l’un des plus grands informaticiens du monde a averti que les grandes technologies jouaient de manière imprudente avec l’avenir de l’espèce humaine.
Les voix les plus fortes dans l’espace de l’IA se répartissent souvent en deux camps : ceux qui vantent la technologie comme étant en train de changer le monde, et ceux qui appellent à la modération – voire au confinement – avant qu’elle ne devienne une menace incontrôlée. Stuart Russell, chercheur pionnier en IA à l’Université de Californie à Berkeley, appartient fermement à ce dernier groupe. L’une de leurs principales préoccupations est que les gouvernements et les régulateurs ont du mal à suivre le rythme du déploiement rapide de la technologie, laissant le secteur privé coincé dans un nivellement par le bas qui risque de se transformer en une concurrence dangereuse sans précédent depuis le plus fort de la guerre froide.
“Le fait que les gouvernements autorisent des entités privées à jouer à la roulette russe avec chaque être humain de la planète est, à mon avis, un manquement total à leur devoir”, a déclaré Russell à l’AFP lors du AI Impact Summit à New Delhi.
Alors que les PDG du secteur technologique sont engagés dans une « course aux armements » pour développer le prochain et meilleur modèle d’IA – un objectif qui, selon l’industrie, annoncera à terme d’énormes progrès dans la recherche médicale et la productivité – beaucoup ignorent ou négligent les risques, selon Russell. Au pire, il estime que la vitesse effrénée de l’innovation non réglementée pourrait conduire à l’extinction de la race humaine.
Russell doit être conscient des risques existentiels qui sous-tendent le déploiement rapide de l’IA. L’informaticien d’origine britannique étudie l’IA depuis plus de 40 ans et a publié l’un des manuels les plus faisant autorité sur le sujet en 1995. En 2016, il a fondé un centre de recherche à Berkeley axé sur la sécurité de l’IA, plaidant pour des systèmes d’IA « probablement bénéfiques » pour l’humanité.
À New Delhi, Russell a souligné à quel point les entreprises et les gouvernements semblent être loin de cet objectif. Les critiques de Russell se concentraient sur le développement rapide de systèmes qui pourraient éventuellement dominer leurs créateurs, laissant la civilisation humaine comme « dommage collatéral dans ce processus ».
Les patrons des grandes entreprises d’IA sont conscients de ces dangers existentiels, mais ils se retrouvent néanmoins piégés par les forces du marché. « Je pense que tous les PDG des grandes sociétés d’IA veulent se séparer », a déclaré Russell, mais ils ne peuvent pas le faire « unilatéralement », car leur position serait rapidement usurpée par leurs concurrents et ils seraient immédiatement renversés par leurs investisseurs.
La nouvelle guerre froide
Les discussions sur le risque existentiel et la possible extinction de l’humanité étaient autrefois réservées au spectre d’une prolifération nucléaire incontrôlée pendant la guerre froide, lorsque les grandes puissances stockaient des armes de peur d’être dépassées par leurs rivaux. Mais les sceptiques comme Stuart Russell appliquent de plus en plus ce même cadre à l’ère de l’intelligence artificielle. La compétition entre les États-Unis et la Chine est souvent décrite comme une « course aux armements » en matière d’IA, avec le secret, l’urgence et les enjeux élevés qui ont défini la rivalité nucléaire entre Washington et Moscou dans la seconde moitié du XXe siècle.
Vladimir Poutine, le président russe, a résumé succinctement les enjeux il y a près de dix ans : « Celui qui deviendra un leader dans ce domaine deviendra le dirigeant du monde », a-t-il déclaré dans un discours de 2017.
Même si la course aux armements actuelle ne peut pas être mesurée en termes de têtes nucléaires, son ampleur se reflète dans les quantités stupéfiantes de capitaux déployés. Actuellement, les pays et les entreprises dépensent des centaines de milliards de dollars dans des centres de données énergivores pour former et exécuter l’IA. Rien qu’aux États-Unis, les analystes s’attendent à ce que les dépenses en capital en matière d’IA dépassent 600 milliards de dollars cette année.
Mais les mesures agressives des entreprises doivent encore être accompagnées de retenue par le biais de mesures réglementaires, a déclaré Russell. “Cela aide vraiment que chacun des gouvernements comprenne cette question. C’est pourquoi je suis ici”, a-t-il déclaré, faisant référence au sommet indien.
La Chine et l’UE font partie des puissances développant l’IA qui ont adopté une position plus stricte en matière de réglementation de la technologie. Ailleurs, la réalité a été plus indifférente. En Inde, le gouvernement a opté pour une approche largement déréglementaire. Pendant ce temps, aux États-Unis, l’administration Trump a épousé des idéaux favorables au marché pour l’IA et a cherché à supprimer la plupart des réglementations au niveau des États pour laisser libre cours aux entreprises.
