Le prince Harry et son épouse Meghan se sont joints à d’éminents informaticiens, économistes, artistes, dirigeants chrétiens évangéliques et commentateurs conservateurs Steve Bannon et Glenn Beck pour appeler à l’interdiction de la « superintelligence » de l’IA qui menace l’humanité.
La lettre, publiée mercredi par un groupe de personnalités politiques et géographiques diverses, s’adresse directement aux géants de la technologie comme Google, OpenAI et Meta Platforms, qui se font concurrence pour construire une forme d’intelligence artificielle conçue pour surpasser les humains dans de nombreuses tâches.
La lettre appelle à une interdiction à moins que certaines conditions ne soient remplies.
La déclaration de 30 mots se lit comme suit :
“Nous appelons à une interdiction du développement de la superintelligence, qui ne soit pas levée avant qu’il n’y ait un large consensus scientifique sur le fait que cela se fera de manière sûre et contrôlable, et une forte acceptation du public.”
Dans un préambule, la lettre note que les outils d’IA peuvent apporter santé et prospérité, mais parallèlement à ces outils, « de nombreuses grandes sociétés d’IA ont pour objectif déclaré de construire une superintelligence au cours de la prochaine décennie, capable de surpasser de manière significative tous les humains dans pratiquement toutes les tâches cognitives. voire une possible extinction humaine.
Qui a signé et ce qu’ils en disent
Le prince Harry a ajouté dans une note personnelle que “l’avenir de l’IA devrait servir l’humanité, et non la remplacer. Je crois que le véritable test du progrès ne sera pas la rapidité avec laquelle nous avançons, mais la sagesse avec laquelle nous dirigeons. Il n’y a pas de seconde chance.”
Aux côtés du duc de Sussex, son épouse Meghan, la duchesse de Sussex, a signé.
“Il ne s’agit pas d’une interdiction ni même d’un moratoire au sens habituel du terme”, a écrit un autre signataire, Stuart Russell, pionnier de l’IA et professeur d’informatique à l’Université de Californie à Berkeley. “Il s’agit simplement d’une proposition visant à exiger des mesures de sécurité adéquates pour une technologie qui, selon ses développeurs, a de fortes chances de provoquer l’extinction de l’humanité. Est-ce trop demander ?”
Les pionniers de l’IA Yoshua Bengio et Geoffrey Hinton, co-lauréats du Turing Award, la plus haute récompense en informatique, ont également signé. Hinton a également remporté le prix Nobel de physique l’année dernière. Tous deux ont attiré l’attention sur les dangers d’une technologie qu’ils ont contribué à créer.
Mais la liste réserve également quelques surprises, notamment Bannon et Beck, dans une tentative des organisateurs de la lettre du Future of Life Institute, une organisation à but non lucratif, de faire appel au mouvement Make America Great Again du président Donald Trump, alors même que le personnel de Trump à la Maison Blanche a cherché à réduire les limites du développement de l’IA aux États-Unis.
Sur la liste figurent également le co-fondateur d’Apple, Steve Wozniak ; le milliardaire britannique Richard Branson ; l’ancien président des chefs d’état-major interarmées des États-Unis, Mike Mullen, qui a servi sous les administrations républicaine et démocrate ; et l’experte démocrate en politique étrangère Susan Rice, qui était la conseillère à la sécurité nationale du président Barack Obama.
L’ancienne présidente irlandaise Mary Robinson et plusieurs parlementaires britanniques et européens ont signé, tout comme les acteurs Stephen Fry et Joseph Gordon-Levitt, ainsi que le musicien William, qui a par ailleurs adopté l’IA dans la création musicale.
“Oui, nous voulons des outils d’IA spécifiques qui peuvent aider à guérir des maladies, à renforcer la sécurité nationale, etc.”, a écrit Gordon-Levitt, dont l’épouse, Tasha McCauley, a siégé au conseil d’administration d’OpenAI avant le bouleversement qui a conduit à l’éviction temporaire du PDG Sam Altman en 2023. “Mais l’IA doit-elle également imiter les humains, soigner nos enfants, nous rendre tous accros aux déchets et gagner des millions de dollars en publicité ? “La plupart des gens ne veulent pas ça.”
Les inquiétudes concernant la superintelligence de l’IA alimentent-elles également l’enthousiasme pour l’IA ?
La lettre est susceptible de déclencher des débats en cours au sein de la communauté des chercheurs en IA sur la probabilité d’une IA surhumaine, les voies techniques pour y parvenir et à quel point elle pourrait être dangereuse.
“Dans le passé, les combats se déroulaient principalement entre nerds et nerds”, a déclaré Max Tegmark, président du Future of Life Institute et professeur au Massachusetts Institute of Technology. “J’ai l’impression que ce que nous constatons réellement ici, c’est à quel point les critiques sont devenues répandues.”
Pour compliquer les débats plus larges, les mêmes entreprises qui s’efforcent de réaliser ce que certains appellent la superintelligence et d’autres l’intelligence artificielle générale, ou AGI, gonflent aussi parfois les capacités de leurs produits, ce qui peut les rendre plus commercialisables et a contribué aux inquiétudes concernant une bulle de l’IA. OpenAI a récemment été critiqué par des mathématiciens et des scientifiques en IA lorsque son chercheur a affirmé que ChatGPT avait découvert des problèmes mathématiques non résolus, alors qu’en réalité, il avait trouvé et résumé ce qui était déjà en ligne.
“Beaucoup de choses sont surévaluées et vous devez être prudent en tant qu’investisseur, mais cela ne change rien au fait que si vous faites un zoom arrière, l’IA a progressé beaucoup plus rapidement au cours des quatre dernières années que la plupart des gens ne l’avaient prédit”, a déclaré Tegmark.
Le groupe de Tegmark était également à l’origine d’une lettre de mars 2023, toujours à l’aube d’un boom commercial de l’IA, appelant les géants de la technologie à suspendre temporairement le développement de modèles d’IA plus puissants. Aucune des grandes sociétés d’IA n’a répondu à cet appel. Et le signataire le plus éminent de la lettre de 2023, Elon Musk, fondait dans le même temps discrètement sa propre startup d’intelligence artificielle pour rivaliser avec celles dont il souhaitait prendre une pause de six mois.
Lorsqu’on lui a demandé s’il avait de nouveau contacté Musk cette fois-ci, Tegmark a répondu qu’il avait écrit aux PDG de tous les principaux développeurs d’IA aux États-Unis, mais qu’il ne s’attendait pas à ce qu’ils signent.
“Franchement, je sympathise vraiment avec eux, car ils sont tellement pris dans cette course vers le bas qu’ils ressentent une pression irrésistible pour continuer et ne pas se laisser dépasser les uns par les autres”, a déclaré Tegmark. “Je pense que c’est pour cela qu’il est si important de stigmatiser la course à la superintelligence, au point où le gouvernement américain intervient tout simplement.”
