La naissance de la « guerre à poudre » remonte au XVe siècle et à l’invention du pistolet à mèche, premier dispositif de tir mécanique. Aujourd’hui, des nuées de drones attaquent les frontières en toute impunité. En 1685, Giovanni Borelli, le physicien italien, imaginait un monde dans lequel les machines entraînées par poulies pourraient imiter les actions des animaux. Elon Musk parle désormais de robots suffisamment intelligents pour faire les courses et remplacer les chirurgiens.
Le développement technologique est immédiat et ancré dans l’histoire, à la fois Everything, Everywhere, Everything at Once et Slow Horses. Le contraste rapide/lent est intégré dans l’œuvre Calculating Empires, une fresque murale de 24 mètres de long, exposée au Musée du Design de Barcelone. Il visualise le voyage depuis l’imprimerie jusqu’aux deepfakes, du quipu, une ancienne calculatrice péruvienne faite de corde nouée, jusqu’aux systèmes de données « à l’échelle planétaire ».
“Ce que je trouve vraiment intéressant, c’est que lorsque les gens entrent dans cette installation, cela les aide à mettre ce moment en perspective”, a déclaré Kate Crawford lors du Mobile World Congress à Barcelone en mars. Crawford, professeur-chercheur en intelligence artificielle à l’Université de Californie du Sud, est le co-créateur de la fresque murale, dont la réalisation a pris quatre ans. Mettant en vedette l’artiste visuel Vladen Joler, l’œuvre nous invite tous à nous demander qui fixe les règles et décide de ce qui compte en matière de changements technologiques fondamentaux.
“Les gens ont l’impression que nous vivons dans ce présentisme technologique et dans un énorme changement”, a déclaré Crawford. “Donc, la capacité de prendre du recul et de dire : ‘Qu’avons-nous appris en 500 ans ?’ (c’est important). Pour moi (la peinture murale) a été un projet transformateur, car ce que j’ai dit très clairement, c’est que l’histoire n’est pas seulement une question d’innovation technique. « Il s’agit de savoir qui a le pouvoir de fixer les règles dans lesquelles nous vivrons. »
“C’est pourquoi l’IA des agents est si importante à l’heure actuelle, car c’est un domaine qui évolue rapidement. Les normes ne sont pas encore définies, et ce seront les gens ici, dans des salles comme celle-ci, dans des endroits comme le Mobile World Congress, qui auront ces conversations : que voulons-nous que ces normes soient, comment les mettre en œuvre dans nos systèmes et comment pouvons-nous nous protéger nous-mêmes et nos clients ?”
“Parce que c’est le moment idéal pour s’assurer qu’il s’agit d’une technologie profondément utile et utile et non d’une technologie qui ouvre des vulnérabilités, des vecteurs d’attaque et de nouvelles surfaces d’attaque et qui, en fait, pourrait également être très dangereuse sur le plan cognitif.”
Le Mobile World Congress est un phénomène. Plus de 100 000 délégués se promènent résolument dans huit salles caverneuses, chacune remplie de technologies du futur. D’immenses pavillons sponsorisés par Huawei et Google, Honor et Qualcomm exposent des innovations notables qui relient notre voiture à notre téléphone, un robot à une personne handicapée, nos lunettes à Internet. Les gouvernements avides d’influence et d’investissement rivalisent pour l’espace avec les entreprises qui espèrent gagner gros dans la révolution de l’intelligence artificielle.
Le MWC est aussi un lieu de débat. Sur les grandes scènes, les plus grands esprits technologiques du monde perdent souvent leurs conversations entre les néons clignotants et les écrans plasma interactifs. « Agir vite et casser les choses », disait Mark Zuckerberg en 2012. Aujourd’hui, les enjeux sont élevés.
Nous sommes dans une discussion animée sur le sens même de l’intelligence. Demis Hassabis, fondateur de DeepMind, a déclaré que l’intelligence artificielle générale pourrait être à notre disposition d’ici cinq ans seulement. Dans ce monde, qui ou quoi prendra les décisions ? Est-ce une question d’humains dans la boucle ? Ou est-ce un être humain en tête ? Ou bien aucun être humain n’est-il nécessaire ? Mo Gawdat, ancien directeur commercial de Google, a évoqué les risques d’une « dystopie à court terme » alors que les gouvernements, la société civile et les régulateurs luttent pour contrôler les effets des machines capables d’apprendre et de décider.
« Qu’entendons-nous par intelligence ? -Crawford a demandé. “L’histoire du terme “renseignement” est problématique. Il a été utilisé pour diviser les populations, pour faire avancer les priorités concernant qui a de la valeur et qui ne l’est pas.”
“Nous essayons de comparer les agents à l’intelligence humaine. Ils sont en fait complètement différents. Cette (intelligence) est une probabilité statistique à grande échelle. Ce sont des systèmes qui suivent des tâches dans des environnements complexes. C’est très différent de l’humain, mais cela signifie que nous devons nous poser un ensemble de questions différent, qui sont les suivantes : que font les agents ? Comment pouvons-nous suivre cela et comment pouvons-nous mieux comprendre comment cela va changer nos propres flux de travail et, bien plus important, comment nous vivons ?”
« L’histoire du terme « intelligence » est mouvementée… »
Kate Crawford, professeur de recherche sur l’intelligence artificielle à l’Université de Californie du Sud
Alors que le débat se poursuit sur les tensions entre OpenAI, Anthropic et le Département américain de la Guerre, Crawford se demande quelles sont les lignes rouges concernant l’utilisation d’agents. “Imaginez des agents sur le champ de bataille”, dit-il. Ce n’est pas nécessaire. Il a été rapporté que les bombardements de l’IA se produisent en Iran « à la vitesse de la pensée ». L’une des fonctions de l’IA est la « compression des décisions », réduisant ainsi le délai entre l’idée et l’exécution. La « chaîne de la mort » est en train de se réduire.
Crawford parle de criminalistique de responsabilité : des systèmes qui suivent où les décisions sont prises. Nous souffrons actuellement d’un blanchiment de comptes, dont personne n’assume la responsabilité. Dans la fonction publique britannique, le bras opérationnel du gouvernement, on parle de « syndrome des épaules affaissées », où chacun esquive et esquive pour se soustraire à ses responsabilités.
“Nous assistons à une sorte de jeu de coquille où (les gens disent) ‘est-ce le concepteur (qui est responsable) ? Est-ce l’exécutant ? Est-ce l’entreprise cliente ? Est-ce l’utilisateur final ?’ Et tout le monde peut dire : « eh bien, nous ne le savons pas encore ». Ce ne sera pas acceptable », a déclaré Crawford. “Je pense que ce que nous allons commencer à voir dans la conversation, en particulier avec les régulateurs, c’est une chaîne de responsabilité très solide pour savoir exactement qui est responsable et quand.”
“Nous commençons tout juste à comprendre à quoi cela ressemble”, a-t-il déclaré. Toutes les conversations doivent être substantielles. Et immédiat.
