Qui devrait contrôler l’IA ? Les entreprises qui lancent une technologie puissante sont-elles les arbitres de son destin ? Ou ce pouvoir devrait-il être entre les mains du gouvernement ?
Palmer Luckey, fondateur de la société de défense Anduril, qui vise à moderniser l’armée américaine, estime que la réponse est simple : donner le pouvoir au gouvernement. Dans une récente interview accordée au New York Post, le fondateur milliardaire s’est exprimé sur un débat croissant sur la question de savoir qui détermine la manière dont le gouvernement utilise l’IA.
Pour le milliardaire, c’est au gouvernement, et donc au peuple, de prendre des décisions d’utilisation spécifiques. Autrement, les entreprises technologiques pourraient mettre la démocratie en danger.
“Nous devons rester dans la position où tout cela est entre les mains du peuple”, a-t-il déclaré. « Quiconque dit qu’une entreprise de défense devrait aller au-delà de la loi, au-delà de ce que disent les législateurs et les dirigeants élus en termes de personnes avec lesquelles ils travailleront ou non, dit en réalité qu’ils ne croient pas à cette expérience démocratique, qu’ils veulent une « corporatocratie ».
“Dans tous les cas, toute personne que le gouvernement américain me dit que je peux et ne peux pas vendre”, a-t-il poursuivi, “occuper un autre poste, c’est tomber encore plus dans… essentiellement des dirigeants d’entreprise qui ont de facto un contrôle sur la politique étrangère américaine”.
Les pensées de Luckey surviennent alors que le PDG d’Anthropic, Dario Amodei, a refusé de permettre au Pentagone d’utiliser pleinement ses systèmes d’IA pour la surveillance de masse ou d’alimenter des armes entièrement autonomes fonctionnant sans supervision humaine. En conséquence, le ministère de la Défense a qualifié la société d’IA de « risque de chaîne d’approvisionnement », une désignation généralement réservée aux sociétés étrangères adverses telles que la société chinoise Huawei. Amodei a déclaré que le label n’aurait pas beaucoup d’impact sur les activités de l’entreprise et qu’il intenterait une action en justice pour révoquer la désignation. Néanmoins, il reste en pourparlers avec le Pentagone sur l’utilisation de ses modèles et outils d’IA.
Mais Amodei, ainsi que les fondateurs d’Anthropic, qui ont quitté OpenAI ensemble pour créer une entreprise qui, selon eux, donne la priorité à la sécurité de l’IA, soutiennent que ce que demande le Pentagone dépasse les limites. “Ces menaces ne changent pas notre position : nous ne pouvons, en toute bonne conscience, accéder à votre demande”, a déclaré Amodei dans un communiqué la semaine dernière.
Anthropic n’a pas immédiatement répondu à la demande de commentaires de Fortune.
Silicon Valley contre Washington
Le ministère de la Défense (et des personnalités comme Luckey) ne croient pas qu’il appartient à un entrepreneur privé de dicter les cas d’utilisation et soutiennent plutôt que cela relève des pouvoirs du gouvernement. Peu de temps après l’échec de l’accord Anthropic le mois dernier, OpenAI de Sam Altman a conclu un accord avec le Pentagone pour permettre l’utilisation des modèles et outils d’IA de la startup. xAI d’Elon Musk a également conclu un accord pour permettre au Pentagone d’utiliser son IA, ajoutant ainsi de la concurrence au partenariat autrefois exclusif d’Anthropic.
Anthropic n’est pas la première entreprise technologique à s’opposer au ministère de la Défense. Comme Luckey le souligne lors de l’interview, Google a quitté le Pentagone en 2018 et s’est retiré du projet Maven, qui impliquait l’analyse d’images de drones avec l’IA, après que des milliers d’employés ont protesté contre sa participation au programme, craignant qu’il ne conduise à des armes autonomes.
“Nous aurions eu un monde dans lequel les dirigeants de la Silicon Valley auraient eu plus de pouvoir en matière de politique étrangère que le président des États-Unis”, a déclaré Luckey. “C’est vraiment, vraiment dangereux.”
Pour Luckey, tout dépend de savoir si les décisions de haut niveau concernant l’utilisation de l’IA appartiennent à la Silicon Valley ou à Washington. Selon lui, peu importe qui occupe la Maison Blanche, les entreprises technologiques et le secteur privé en général ont la responsabilité d’adhérer aux décisions de politique étrangère de cette administration. Mais alors même que le conflit Anthropo-Pentagone s’intensifie, Amodei a déclaré jeudi dans un communiqué de presse que les deux parties pouvaient trouver un terrain d’entente. « Anthropic a bien plus de points communs avec le ministère de la Guerre que de différences », a-t-il déclaré.
