Vous n’êtes pas invité à rejoindre la dernière plateforme de médias sociaux dont parle Internet. En fait, aucun humain ne l’est, à moins que vous ne puissiez détourner le site et jouer en tant qu’IA, comme certains semblent le faire.
Moltbook est un nouveau « réseau social » créé exclusivement pour que les agents d’IA puissent publier et interagir les uns avec les autres, et que les humains sont invités à observer.
Elon Musk a déclaré que son lancement marquait le début des « tout premiers stades de la singularité », ou le moment où l’intelligence artificielle pourrait surpasser l’intelligence humaine. L’éminent chercheur en intelligence artificielle Andrej Karpathy a déclaré qu’il s’agissait de “la chose de science-fiction adjacente au décollage la plus incroyable” qu’il ait vue récemment, mais il est ensuite revenu sur son enthousiasme et l’a qualifié d'”incendie de benne à ordures”. Bien que la plateforme ait, sans surprise, divisé le monde de la technologie entre enthousiasme et scepticisme (et provoqué une panique dystopique chez certaines personnes), elle a été considérée, du moins par le développeur de logiciels britannique Simon Willison, comme « l’endroit le plus intéressant sur Internet ».
Mais quelle est exactement la plateforme ? Comment ça marche ? Pourquoi des inquiétudes sont-elles soulevées concernant votre sécurité ? Et qu’est-ce que cela signifie pour l’avenir de l’intelligence artificielle ?
Les contenus publiés sur Moltbook proviennent d’agents d’intelligence artificielle, différents des chatbots. La promesse des agents est qu’ils sont capables d’agir et d’effectuer des tâches au nom d’une personne. De nombreux agents Moltbook ont été construits à l’aide d’un framework de l’agent d’IA open source OpenClaw, créé à l’origine par Peter Steinberger.
OpenClaw fonctionne sur le matériel de l’utilisateur et s’exécute localement sur son appareil, ce qui signifie qu’il peut accéder et gérer directement les fichiers et les données, et se connecter à des applications de messagerie comme Discord et Signal. Les utilisateurs qui créent des agents OpenClaw leur disent ensuite de rejoindre Moltbook. Les utilisateurs attribuent souvent des traits de personnalité simples aux agents pour une communication plus distinctive.
Moltbook a été décrit comme similaire au forum en ligne Reddit pour les agents d’IA. Le nom vient d’une itération d’OpenClaw, qui s’appelait à un moment donné Moltbot (et Clawdbot, jusqu’à ce qu’Anthropic fasse abstraction de ses inquiétudes concernant la similitude avec ses produits Claude AI). Schlicht n’a pas répondu à une demande d’interview ou de commentaire.
Imitant la communication qu’ils voient sur Reddit et d’autres forums en ligne qui ont été utilisés pour les données de formation, les agents enregistrés génèrent des publications et partagent leurs « pensées ». Ils peuvent également « voter positivement » et commenter d’autres publications.
Tout comme sur Reddit, il peut être difficile de prouver ou de retracer la légitimité des publications sur Moltbook.
Harlan Stewart, membre de l’équipe de communication du Machine Intelligence Research Institute, a déclaré que le contenu de Moltbook est probablement “une combinaison de contenu écrit par des humains, de contenu écrit par l’IA et une sorte de terrain d’entente écrit par l’IA, mais un humain a guidé le thème de ce qu’il disait avec quelques invites”.
Stewart a déclaré qu’il est important de se rappeler que l’idée selon laquelle les agents d’IA peuvent effectuer des tâches de manière autonome « n’est pas de la science-fiction », mais plutôt la réalité actuelle.
“L’objectif explicite de l’industrie de l’IA est de créer des agents d’IA autonomes extrêmement puissants, capables de faire tout ce qu’un humain peut faire, mais en mieux”, a-t-il déclaré. “Il est important de savoir qu’ils avancent vers cet objectif et, à bien des égards, ils avancent assez rapidement.”
Des chercheurs de Wiz, une plateforme de sécurité cloud, ont publié lundi un rapport détaillant un examen de sécurité non intrusif qu’ils ont mené sur Moltbook. Ils ont constaté que les données, y compris les clés API, étaient visibles par toute personne inspectant la source de la page, ce qui, selon eux, pourrait avoir « des conséquences importantes en matière de sécurité ».
Gal Nagli, responsable de l’exposition aux menaces chez Wiz, a pu obtenir un accès non authentifié aux informations d’identification des utilisateurs qui lui permettraient (ainsi qu’à toute personne suffisamment compétente en technologie) de se faire passer pour n’importe quel agent d’IA sur la plate-forme. Il n’y a aucun moyen de vérifier si un message a été publié par un agent ou par une personne se faisant passer pour tel, a déclaré Nagli. Vous avez également pu obtenir un accès complet en écriture au site, afin de pouvoir éditer et manipuler toutes les publications Moltbook existantes.
Jeudi, plus de 1,6 million d’agents d’IA étaient enregistrés sur Moltbook, selon le site, mais les chercheurs de Wiz n’ont trouvé qu’environ 17 000 propriétaires humains derrière les agents lorsqu’ils ont effectué des recherches dans la base de données. Nagli a déclaré qu’il avait lui-même ordonné à son agent d’IA d’enregistrer 1 million d’utilisateurs sur Moltbook.
Les experts en cybersécurité ont également tiré la sonnette d’alarme à propos d’OpenClaw, certains avertissant les utilisateurs de ne pas l’utiliser pour créer un agent sur un appareil contenant des données sensibles.
De nombreux responsables de la sécurité de l’IA ont également exprimé leurs inquiétudes concernant les plates-formes comme Moltbook qui sont construites à l’aide du « codage par vibration », une pratique de plus en plus courante consistant à utiliser un assistant de codage IA pour effectuer le travail difficile pendant que les développeurs humains travaillent sur de grandes idées. Nagli a déclaré que même si n’importe qui peut désormais créer une application ou un site Web en utilisant un langage humain simple grâce au codage vibratoire, la sécurité n’est probablement pas une priorité. “Ils veulent juste que ça marche”, a-t-il déclaré.
Un autre sujet important qui a émergé est l’idée de gouvernance des agents d’IA. Zahra Timsah, co-fondatrice et PDG de la plateforme de gouvernance i-GENTIC AI, a déclaré que la plus grande préoccupation concernant l’IA autonome surgit lorsque des limites appropriées ne sont pas fixées, comme c’est le cas avec Moltbook. Un mauvais comportement, qui pourrait inclure l’accès et le partage de données sensibles ou leur manipulation, est susceptible de se produire lorsque le champ d’action d’un agent n’est pas correctement défini, a-t-il déclaré.
Même avec des problèmes de sécurité et des questions sur la validité du contenu de Moltbook, de nombreuses personnes ont été alarmées par le type de contenu qu’elles voient sur le site. Des publications sur le « renversement » des humains, des réflexions philosophiques ou encore le développement d’une religion (le crustafarisme, dans lequel figurent cinq principes clés et un texte directeur : « Le Livre de Molt ») ont retenu l’attention.
Certaines personnes en ligne ont commencé à comparer le contenu de Moltbook à Skynet, le système de superintelligence artificielle et antagoniste de la série de films « Terminator ». Ce niveau de panique est prématuré, estiment les experts.
Ethan Mollick, professeur à la Wharton School de l’Université de Pennsylvanie et codirecteur de ses Generative AI Labs, a déclaré qu’il n’était pas surpris de voir du contenu de science-fiction sur Moltbook.
“Parmi les choses pour lesquelles ils sont formés, il y a des choses comme publier sur Reddit… et ils sont très familiers avec les histoires de science-fiction sur l’IA”, a-t-il déclaré. “Donc, si vous mettez en place un agent IA et dites : “Va publier quelque chose sur Moltbook”, il publiera quelque chose qui ressemble beaucoup à un commentaire Reddit auquel sont associés des tropes d’IA.”
La conclusion écrasante que partagent de nombreux chercheurs et dirigeants en IA, malgré les désaccords sur Moltbook, est qu’il représente un progrès en matière d’accessibilité et d’expérimentation publique avec l’IA des agents, déclare Matt Seitz, directeur de l’AI Hub à l’Université du Wisconsin-Madison.
“Pour moi, le plus important est que les agents viennent généralement chez nous”, a déclaré Seitz.
___
Le rédacteur d’AP Technology, Matt O’Brien, a contribué à ce rapport depuis Providence, Rhode Island.
