xAI d’Elon Musk a limité les capacités d’imagerie de son chatbot Grok AI aux abonnés payants uniquement, à la suite d’une condamnation généralisée concernant son utilisation pour créer des images sexualisées non consensuelles de vraies femmes et enfants.
“La génération et l’édition d’images sont actuellement limitées aux abonnés payants”, a annoncé Grok via X vendredi. La restriction signifie que la grande majorité des utilisateurs ne peuvent plus accéder à la fonctionnalité. Les abonnés vérifiés et payants qui ont des détails de carte de crédit dans leurs dossiers peuvent toujours le faire, mais peuvent en théorie être plus facilement identifiés si la fonctionnalité est utilisée à mauvais escient.
Cependant, les experts, les régulateurs et les victimes affirment que les nouvelles restrictions ne constituent pas une solution au problème désormais répandu.
“L’argument selon lequel fournir des informations sur les utilisateurs et les méthodes de paiement aidera à identifier les auteurs n’est pas non plus convaincant, étant donné la facilité avec laquelle il est possible de fournir de fausses informations et d’utiliser des méthodes de paiement temporaires”, a déclaré à Fortune Henry Ajder, un expert britannique en deepfake. “La logique ici est également réactive : elle est censée aider à identifier les contrevenants une fois le contenu généré, mais elle ne représente aucun alignement ou limitation significatif par rapport au modèle lui-même.”
Le gouvernement britannique a qualifié cette mesure d’« insultante » envers les victimes, dans des déclarations rapportées par la BBC. Le porte-parole du Premier ministre britannique a déclaré vendredi aux journalistes que le changement « transforme simplement une fonctionnalité d’intelligence artificielle qui permet la création d’images illégales en un service premium ».
“Il est temps de
Un représentant de X a déclaré qu’ils « enquêtaient » sur les nouvelles restrictions. xAI a répondu avec le message automatisé : “Legacy Media Lies”.
Au cours de la semaine dernière, de vraies femmes ont été attaquées à grande échelle et des utilisateurs ont manipulé des photographies pour retirer leurs vêtements, placer des sujets en bikini ou les placer dans des scénarios sexuellement explicites sans leur consentement. Certaines victimes ont déclaré se sentir violées et perturbées par cette tendance, beaucoup affirmant que leurs rapports à X étaient restés sans réponse et que les images étaient restées publiées sur la plateforme.
Les chercheurs ont déclaré que l’échelle à laquelle Grok produisait et partageait des images était sans précédent puisque, contrairement à d’autres robots IA, Grok dispose essentiellement d’un système de livraison intégré à la plate-forme X.
Ashley St. Clair, commentatrice conservatrice et mère de l’un des enfants de Musk, faisait partie des personnes touchées par les images. St. Clair a déclaré à Fortune que les utilisateurs convertissaient des images de son profil X en photos explicites d’elle générées par l’IA, y compris certaines qui, selon elle, la montraient mineure. Après s’être prononcé contre les images et s’être dit préoccupé par les deepfakes sur des mineurs, St Clair a également déclaré que X avait supprimé son statut d’abonné payant vérifié sans l’en informer ni rembourser ses frais de 8 $ par mois.
“Le restreindre aux seuls utilisateurs payants montre qu’ils vont redoubler d’efforts, imposant un fardeau injustifié aux victimes qui doivent se présenter aux autorités et aux autorités pour qu’elles utilisent leurs ressources pour retrouver ces personnes”, a déclaré Ashley St Clair à propos des récentes restrictions. “C’est aussi une ponction financière.”
St Clair a déclaré à Fortune que bon nombre des comptes qui lui étaient adressés étaient déjà des utilisateurs vérifiés : « Ce n’est pas efficace du tout », a-t-elle déclaré. “Ce n’est qu’un aperçu des investigations policières ultérieures sur les images de Grok.”
Pression réglementaire
La décision de limiter les capacités de Grok intervient dans un contexte de pression croissante de la part des régulateurs du monde entier. Au Royaume-Uni, le Premier ministre Keir Starmer a indiqué qu’il était prêt à interdire complètement la plateforme, qualifiant son contenu de « honteux » et de « dégoûtant ». Les régulateurs en Inde, en Malaisie et en France ont également lancé des enquêtes.
Jeudi, la Commission européenne a ordonné
Les experts estiment que les nouvelles restrictions pourraient ne pas répondre aux préoccupations des régulateurs : « Cette approche est un instrument brutal qui ne résout pas la racine du problème de la gamme Grok et ne suffira probablement pas aux régulateurs », a déclaré Ajder. “Limiter les fonctionnalités aux utilisateurs payants n’arrêtera pas la génération de ce contenu ; un abonnement d’un mois n’est pas une solution solide.”
Aux États-Unis, la situation risque également de mettre à l’épreuve les lois existantes, telles que l’article 230 du Communications Decency Act, qui protège les fournisseurs en ligne de toute responsabilité concernant le contenu créé par les utilisateurs. Les sénateurs américains Ron Wyden, Edward J. Markey et Ben Ray Luján ont publié une déclaration exhortant Apple et Google à « supprimer immédiatement Apps X et Grok de leurs magasins d’applications » suite à l’utilisation présumée de Grok pour générer « des images sexualisées non consensuelles de femmes et d’enfants à grande échelle ». Les législateurs ont qualifié les images de « troublantes et probablement illégales » et ont déclaré que les applications ne devraient pas être disponibles tant que Musk n’aura pas répondu à ces préoccupations.
Le Conseil sur les relations américano-islamiques (CAIR) a également demandé qu’il soit interdit à Grok de générer « des images sexuellement explicites d’enfants et de femmes, y compris de femmes musulmanes de premier plan ».
Riana Pfefferkorn, de l’Institut pour l’intelligence artificielle centrée sur l’humain de Stanford, avait précédemment déclaré à Fortune que la responsabilité concernant les images générées par l’IA était trouble. “Nous sommes dans une situation où, pour la première fois, c’est la plateforme elle-même qui génère à grande échelle de la pornographie non consensuelle d’adultes et de mineurs”, a-t-il déclaré. “Du point de vue de la responsabilité, ainsi que du point de vue des relations publiques, les lois CSAM présentent ici le plus grand risque de responsabilité potentiel.”
Musk a déjà déclaré que “quiconque utilise Grok pour créer du contenu illégal subira les mêmes conséquences que s’il téléchargeait du contenu illégal”. Cependant, on ne sait pas encore clairement comment les comptes seront tenus responsables.
