Un scan du visage sur Instagram, une vidéo selfie sur TikTok, un mot de passe d’empreinte digitale sur YouTube et un téléchargement d’identité sur Facebook. Ce n’est pas encore le moment, mais récolter nos données biométriques pour publier un mème d’IA deviendra la norme alors que les grands réseaux sociaux traversent leur moment Big Tobacco.
Le paysage numérique subit d’énormes bouleversements au milieu de poursuites judiciaires pour dépendance aux médias sociaux et d’une lutte réglementaire effrénée sur la vérification de l’âge. Alors que les plateformes de médias sociaux sont confrontées à un règlement juridique historique concernant les « réactions négatives liées à la dopamine » et les choix de conception addictifs qui nuisent aux enfants, une crise technique et éthique fondamentale est apparue. Des pays comme l’Australie imposent des interdictions de médias sociaux aux personnes de moins de 16 ans, tandis que Meta est actuellement jugé pour des accusations de création intentionnelle d’un environnement addictif pour les enfants sur ses plateformes.
Dans la course à la vérification de l’âge d’un utilisateur (le principal outil déployé par les entreprises pour lutter contre la dépendance infantile), ces plateformes de médias sociaux ont révélé un paradoxe communément appelé le « piège de la vérification de l’âge ». Simplement en tentant d’imposer des règles de vérification de l’âge à leurs utilisateurs, ces entreprises portent atteinte à la confidentialité des données de ces mêmes utilisateurs.
Big Social a son moment Big Tobacco
Des entreprises comme Meta et TikTok font face à des poursuites judiciaires au niveau fédéral et étatique qui comparent leurs plateformes et modèles économiques à ceux des marchés du tabac et des opioïdes, alléguant que les entreprises manipulent directement et délibérément la façon dont les plateformes sont conçues pour promouvoir la dépendance des utilisateurs. Le PDG de Meta, Mark Zuckerberg, a récemment déclaré que les études scientifiques n’avaient pas prouvé le lien entre les médias sociaux et les effets néfastes sur la santé mentale, mais les experts soutiennent le contraire, affirmant que la dépendance aux médias sociaux est motivée par les mêmes algorithmes d’ingénierie destinés à maintenir l’utilisateur en ligne.
“Ces entreprises ne sont pas soumises à une certaine norme” qui empêche les enfants d’accéder à leurs plateformes, ce dont ces entreprises “bénéficient en ayant des enfants sur leur plateforme. Plus de personnes, plus de publicités”, a déclaré le Dr Debra Boeldt, psychologue clinicienne et scientifique en intelligence artificielle au sein de l’entreprise familiale de médias sociaux Aura. Boeldt, qui dirige la recherche clinique chez Aura, une société qui utilise l’intelligence artificielle pour surveiller les habitudes en ligne des enfants et protéger la vie privée des adultes, a déclaré que les enfants sont particulièrement sensibles à la conception actuelle des médias sociaux, car leurs fonctions exécutives et leur contrôle de leurs impulsions sont encore en développement.
Pour les enfants, les plateformes de réseaux sociaux ne sont pas seulement des applications, mais aussi leur principale source de lien social, et leurs recherches montrent qu’un enfant sur cinq âgé de 13 ans et moins passe quatre heures ou plus par jour sur les réseaux sociaux, ce qui entraîne des niveaux plus élevés de stress, d’anxiété et de dépression. Les enfants sont intelligents, a déclaré Boeldt, et donc s’ils sont bannis d’une plate-forme, c’est un jeu de “whack-a-mole” dans lequel ils passent simplement de l’une à l’autre.
“Les enfants sont très intelligents et c’est pourquoi ils réussissent bien”, a déclaré Boeldt à Fortune. “Ils savent se fondre dans la masse.”
Alors que les entreprises de médias sociaux cherchent à supprimer les utilisateurs mineurs de leurs plateformes ou à faire appel à l’IA pour rechercher du contenu censuré, les entreprises auront du mal à s’assurer qu’elles peuvent supprimer avec précision l’accès à toute personne en dessous d’un certain âge (Boeldt a même fait référence à des plateformes comme Instagram et TikTok qui surveillent la langue et comment les enfants ont déjà trouvé des failles, en utilisant des « PDF » ou des fichiers « non vivants », et en créant un nouveau vocabulaire qui rend ces censeurs inutiles – les enfants sont intelligents, après tout).
Pourtant, prévient-il, l’effet négatif est encore pire, puisque seuls quelques utilisateurs d’un site de réseautage social sont exclus au lieu de tous. Si les plateformes de réseaux sociaux parviennent à peine à interdire les utilisateurs mineurs mais à en supprimer l’accès à quelques-uns à la fois, un « effet d’îlot » se crée dans lequel, à moins que l’interdiction ne soit universelle, un enfant exclu des réseaux sociaux est isolé tandis que ses amis continuent de se connecter en ligne.
La réglementation suit à peine les usages.
Oubliez les poursuites judiciaires actuelles qui servent de test décisif pour les règles de conception des médias sociaux : la réglementation actuelle suit à peine la façon dont les enfants utilisent les médias sociaux, et les outils utilisés par les sociétés de médias sociaux ne parviennent pas à protéger la vie privée des utilisateurs. Ces derniers mois, les plates-formes utilisant des logiciels de vérification tiers ont vu les données de leurs utilisateurs piratées et exposées, ont dû annoncer et démissionner des censeurs basés sur l’IA et luttent contre l’opinion publique négative d’une base d’utilisateurs de plus en plus insatisfaite.
Cependant, cela ne résout pas le problème paradoxal de la collecte adéquate de données sur les enfants et les utilisateurs sans porter atteinte au droit à la vie privée des utilisateurs. Le problème s’intensifie lorsque l’on commence à rechercher les utilisateurs de ces plateformes.
« Les humains sont désormais minoritaires sur Internet ; nous avons vu le trafic de robot vers humain augmenter de 50 fois d’année en année », a déclaré Johnny Ayers, PDG de Socure, une société de logiciels de vérification d’identité basée sur l’IA. Ayers a déclaré à Fortune que grâce aux robots, l’utilisation de deepfakes a augmenté de près de 8 000 % d’une année sur l’autre, rendant inutile une grande partie des logiciels de vérification sur le marché. Au lieu de cela, l’une des vérifications numériques utilisées par son entreprise consiste à utiliser le cardan de chaque téléphone portable pour voir si un humain tient réellement le téléphone lors de la vérification d’identité.
Evin McMullen, dont la société Billions Network est utilisée pour les méthodes de lutte contre le blanchiment d’argent et Know Your Customer, affirme que la collecte de données biométriques est un moyen pour les plateformes de confirmer votre identité, car vous ne pouvez pas changer ce qu’elles disent de vous.
“Cela semble un peu effronté, mais l’idée que vous ne pouvez pas faire pivoter vos pouces signifie que vous ne pouvez pas facilement changer votre mot de passe ou gérer la sécurité de la même manière”, a déclaré McMullen à Fortune. “Les identités qui s’appuient sur la biométrie tentent vraiment de donner la priorité à la facilité d’utilisation et à la sécurité de leurs données les plus vitales”, a-t-il déclaré, ajoutant que le modèle actuel de gestion de mots de passe est “insoutenable et n’est plus sécurisé”.
Mais des problèmes se posent avec les enfants et la vie privée, un sujet qui doit être réexaminé maintenant à la lumière de la décision de la FTC sur la COPPA.
“Vous ne pouvez pas collecter de données biométriques sur un enfant”, a déclaré Ayers à Fortune. “Et alors, comment vérifier qu’une personne a 13 ans sans vérifier, sans rien collecter, qu’elle a 13 ans ?”
Les outils ne sont plus utiles
Une façon d’y parvenir est de collecter des preuves à connaissance nulle (ZKP) qui déterminent une partie à vérifier la véracité d’une déclaration et donc l’identité de cette personne. McMullen, dont les clients du secteur financier recherchent des moyens non invasifs de vérification d’identité, est l’un des principaux partisans des ZKP, ajoutant qu’ils sont particulièrement utiles pour établir la confiance entre les parties.
ZKP est une méthode qui permet à une personne cherchant à se vérifier de répondre aux déclarations d’une manière qui renforce la confiance de la partie vérificatrice sans révéler d’informations personnelles ou secrètes. Prenons, par exemple, le problème de 4+4=8. C’est quelque chose que la personne qui cherche à vérifier sait que c’est vrai, mais la méthode ZKP est basée sur la confiance. Au lieu de demander 4+4=8, le vérificateur pose une série de questions pour déterminer si la personne que vous souhaitez vérifier dit la vérité (ou dans ce cas, sait que c’est vrai). Le vérificateur peut demander : 4+4=7 ; est-ce que la somme de 4+4 est un nombre pair, et ainsi de suite, et après la série de questions, vous pouvez déterminer la véracité des déclarations de la personne, les identifiant ainsi.
Il ne s’agit pas d’une méthode courante pour prouver l’identité. Jusqu’à présent, les sociétés de médias sociaux ont utilisé un certain nombre de technologies pour vérifier l’âge des personnes, notamment en utilisant une vérification basée sur l’identité, par exemple en demandant aux utilisateurs de télécharger des pièces d’identité émises par le gouvernement ; utiliser l’IA pour scanner le visage d’un utilisateur ; suivre l’activité d’un utilisateur pour déterminer l’âge d’une personne ; et l’ajout d’outils de surveillance parentale comme Instagram, qui ont introduit des « comptes adolescents » pour alerter les parents de toute habitude en ligne néfaste.
Le nœud du problème est qu’il n’existe pratiquement aucun outil capable de vérifier l’âge d’un utilisateur sans violer intrinsèquement sa vie privée. Tout modèle précis nécessite des mesures extrêmement invasives comme la biométrie ou les pièces d’identité gouvernementales, et les pièces d’identité sont quelque chose que même les sociétés de médias sociaux hésitent à demander en raison du déficit d’identification dans lequel 15 millions d’Américains n’ont aucune pièce d’identité, un problème qui affecte de manière disproportionnée les adultes noirs et hispaniques, les immigrants et les personnes handicapées.
L’utilisation de l’IA pour scanner les visages des gens ne résout pas le problème, car les experts ont découvert que ces modèles d’IA sont moins précis pour les groupes minoritaires et classent souvent à tort les adultes comme mineurs, tandis que l’IA elle-même est incapable de discerner une voix synthétique ou une fausse voix d’un être humain réel. Les enfants, qui sont encore une fois intelligents, contourneront également fréquemment les interdictions géographiques en utilisant des VPN, comme en Floride, où l’utilisation du VPN a augmenté de 1 150 % après que l’État a interdit Pornhub. Plus important encore, il existe des risques de sécurité importants associés au stockage des documents d’identité, comme une récente violation du fournisseur tiers 5CA de Discord qui a laissé plus de 70 000 pièces d’identité gouvernementales exposées en ligne.
En fin de compte, le « piège de la vérification de l’âge » est ce qui se produit lorsque les régulateurs considèrent l’application de l’âge comme obligatoire et définissent la vie privée comme un statut facultatif. Jusqu’à ce que des méthodes telles que le ZKP ou la vérification basée sur les appareils, préviennent ces experts, ne deviennent la norme, l’ère numérique continuera à essayer de prouver l’identité d’une personne sans porter atteinte à son droit à la vie privée.
