Plus de 200 groupes de défense des enfants et experts exigent que YouTube bannisse complètement les « déchets » générés par l’IA de sa plateforme pour enfants, arguant que les vidéos de mauvaise qualité, produites de manière algorithmique, recâblent les jeunes cerveaux et engrangent des millions tandis que les parents et les régulateurs détournent le regard.
La lettre ouverte, organisée par le groupe de défense des enfants Fairplay et adressée au PDG de YouTube Neal Mohan et au PDG de Google Sundar Pichai, a été signée par plus de 135 organisations. Parmi les signataires figuraient l’American Federation of Teachers et l’American Counselling Association, ainsi que d’éminents chercheurs tels que Jonathan Haidt, auteur de The Anxious Generation. Les auteurs de la lettre affirment que YouTube non seulement ne parvient pas à empêcher l’IA d’atteindre les enfants, mais qu’il en profite également activement.
“Les vidéos générées par l’IA ne sont en réalité qu’une escalade d’une myriade de problèmes que YouTube rencontre déjà lorsqu’il s’agit d’interagir avec les enfants sur ses plateformes”, a déclaré à Fortune Rachel Franz, directrice du programme Young Children Thrive Offline de Fairplay. “Il est important de s’attaquer à ce phénomène d’IA, mais il est également tout aussi important de critiquer YouTube pour la façon dont sa plateforme est conçue pour inciter les utilisateurs à passer plus de temps d’une manière qui n’est pas nécessairement liée à l’IA.”
Au fait, qu’est-ce que le « ralentissement de l’IA » ?
Le terme fait référence à une vague de vidéos produites en masse et générées par l’IA inondant les plateformes comme YouTube. Le contenu est peu coûteux à créer, souvent bizarre ou absurde, et conçu pour capter et retenir l’attention des jeunes téléspectateurs (ou vraiment de n’importe quel téléspectateur). Et cher lecteur, les vidéos sont étranges : des animaux de dessins animés effectuant des tâches répétitives dans une étrange esthétique de vallée ; de fausses vidéos « éducatives » contenant des informations confuses ; ou des boucles hypnotiques sans aucun but pur. Le New York Times a documenté le phénomène dans une enquête menée en février et a découvert de telles vidéos intégrées sur YouTube Kids, une plateforme que YouTube a commercialisée comme un espace sécurisé et organisé pour les enfants.
“De nombreux contenus générés par l’IA sont en réalité conçus pour détourner l’attention des enfants, en particulier des jeunes enfants qui commencent tout juste à développer leur contrôle des impulsions, et peuvent réellement déformer la réalité, créer de la confusion et avoir un impact sur la façon dont les enfants comprennent le monde qui les entoure”, a déclaré Franz, qui a une formation en développement de la petite enfance. “Ce n’est pas un problème parental en soi. La plateforme recommande constamment du contenu IA aux jeunes utilisateurs d’une manière qu’il leur est presque impossible d’éviter.”
Les incitations financières sont incroyables. Fairplay a constaté que les principales chaînes d’IA destinées aux enfants ont généré plus de 4,25 millions de dollars de revenus annuels, certains créateurs annonçant ouvertement les revenus provenant de “contenus d’IA engageants et sans intrigue”. La lettre fait valoir qu’aucune politique ne sera suffisante tant que la plateforme n’aura pas éliminé les incitations financières pour les créateurs de ces vidéos.
“Seulement environ 5 % des vidéos YouTube destinées aux enfants de moins de 8 ans sont de très haute qualité. Et parmi ces 5 %, il y a des débats quant à savoir si elles sont vraiment de haute qualité”, a déclaré Franz. YouTube considère cependant que ce chiffre va à l’encontre de sa politique de standards.
“Nous avons des normes élevées pour le contenu YouTube Kids, notamment en limitant le contenu généré par l’IA dans l’application à un petit ensemble de chaînes de haute qualité”, a déclaré le porte-parole de YouTube, Boot Bullwinkle, à Fortune dans un communiqué. “Nous donnons également aux parents la possibilité de bloquer les chaînes. Chez YouTube, nous accordons la priorité à la transparence en matière de contenu d’IA, étiquetons le contenu de nos propres outils d’IA et exigeons des créateurs qu’ils divulguent un contenu d’IA réaliste. Nous faisons constamment évoluer notre approche pour rester à jour à mesure que l’écosystème évolue. “
comment le résoudre
La coalition s’appuie sur la recherche sur le développement de l’enfant pour affirmer qu’il ne s’agit pas d’une préoccupation spécifique. Même les adultes peuvent avoir du mal à identifier correctement le contenu généré par l’IA, et ce, dans environ 50 % des cas seulement. Plus inquiétant encore, une exposition répétée rend les gens plus susceptibles de percevoir les images de l’IA comme réelles, même après qu’on leur ait dit qu’elles étaient fausses. Pour les jeunes enfants dont le cerveau est encore en train de construire des schémas fondamentaux de la réalité, les dégâts s’aggravent avec le temps.
Les demandes de Fairplay sont structurelles et non cosmétiques. La coalition appelle YouTube à étiqueter clairement tout le contenu généré par l’IA sur la plateforme ; interdire complètement le contenu généré par l’IA sur YouTube Kids ; et interdire le contenu « conçu pour les enfants » généré par l’IA sur la plate-forme principale de YouTube. Fairplay souhaite que YouTube empêche son algorithme de recommander du contenu IA aux utilisateurs de moins de 18 ans ; introduire un commutateur parental pour désactiver le contenu de l’IA qui est désactivé par défaut ; et arrêter tout investissement dans le contenu généré par l’IA destiné aux enfants.
Ce dernier procès vise directement l’investissement de YouTube dans Animaj, un studio de divertissement pour enfants alimenté par l’IA et soutenu par l’AI Futures Fund de Google. “YouTube investit essentiellement dans le mal aux bébés en achetant Animaj”, a déclaré Franz.
Dans la déclaration de Bullwinkle à Fortune, le porte-parole a confirmé que YouTube développait des balises d’IA dédiées pour YouTube Kids, bien qu’il n’ait pas fourni de calendrier. Le PDG de YouTube, Neal Mohan, avait déjà mentionné la « gestion des déchets de l’IA » comme l’une de ses principales priorités dans sa lettre annuelle. “Pour réduire la propagation de contenus d’IA de mauvaise qualité, nous nous appuyons activement sur nos systèmes établis qui ont très bien réussi à lutter contre le spam et les pièges à clics, et à réduire la propagation de contenus répétitifs et de mauvaise qualité”, peut-on lire dans la lettre.
Bullwinkle a également noté que les 15 chaînes mentionnées dans l’article du Times ne sont pas sur YouTube Kids et que la plateforme a supprimé les vidéos qui violaient ses politiques de sécurité des enfants. Mais pour Franz, cela ne suffit pas.
“Il ne devrait pas appartenir aux chercheurs individuels de citer certaines chaînes comme exemples de choses qui pourraient potentiellement nuire aux enfants, et de faire de cela la base de la décision de YouTube de lancer la plateforme. Ce que nous avons vu avec Elsagate, c’est qu’à cette époque, YouTube a supprimé 150 000 vidéos de sa plateforme et plusieurs centaines de chaînes différentes”, a déclaré Franz. Il faisait référence à un scandale de 2017 dans lequel des milliers de vidéos sur YouTube et YouTube Kids utilisaient des personnages enfants familiers, tels qu’Elsa de La Reine des Neiges et Peppa Pig, pour dissimuler des contenus profondément troublants incluant de la violence graphique, des thèmes sexuels et la consommation de drogues, le tout masqué par des balises algorithmiques telles que « éducation » et « amusant » pour contourner les filtres et atteindre les jeunes enfants.
“Nous savons donc que YouTube a la capacité de surveiller, suivre et supprimer ces vidéos à grande échelle, mais pour le moment, ils adoptent une approche de fortune, selon laquelle les chaînes qui bénéficient d’une couverture médiatique semblent être celles pour lesquelles elles vont faire quelque chose”, a poursuivi Franz. “Mais cela ne résout pas le problème global.”
