Les chiffres sont stupéfiants, mais les experts affirment que ce que nous constatons n’est qu’un début. Alors que les contenus pédopornographiques générés par l’IA atteignent des niveaux records, les chercheurs préviennent que la technologie non seulement produit davantage de contenus préjudiciables, mais qu’elle change fondamentalement la manière dont les enfants sont ciblés ; comment les survivants sont à nouveau victimisés ; et comment les chercheurs sont débordés.
Les chercheurs étaient déjà occupés à supprimer le CSAM d’Internet. Mais avec l’IA générative, ce défi a été exacerbé. L’Internet Watch Foundation (IWF), la plus grande ligne d’assistance téléphonique d’Europe pour lutter contre les images d’abus sexuels sur des enfants en ligne, a documenté une multiplication par 260 des vidéos d’abus sexuels sur des enfants générées par l’IA en 2025. Ce nombre est passé de seulement 13 vidéos l’année précédente à 3 443. Les chercheurs qui ont passé des années à suivre ce sujet affirment que l’explosion n’est pas une surprise. Il s’agit cependant d’un avertissement.
“Tous les chiffres que nous voyons ne sont que la pointe de l’iceberg”, a déclaré Melissa Stroebel, vice-présidente de la recherche et des informations stratégiques chez Thorn, une organisation à but non lucratif qui développe des technologies pour lutter contre l’exploitation sexuelle des enfants en ligne. “Il s’agit de ce qui a été détecté ou signalé de manière proactive.”
Cette hausse est une conséquence directe du fait que l’IA générative devient plus rapide, moins chère et plus accessible aux mauvais acteurs. Thorn a identifié trois manières distinctes dont ces outils sont utilisés comme armes contre les enfants.
Le premier est la revictimisation des survivants d’abus historiques. Un garçon qui a été maltraité en 2010 et dont les images circulent en ligne depuis plus d’une décennie est désormais confronté à un tout nouveau niveau de préjudice. Les criminels utilisent l’IA pour prendre ces images existantes et les personnaliser – en s’insérant dans des scènes d’abus enregistrées pour produire de nouveaux contenus.
“Tout comme vous pouvez Photoshop pour la grand-mère qui a raté sa photo de Noël”, a déclaré Stroebel à Fortune, “les mauvais acteurs peuvent la transformer en scènes et en enregistrements d’un enfant identifié.” Ce processus crée une nouvelle victimisation pour les survivants qui ont peut-être passé des années à essayer de surmonter leurs abus.
La seconde est l’utilisation d’images innocentes comme armes. Une photographie d’un enfant sur le site Web d’une équipe de football scolaire constitue désormais un élément potentiel d’abus. Grâce aux outils d’intelligence artificielle largement disponibles, un criminel peut transformer cette image totalement inoffensive en matériel sexuellement abusif en quelques minutes. Thorn documente également des cas entre pairs, dans lesquels un jeune crée des images abusives d’un camarade de classe sans pleinement comprendre la gravité du préjudice qu’il cause.
Le troisième impact, et le plus systémique, est la pression exercée sur les canaux de signalement déjà débordés. Le Centre national pour les enfants disparus et exploités reçoit chaque année des dizaines de millions de signalements CSAM. La rapidité avec laquelle l’IA peut désormais générer de nouveaux matériaux aggrave considérablement ce fardeau et crée une nouvelle urgence. Lorsqu’une nouvelle image arrive, les chercheurs doivent déterminer si elle représente un enfant en danger actif à ce moment-là ou s’il s’agit d’une image générée par l’IA.
“Ce sont des éléments vraiment essentiels pour les aider à trier et à répondre à ces cas”, a déclaré Stroebel. Le contenu généré par l’IA rend ces déterminations beaucoup plus difficiles, mais il a ajouté que les autorités signalent et traitent les cas d’une image prise en temps réel et d’une image générée par l’IA de la même manière.
La technologie a également rendu dangereusement obsolètes certaines des directives de sécurité des enfants les plus souvent répétées. Depuis des années, les enfants sont avertis de ne pas partager d’images en ligne comme mesure de protection fondamentale contre l’exploitation. Ce conseil n’est plus valable. Les propres recherches de Thorn ont révélé qu’un jeune sur 17 a personnellement été victime d’abus d’images deepfake, et qu’un sur huit connaissait quelqu’un qui avait été agressé. Les victimes de sextorsion reçoivent désormais des images qui leur ressemblent exactement, des images qu’elles n’ont jamais prises.
“Il n’est plus nécessaire qu’un enfant ait partagé une image pour être exploité”, a déclaré Stroebel.
Sur le plan de la détection, la technologie de hachage traditionnelle, qui fonctionne comme une empreinte digitale pour les fichiers abusifs connus, ne peut pas identifier le contenu généré par l’IA car chaque image créée de manière synthétique est techniquement nouvelle. Prenez, par exemple, une photo de quelque chose de connu, comme la Statue de la Liberté. Cette photo de la statue porte une empreinte digitale. Maintenant, disons que vous zoomez, zoomez encore et zoomez à nouveau pour modifier l’ombrage d’un pixel de 0,1 %. Ce changement est probablement imperceptible à l’œil humain. Cependant, l’empreinte digitale de cette photo est désormais complètement nouvelle, ce qui signifie que la technologie de hachage ne la reconnaît pas comme la même photo, à un pixel près.
Auparavant, avec la technologie de hachage traditionnelle, faire une différence d’un pixel avec une photo connue comme étant CSAM signifiait que la technologie ne la détecterait pas. Cependant, la technologie de classification, qui évalue ce que contient une image plutôt que de la faire correspondre à un fichier connu, est désormais essentielle pour détecter un contenu qui autrement passerait complètement inaperçu.
Pour les parents, le message de Stroebel est urgent et sans ambiguïté. La conversation ne peut pas attendre et doit aller au-delà des anciens avertissements. Si un enfant se manifeste, la première réponse ne peut pas être le scepticisme : « Notre travail consiste à se demander : « Êtes-vous en sécurité et comment puis-je vous aider à passer à l’étape suivante ? »
