France | Ces mots qu’il faut connaître pour protéger les enfants

Des visages d’adolescentes réelles aux corps numériquement dénudés, des vidéos d’enfants qui n’existent pas en train d’être violés…

Les images d’abus sexuels générés par l’intelligence artificielle (IA) vont-elles submerger Internet ?

Après plus d’un an d’enquête, la Fondation pour l’enfance présente ce mardi aux sénateurs un rapport sur l’usage de l’IA à des fins pédopornographiques.

Son constat est sans appel : la pratique s’accélère.

« N’importe quel enfant peut aujourd’hui être victime, car n’importe quelle photo peut être détournée », alerte Angèle Lefranc, chargée de plaidoyer.

La Fondation demande désormais « une réponse forte, rapide et coordonnée entre les différents acteurs juridiques, politiques, technologiques, afin d’apporter un cadre légal à l’utilisation de l’IA ».

Elle appelle aussi à une prise de conscience sociétale, à commencer par les parents. « Sextorsion », « nudify app », « grooming »…

Le rapport est rempli de notions nouvelles, qu’il serait bon de connaître pour bien comprendre tous les dangers de la pédocriminalité dopée à l’intelligence artificielle. Voici les principales:

Sharenting

« Il s’agit de la notion la plus importante à avoir en tête », insiste Angèle Lefranc.

Le « sharenting », mot-valise anglais – « share » (partager) et « parenting » (parentalité)- désigne le partage d’images d’enfants par leurs parents sur les réseaux sociaux.

Aujourd’hui très répandue, cette pratique présente des risques : 50 % des photos et vidéos échangées sur les réseaux pédocriminels ont été initialement publiées par des parents.

« Exposer le corps de son enfant, publier des informations qui le concernent, sur Instagram, TikTok ou Facebook le met en danger, rappelle Angèle Lefranc. On ne dit pas qu’il faut arrêter de partager des images, mais de le faire uniquement dans des conversations privées, avec des personnes de confiance. »

Sextorsion

Contraction d’extorsion sexuelle, « sextorsion » désigne le chantage réalisé à l’aide d’images de la victime présentant un caractère sexuel, dans le but de lui extorquer des faveurs sexuelles, de l’argent, ou tout autre avantage, en menaçant de les diffuser sans son consentement. La pratique explose.

En 2023, l’Office des mineurs (Ofmin) a constaté une augmentation de 470 % des signalements en France.

Et les conséquences peuvent être tragiques : une Américaine de 12 ans s’est suicidée en 2018 après avoir été harcelée en ligne par un Britannique de 26 ans, qui menaçait de diffuser ses images intimes. Le jeune homme, qui aurait ainsi fait chanter des milliers de victimes à travers le monde, a été condamné la semaine dernière à de la prison à vie.

Nudify app

Le recours à l’IA générative facilite les cas de « sextorsion ».

« La personne mal intentionnée n’a même plus besoin de voler une vraie image, il peut la créer à partir d’un contenu partagé sur les réseaux », observe Angèle Lefranc. À l’aide d’une « nudify app », par exemple, « la photo d’une petite fille en maillot de bain postée innocemment par son papa sur Facebook devient une photo de petite fille toute nue partagée par des pédophiles ».

Ces applications de déshabillage peuvent être utilisées par des pédocriminels, des escrocs, mais aussi par des adolescents qui « se disent que c’est marrant de faire ça sur ses camarades de classe », pointe la porte-parole de la Fondation

Données d’entraînement

Les « données d’entraînement » représentent l’ensemble initial de données utilisé pour aider un modèle d’IA à apprendre ou à prendre des décisions.

Certaines IA disponibles pour le grand public sont modifiées par des individus et « entraînés sur de larges bibliothèques de contenus d’exploitation sexuelle de mineurs, mais aussi sur des images d’enfants à caractère non sexuel, afin de leur enseigner comment produire avec précision du nouveau matériel pédocriminel », alerte la Fondation pour l’enfance.

Pas besoin de compétences en informatique pour les utiliser : des tutoriels sont partagés sur Internet et des modèles déjà modifiés y sont aussi proposés à la vente

Grooming

Aussi appelé « pédopiégeage », le « grooming » désigne le fait qu’un adulte entre en contact avec un mineur pour le manipuler à des fins sexuelles.

Les « groomers » utilisent différentes stratégies pour établir un lien de confiance avec l’enfant, comme se rapprocher des parents, ou parler directement avec la victime en ligne, en se faisant notamment passer pour un adolescent.

Clear Web

Les notions vues précédemment ne sont pas liées au Dark Web, ce réseau parallèle d’Internet où se négocient drogues, armes et données illégales dans l’anonymat le plus total.

Aujourd’hui, les pédocriminels utilisent aussi le « Clear Web », l’Internet de notre quotidien, constate Angèle Lefranc.

Et de résumer :

« En quelques clics, via un compte Instagram, on peut tomber sur une chaîne Telegram qui propose des contenus pédopornographiques ou des IA modifiées pour en créer. »