Chasse aux pédos en ligne | Derrière Mr Fox, 31 ans, Linda et l’IA

Ils se font passer pour des adolescentes et, derrière leur écran, prennent l’apparence et la voix d’une jeune fille grâce à l’intelligence artificielle, pour piéger des hommes qui pensent parler à des mineures. Ces streamers et créateurs de contenus qui se filment en direct mènent une traque : celle des prédateurs pédocriminels sur internet.

L’un d’entre eux se présente comme “Monsieur Fox”, c’est son pseudo sur les réseaux. On ne dévoilera pas son nom ni dans quelle ville il habite.

“J’ai déjà reçu des menaces de mort”, dit-il.

Car Monsieur Fox, 31 ans, s’est donné une mission : chasser les prédateurs en ligne. Lui-même en a été victime quand il avait 13 ans, et dit agir:

“Pour faire de la prévention et montrer que tout ça, c’est quelque chose de réel et que n’importe quel adolescent peut tomber là-dessus.”

Tous les soirs, depuis trois ans, il se connecte sur ses plateformes : “J’ai un multi-écran, clavier, souris, tout le set-up qui me sert à faire le stream, une caméra, des micros…” Et surtout, l’intelligence artificielle.

Car c’est grâce à l’IA qu’il entre en contact avec ces prédateurs, en créant un personnage de jeune fille :

“En ce moment, c’est Linda, je dis avoir 14 ans. C’est une fille qui a redoublé à l’école, qui manque de confiance en elle… Un profil qui peut être manipulable pour un prédateur qui verrait là quelqu’un de fragile.”

“Généralement, je la génère dans sa chambre qui peut être un peu en désordre. On y voit directement Linda, en pull, avec un léger sourire et un petit plaid rose”, décrit Monsieur Fox. “C’est assez bluffant”, commente le streamer.

Mais l’arme redoutable de Monsieur Fox pour piéger ces hommes qui pensent parler avec Linda, c’est sa voix qu’il modifie aussi grâce à l’IA. Et ça marche quasiment à chaque fois.

“Est-ce qu’il t’arrive de te caresser ?”

Dans des extraits de ses échanges diffusés en direct devant ses abonnés, on voit Monsieur Foxx, sur une partie de l’écran et sur l’autre, le prédateur qui pense donc parler avec une jeune fille de 14 ans. Le premier dit avoir 37 ans. Il lui demande ce qu’elle porte sous son haut et précise qu’il “adorerait” voir.

Dans un deuxième échange, un autre homme demande : “Je peux te poser une question perso ? Est-ce qu’il t’arrive de te caresser ?” “Oula… Euh, non”, répond l’adolescente. “Moi, j’adore le sexe”, dit-il. “Moi, je n’ai jamais rien fait donc je ne sais pas”, précise Linda.

L’échange se poursuit : “Ça veut dire que toi, tu serais open, avec une fille de mon âge ?”, demande l’adolescente. “Oui”, répond très distinctement le prédateur.

Dans un troisième échange, on entend la jeune fille demander à un homme s’il a des enfants et s’il travaille. “Non, je suis en retraite”, dit le prédateur. Linda indique être en classe de 5e. “Tu as un petit copain ?”, demande son interlocuteur. Elle répond que non : “Je n’ai jamais eu de petit copain”. “Tu as l’air mignonne pourtant”, répond l’homme.

Monsieur Fox arrête les échanges quand il a “trouvé assez de preuves nécessaires pour faire le signalement sur Pharos“, la plateforme gouvernementale française pour signaler les comportements illicites en ligne(Nouvelle fenêtre). En trois ans, il assure avoir fait plus d’une centaine de signalements.

Il lui arrive aussi de prévenir les familles ou amis de ces pédocriminels potentiels, en menant une enquête grâce aux éléments que ces hommes laissent voir quand ils sont en ligne.

“Je vais prendre l’exemple d’un prédateur qui m’avait donné juste la photo de son chat et son prénom, explique Monsieur Foxx. À partir de là, la personne qui travaillait avec moi a réussi à retrouver absolument toutes les infos : nom, prénom, numéro, juste parce que la photo était publique sur un site de chats perdus.”

Monsieur Fox prévient ceux qui le suivent sur ses réseaux qu’il ne se prend pas pour la police mais il estime que sa traque est faite dans les règles – comme, par exemple, quand il floute les visages – et que son travail peut aider :

“Étant donné que je ne suis pas passé par des méthodes douteuses, les signalements que j’envoie peuvent être des plus-values si une enquête est ouverte sur une de ces personnes-là.”

Un risque d’entrave aux enquêtes de la justice

Sauf que ces chasses au prédateur, en direct, qui rassemblent des milliers de spectateurs interrogent sur le plan juridique.

Est-ce que cela aide réellement les enquêtes ou est-ce que cela risque, au contraire, de les compromettre ? Elles les entravent, alerte l’Ofmin, l’Office des mineurs de la police judiciaire. Et encore plus quand d’autres streamers se dévoilent pour interpeller le prédateur, qu’ils ne floutent pas.

Toutes ces actions, ce recours à l’IA, ne s’inscrivent dans aucun cadre légal et sécurisé, explique Aurélie Besançon, la cheffe de l’Ofmin, et font peser des risques majeurs sur les enquêtes et sur les victimes car ces preuves ne sont pas recevables par un tribunal :

“Le système légal français est strict, encadré et il prévoit l’impossibilité de provoquer à l’infraction, comme le font ces chasseurs de pédocriminels qui ne sont pas formés pour le faire.”

“Contrairement aux policiers et aux gendarmes, le fait, pour un citoyen, de converser avec des pédocriminels n’est pas prévu par la loi.”

“Ces streamers courent le risque d’alerter ces mêmes pédocriminels, qui risquent de supprimer des preuves qui auraient été nécessaires aux services de justice pour établir les faits”, conclut la cheffe de l’Ofmin.

Elle les encourage donc plutôt à poursuivre leur engagement en rejoignant les forces de police ou les associations de prévention reconnues.

D’autant plus qu’une fois exposés publiquement, certains pédocriminels présumés peuvent se retourner contre ces streamers en engageant des poursuites en justice.