Selon l’unité criminelle de la Swedish Police Authority, le réseau social le plus utilisé au monde, Facebook, est également l’interface la plus prisée pour regarder et soumettre ce genre de contenus.

Un état de fait terrifiant dû aux algorithmes qui, sans distinguer le légal de l’illégal, se constituent selon les mots clefs recherchés et créent des liens par affinité.

Le point de départ serait le plus souvent la constitution de groupes aux noms ambigus, dont ils pourraient sous-entendre que ce sont des groupes de soutien aux victimes : les membres partagent des expériences, des liens et parfois même des images.

Certains utilisateurs affichent leurs numéros et demandent à d’autres de les rejoindre dans des forums plus secrets, où ils peuvent discuter et s’échanger du contenu à caractère pédophile.

SvD et Aftonbladet affirment, via de faux comptes utilisateurs, avoir eu accès à la photo d’un enfant violé alors que le groupe était ouvert.

 

Cette photo comptabilisait des likes de plusieurs hommes et un commentaire d’un homme affirmant « c’est si beau ».

SvD et Aftonbladet ont dénoncé ces contenus à la police locale de Kungsholmen à Stockholm qui a tout de suite qualifié cela de « crime de pornographie juvénile ».

Dès le lendemain, Facebook avait enlevé les dessins et toutes les images du groupe, à l’exception de celles représentant des personnes qui semblaient être majeures.

Pour comprendre, comment ces réseaux peuvent se constituer, SvD et Aftonbladet ont alors créé un autre faux profil avec comme centre d’intérêts « enfant », « pornographie », « pornographie infantile » : les algorithmes de Facebook ont capturé ces mots et les invitations pour des sites à caractère pédophile ont commencé à pleuvoir, elles concernaient principalement des enfants d’origine asiatique prêts à se déshabiller devant l’écran.

« Vous devez comprendre une chose : les algorithmes sont neutres en termes de valeur.

Si quelqu’un recherche du contenu illégal, l’algorithme sera utile et guidera l’utilisateur vers des contenus illicites plus pertinents»,

leur a expliqué Dhiraj Murthy, professeur agrégé à l’Université du Texas à Austin.

« Facebook a accès à beaucoup de données et effectue des recommandations, non seulement en fonction de ce que vous et vos amis aiment, mais aussi en fonction de ce que « les gens comme vous » aiment.

L’algorithme ne peut pas déterminer s’il fait quelque chose d’illégal.

Il ne fait que ce pour quoi il a été programmé ».

La formule mathématique qui a fait de Facebook son succès, à savoir deviner ce qui nous plaît avant même que nous le sachions et nous fournir à l’infini des contenus associés, semble montrer ses limites, un peu plus chaque jour…

Source : L’ADN