Web | Une directive européenne a contraint Facebook à fermer les contrôles anti-pédophiles

Elle a conduit Facebook à désactiver un certain nombre de fonctionnalités d’intelligence artificielle qui a permis au réseau social de patrouiller sur des pages et dans des messages privés pour trouver du matériel de pornographie juvénile et débusquer ceux qui l’ont partagé.

L’arrêt des systèmes ne concerne que les pays de l’Union et en réalité ce n’était pas du tout inattendu:
pendant des mois, il était en effet clair que la réglementation contrastait avec certaines fonctions sociales destinées à surveiller le contenu.

La directive en question est 1972/2018, ou Code européen des communications électroniques, et comprend de nombreuses réglementations qui couvrent également le sujet de la confidentialité en ligne et ce que les entreprises peuvent faire avec les données des utilisateurs.

Une directive avortée

Approuvée il y a 2 ans, la directive devait être mise en œuvre avant le 21 décembre de cette année – c’est pourquoi Facebook n’a agi que ces dernières semaines pour s’y conformer.

C’est pourquoi, ces derniers jours, une notification a été envoyée aux utilisateurs européens de Messenger et d’Instagram les avertissant de la perte de certaines fonctionnalités au sein des deux applications.

Cependant, il y a aussi des éléments affectés par la directive systèmes d’analyse automatique des messages qui permettent à Facebook, entre autres, d’identifier le matériel pédopornographique hébergé sur ses serveurs sans que les messages aient à être lus par les employés.

L’opération est en fait réalisée par des algorithmes qui fonctionnent comme des pièges, prenant à chaque fois qu’une image illicite connue ou une variante de celle-ci est échangée via les produits Facebook, mais selon la directive ces systèmes doivent encore agir avec le consentement des utilisateurs.

En outre, la directive ne fait pas référence au contexte de la lutte contre la pédopornographie comme une exception aux règles imposées aux entreprises de télécommunications et du Web; le court-circuit était apparu au Conseil européen il y a quelques semaines, avec la recommandation de trouver une solution temporaire d’ici le 21 décembre, du moins jusqu’à ce que la Commission européenne en ait trouvé une définitive.

La tentative a échoué, et Facebook n’a pas trouvé de meilleure solution que de garder son réseau social et ses chats tels quels, cependant, la fermeture des systèmes de surveillance en Europe qui, rien qu’en 2019, a conduit à la suppression de plus de 11,5 millions d’images illicites dans le monde.