Publié le 11 septembre dans Le Monde
Analyse. Boutefeux ou censeurs : on ne compte plus, depuis le début de l’année, les critiques à l’égard des pratiques de modération des réseaux sociaux. Le président américain accuse Google et Twitter de « censurer »les conservateurs ; les Nations unies pointent dans un rapport le rôle de la propagande diffusée sur Facebook dans les crimes contre l’humanité visant les Rohingyas en Birmanie ; partout, des millions d’internautes se plaignent de voir des messages anodins supprimés ou, au contraire, des messages insultants laissés en ligne.
Bref, s’il est un point qui fait l’unanimité, c’est qu’en matière de modération, les réseaux sociaux sont nuls. Certes, avec des nuances. En matière de pédopornographie ou de propagande terroriste, les progrès ont été réels et tangibles – ces contenus sont aujourd’hui supprimés très rapidement, de manière automatique. Pour tout le reste, la réponse des grands réseaux sur la modération est la même partout : « C’est compliqué ! »
Twitter a assuré, à de multiples reprises ces dernières années, avoir pris conscience du caractère endémique du harcèlement sur son réseau, mais la situation n’a fait qu’empirer. Facebook a investi massivement dans l’embauche de modérateurs, mais la prolifération de messages de haine en Birmanie a montré que ces ressources étaient mal réparties – et insuffisantes pour les quelque deux milliards d’utilisateurs de la plate-forme. YouTube se débat avec son propre algorithme de recommandation pour qu’il cesse de proposer aux internautes vidéo conspirationniste après vidéo conspirationniste.
« Incitations fondamentales »
Prise de conscience tardive, moyens insuffisants, priorité donnée à la croissance au détriment de la qualité : tous ces éléments expliquent, en partie, la situation actuelle. Mais les causes profondes sont structurelles et ne peuvent pas être réglées simplement en embauchant un peu plus de personnel ou en ajustant à la marge un algorithme. La force de Twitter est que n’importe qui peut y dire n’importe quoi à n’importe qui ; c’est aussi sa plus grande faiblesse.
Facebook est tout entier tourné autour de l’« engagement », le fait que ses utilisateurs « likent », commentent, partagent les contenus des autres ; or, ce qui donne le plus envie de « liker », c’est l’indignation, la confrontation, la peur. Quant à YouTube, son système de recommandation ne fait que ce pour quoi il est programmé : proposer des vidéos qui ont des chances d’intéresser l’internaute – là aussi, la prime va aux images qui choquent, qui indignent, qui font réagir. Le fait qu’elles soient authentiques ou pas n’est pas pris en compte par l’algorithme.
Lors d’une audition devant le Sénat américain, le 5 septembre, le PDG de Twitter, Jack Dorsey, a fait un premier pas timide en direction d’un changement structurel, reconnaissant qu’il était temps d’examiner les « incitations fondamentales » proposées aux utilisateurs des réseaux sociaux. Mais ni Google ni Facebook – qui a fait de la mesure de « l’engagement » un chiffre-clé de son argumentaire publicitaire – ne semblent prêts à remettre leurs modèles en question.
Affaires complexes
Une problématique supplémentaire se greffe sur le sujet : les interventions des politiques partisanes. En soi, le fait que ce soient les élus qui fixent les limites de la liberté d’expression, et la manière dont les réseaux sociaux doivent appliquer ces limites, n’a rien de choquant. C’est le principe même de la démocratie, et le système a plutôt bien fonctionné pendant plus d’un siècle pour la presse ou l’édition.
L’arrivée du Web a compliqué les choses en faisant de chaque internaute l’éditeur de ses propres journaux. Les tribunaux ne pouvaient pas suivre. Résultat : aujourd’hui, des affaires complexes de liberté d’expression, de droit au blasphème ou de liberté d’informer sont tranchées en quelques secondes par des modérateurs à l’autre bout du monde, là où un tribunal prendrait plusieurs jours pour prendre une décision.
Et c’est peu de dire que les élus n’ont pas été à la hauteur de l’ampleur du problème. En Europe comme aux Etats-Unis, tous les textes de lois récents ont délégué, voire imposé, aux réseaux sociaux un pouvoir de censure de plus en plus important. Pédopornographie, contenus terroristes ou violents, propagande russe… on demande toujours plus d’efficacité aux réseaux sociaux, encourageant leur tendance naturelle à chercher à automatiser ces décisions souvent très complexes.
Jeu dangereux
Facebook, Twitter et Google comptent tous les trois sur l’intelligence artificielle, de manière quasiment exclusive, pour résoudre l’impossible équation. Avec des premiers résultats discutables : l’outil antiterrorisme de YouTube a ainsi fait disparaître des vidéos documentant les violences de la guerre syrienne.
Et depuis le début de l’année, les élus américains ont encore empiré la situation. Les républicains, à commencer par Donald Trump, accusent quasi quotidiennement ces entreprises de rouler pour les démocrates, et les démocrates d’avoir été les complices plus ou moins actifs de l’élection de Donald Trump. Tout cela n’est pas dénué de fondement : Cambridge Analytica a utilisé des données d’utilisateurs Facebook pour cibler les électeurs américains, et la Silicon Valley vote de manière écrasante pour les démocrates. Mais ni Google, ni Facebook, et encore moins Twitter ne censurent les conservateurs ; et ils ne souhaitaient pas plus voir Donald Trump élu.
Les élus américains jouent à un jeu dangereux. Faire croire que l’establishment, de gauche ou de droite, manipule l’opinion est une technique efficace. Un acteur ne s’y est d’ailleurs pas trompé : ce type de messages était justement l’un des principaux modus operandi de l’Internet Research Agency (IRA), l’agence de propagande russe qui a disséminé en 2016 des milliers de messages sur les réseaux sociaux pour saper la confiance des Américains dans leur système politique.