(ARTE)
Qui modère nos contenus en ligne ? Les réseaux sociaux contribuent-ils à l’accroissement de la haine ? Des Philippines à la Silicon Valley, une enquête exhaustive et brutale sur la violence à l’ère du Web.
Ignorer ou supprimer ? Cette question, les modérateurs des réseaux sociaux se la posent chacun vingt-cinq mille fois par jour. Aux Philippines, ils sont des centaines à effectuer ce travail que Facebook sous-traite à une multinationale : purger le Net de ses images les plus violentes. De la pédopornographie aux décapitations terroristes, en passant par l’automutilation ou la simple nudité, proscrite par les chartes des grands groupes, l’impact psychologique des images les plus rudes – seul quotidien de ces abeilles ouvrières du Web – est aussi violent qu’ignoré par la Silicon Valley, pour laquelle le rendement passe avant tout. Mais les règles de modération imposées trouvent bien vite leur limite, dès lors que la question de l’art ou de la politique fait irruption. Quelle est la frontière entre modération et censure ? Doit-on « nettoyer » les réseaux des images de guerre, alors qu’elles documentent les conflits ? Lorsque l’administration du président Erdogan demande aux géants des réseaux sociaux de supprimer des contenus d’opposition politique qu’elle juge terroristes, sous peine de bloquer les sites sur le territoire turc, pourquoi les entreprises s’exécutent-elles ? Comment ne pas y voir une logique froidement mercantile ?
Le mal du XXIe siècle
Quel est le meilleur moyen d’engranger de l’audience ? « L’indignation », répond Tristan Harris, ancien cadre de Google. En privilégiant les contenus choquants, les réseaux sociaux – seule source d’information pour un nombre grandissant d’internautes – voient leur vision segmentée s’imposer à leurs utilisateurs, polarisant une haine et déchaînant une violence bien réelles. C’est tout le paradoxe de ces nouveaux maîtres du Web, qui épuisent leurs sous-traitants à purger les réseaux tout en bâtissant des algorithmes au service de la colère. Un mal du XXIe siècle intelligemment expliqué par Hans Block et Moritz Riesewieck qui, des Philippines à la Silicon Valley, examinent les deux côtés de la chaîne dans un documentaire à charge, exhaustif et passionnant.