Je me promets souvent de ne plus écrire simplement "en réaction" à la longue litanie des actualités autour de la modération des discours de haine en ligne. Parce que j'ai déjà beaucoup écrit sur le sujet et que j'ai un peu l'impression d'en avoir fait le tour sur ce blog et dans mes livres, et que pour clore le tour complet de la question il suffit :
Oui mais.
Le Guardian s'est procuré de nouveaux documents confidentiels concernant la politique de modération de Facebook. Il y a notamment découvert qu'il était tout à fait possible et acceptable d'appeler à la mort de personnalités, dans la mesure où il s'agissait de personnalités "publiques" et dans la mesure où leur compte n'était pas explicitement identifié (tag).
On peut donc écrire sur Facebook :
"Je souhaite que Frédérique Vidal meure dans d'atroces souffrances pour l'ensemble de son oeuvre"
Mais on ne peut pas écrire :
"Je souhaite que @FrédériqueVidal meure dans d'atroces souffrances pour l'ensemble de son oeuvre"
Avouez que c'est subtil. C'est la nuance qui est subtile hein, ce n'est certainement pas Frédérique Vidal.
Les documents obtenus par le Guardian révèlent aussi que les critères sont très larges et très "ouverts" pour déterminer si un compte est, ou non, celui d'une "personnalité publique" :
"En plus des politiciens, stars de la chanson ou sportifs, l’entreprise inclut dans cette catégorie tous les journalistes s’exprimant publiquement ou les internautes ayant plus de 100K (100 000) abonnés sur l’un des principaux réseaux sociaux."
Ça en fait du monde à qui souhaiter de manger leurs morts. Perso je suis rassuré, étant très loin des 100 000 abonnés (pourquoi croyez-vous que je ferme mes comptes dès que j'arrive à 10 000 ? ;-)
Autre caractéristique nécessaire pour être considéré comme une "personnalité publique", relevée par Le Monde :
"avoir été mentionnée dans le titre, le sous-titre ou la prévisualisation de cinq articles de presse ou plus dans les deux dernières années."
Là du coup, je redeviens potentiellement une cible :-)
[J'en profite ici pour insérer un parallèle.] Le fait de déterminer si une personnalité est ou non "publique" en se référant au nombre de mentions de son nom dans la presse lors des dernières années n'est pas du tout idiot a priori. C'est par exemple le centre de plein de débats qui ont en permanence lieu dans l'encyclopédie Wikipédia pour savoir si telle ou telle personnalité "mérite" d'avoir ou non une page dans l'encyclopédie. Je vous avais raconté à ce sujet l'histoire de la création de ma propre page Wikipédia. La différence avec Facebook, et elle est essentielle, c'est que ces critères d'admissibilité sont transparents et non secrets, et surtout qu'ils sont en permanence débattus, négociés et renégociés entre contributeurs de l'encyclopédie, et enfin que ces débats et controverses sont et demeurent ... publics et accessibles. [Fin du parallèle.]
Il n'est pas non plus possible d'appeler à la mort d'une personnalité publique en le lui écrivant dans sa messagerie privée.
Mais en gros tant qu'on taggue pas son compte, tant qu'on ne le lui dit pas directement en messagerie privée, tant que donc cela reste à la surface publique du réseau social, ça passe crème.
Autre subtilité, les enfants de moins de 13 ans ne peuvent être considérés comme des personnalités publiques (sachant qu'en théorie ils n'ont de toute façon pas le droit d'ouvrir un compte Facebook ou Instagram ...) et - subtilité dans la subtilité - il existe des "personnalités publiques involontaires" (j'adore ce concept), c'est à dire qui le sont devenues (des personnalités publiques) sans l'avoir souhaité ou décidé. Et on pense bien sûr ici au cas de Mila.
Tant que nous sommes dans les subtilités, il faut s'entretenir un peu de la distinction sémantique (mais pas que) entre le fait de menacer de mort (une personnalité publique), et celui de souhaiter ou d'appeler à la mort (d'une personnalité publique). Ainsi écrire "Je vais te tuer Frédérique Vidal" (menace), n'équivaut pas à écrire "Frédérique Vidal ? Mais qu'elle crève !" (souhait) ou "J'espère que la police de l'islamo-gauchisme pourra abattre Frédérique Vidal un jour". Menacer de mort une personnalité publique reste interdit mais appeler à la mort d'une personnalité publique est autorisé. Subtil disions-nous.
L'article du Monde reprenant les révélations du Guardian insiste également sur la dimension "figurative" qui conditionnerait le maintien en ligne de tels propos (s'ils respectent également les conditions précédentes) :
"L’exception concerne essentiellement les « formulations figuratives », explique le Guardian, comme « il serait temps que [le premier ministre britannique] Boris Johnson meure ou démissionne »."
Si on cherche la définition de "figuratif" dans le CNRTL on obtient ceci :
"1. Qui donne d'un élément une représentation (...) qui en rende perceptible (...) l'aspect ou la nature caractéristique." (...) "2. Qui donne (ou qui constitue), d'un élément, la représentation typique, le plus souvent en vertu d'une analogie de nature ou de valeur entre des éléments dont l'un est conçu comme la représentation de l'autre."
Problème, le langage figuratif est ce qu'il y a de plus difficile d'analyser, à détecter et à reconnaître dans le traitement automatique des langues :
"L'analyse automatique du langage figuratif est l'un des défis majeurs du traitement des langues. Contrairement au langage littéral, le langage figuratif détourne le sens propre pour lui conférer un sens dit figuré ou imagé, comme la métaphore, l'ironie, le sarcasme, la satire et l'humour. La détection de ces phénomènes requiert des outils plus complexes que ceux utilisés pour l'analyse d'opinion." in Jihen Karoui, Nathalie Aussenac-Gilles, Farah Benamara, Lamia Belguith. Le langage figuratif dans le web social : cas de l'ironie et du sarcasme. Workshop Fouille d’opinion dans le Web social, Apr 2014, Lyon, France. ⟨hal-01686491⟩
D'où la difficulté de modérer en temps réel et donc automatiquement les propos appelant à la haine ou à la mort des gens "de manière figurative". Et même en faisant intervenir des modérateurs humains (ce qui rappelons-le n'est pas le choix prioritaire des plateformes), métaphore, ironie, sarcasme, satire et humour présupposent pour être correctement traités de se placer dans un contexte culturel donné et de disposer de référents partagés et historicisés.
Par-delà le bien et le mal et l'ensemble de ces subtilités, on voit bien que ces règles sont là non pas pour cadrer préventivement et de manière délibérative et ouverte les incitations à la haine mais pour a contrario disposer d'un contre-feu pouvant rétroactivement s'appliquer à l'ensemble des contenus signalés, en intégrant le fait que tous les processus de signalement sont eux-mêmes le plus souvent biaisés et partisans donc en un sens ... également figuratifs.
Une nouvelle fois le numérique nécessité de renverser la hiérarchie de l'administration de la preuve. Comme on ne peut pas anticiper sur l'ensemble des situations d'énonciation avant qu'elles ne se produisent, on dresse une sorte de liste noire a posteriori d'un ensemble de situations d'énonciations possibles pour le cas échéant pouvoir les traiter en signalement automatique et/ou en modération humaine.
La question finalement, reste celle d'un système politique - car Facebook en est un - qui éprouve le besoin de statuer sur le fait d'autoriser explicitement l'appel à la mort de personnalités publiques en son sein. Ce qui pose (au moins) deux questions simples.
Primo : imagine-t-on une démocratie accepter explicitement les appels publics à la mort de personnalités publiques ? Non.
Deuxio : imagine-t-on un média public ou privé accepter explicitement les appels publics à la mort de personnalités publiques ou le faire sans être poursuivi et condamné en justice ? Non.
Facebook n'est donc ni une démocratie, ni un média. Précisément car il est à la fois un espace public (sa part démocratique) et un espace privé (sa part médiatique). Ce qui n'oblitère pas le fait que des interventions démocratiques ou des situations de démocratie puissent avoir lieu, se tenir et s'exprimer au sein de la plateforme.
Facebook n'est pas une démocratie pour plein de raisons (à commencer par le fait que les décisions de régulations ne sont pas prises de manière démocratique ni représentative). Facebook n'est pas une démocratie parce qu'aucune démocratie n'éprouve le besoin d'autoriser explicitement les appels à la haine fussent-ils destinés à des personnalités publiques. Parce que chaque démocratie est en capacité d'articuler clairement ce qui appartient aux manifestations se tenant dans l'espace ou la sphère publique, et ce qui appartient aux discours et manifestations tenus dans l'espace et la sphère privée. Ce que Facebook ne sera jamais, absolument jamais, en capacité d'arbitrer puisqu'il est aujourd'hui structurellement et presqu'ontologiquement un espace à la fois privé et public (rappelons-nous que dès le commencement, en 2007, danah boyd caractérisait les médias sociaux que l'on appelait encore réseaux sociaux par cette double appartenance "semi-public, semi-privé").
Quant à savoir si Facebook est un média (au sens d'une entreprise de presse par exemple et non simplement au sens d'un "moyen"), la question doit être traitée différemment. En autorisant explicitement les appels à la mort de personnalités publiques, Facebook se place dans la situation d'un organe de presse extrêmiste de type Valeurs Actuelles ou Minute qui irait au bout de son fascisme (à peine) larvé en assumant de s'extraire des lois régissant la presse et où - par exemple - les "caricatures" dessinées de la députée Danièle Obono peinte en esclave appelleraient ensuite à sa mise à mort.
La solution, s'il en est une, apparait aussi simple et courte que cet article est long et compliqué : il suffit d'interdire d'appeler à la mort de personnes.
Et de le faire pour une autre raison également simple et courte et formulée en sont temps par l'une des fondatrices de la plateforme FlickR : "Ce que vous tolérez indique ce que vous êtes vraiment."
Ce à quoi les onnepeutplusriendiristes répliqueraient immédiatement par un tonitruant "Ah ben voilà, on ne peut plus rien dire !" Si. On peut tout dire. Mais tout le monde ne peut pas être entièrement libre de toujours tout dire tout le temps à tout le monde. Parce qu'il n'existe, fondamentalement, que des situations de communication. Parce que toute communication, tout acte d'énonciation, est situé. Et que l'immense hypocrisie des plateformes sociales comme Facebook consiste à nous faire croire qu'un acte de communication puisse exister indépendamment de toute forme de contexte, de situation, ou plus exactement que seuls vaudraient les contextes et situations que la plateforme est algorithmiquement en capacité de saisir, d'analyser et de contraindre.
Ainsi pour Facebook la comptabilité est un contexte : selon que vous aurez plus ou moins de 100 000 abonné.e.s, vous serez ou non une personnalité publique. De même si vous avez été mentionné au moins 5 fois dans des articles de presse pendant au moins des 2 dernières années. Mais sinon ... non.
Ainsi pour Facebook la catégorisation calculable (par entités nommées) est un contexte : selon que vous appartiendrez à telle ou telle catégorie ("personnalité publique", "personnalité involontairement publique", "personnalité mineure publique", etc.) vous vous exposerez à la licéité réglementaire des appels à la mort vous concernant.
Mais ni la comptabilité ni la catégorisation ne sont des contextes situés d'énonciation permettant de réguler la circulation des discours autrement que par des formes d'arbitraires incompatibles avec le droit ; lors même que seul le droit devrait permettre de fonder ce qui peut ou ne pas être dit et à qui et dans quel contexte. Et que le doute raisonnable sur l'un des points précédents doit, de manière contradictoire, pouvoir n'être levé que par et devant un juge. Sinon cela équivaut à se placer irrémédiablement et délibérément hors du champ démocratique.
A la différence de la comptabilité ou de la catégorisation, l'humour n'est ainsi pas un contexte pour Facebook ou Instagram. L'art n'est pas non plus un contexte. L'histoire n'est pas un contexte. C'est pour cela que régulièrement des sketches d'humoristes continuent d'être censurés (Elie Semoun sur Instagram ou Christophe Alévêque sur Youtube pour ne prendre que 2 exemples récents). C'est pour cela que le tableau "L'origine du monde" de Courbet continue d'être censuré, c'est pour cela que la photo de la petite Kim fuyant les bombardements au napalm, même honorée du prix Pulitzer, continue d'être censurée.
"On me dit que des juifs se sont glissés dans la salle. Vous pouvez rester. N'empêche qu'on ne m'ôtera pas de l'idée que durant la seconde guerre mondiale, de nombreux juifs ont eu des pensées hostiles à l'égard du régime nazi."
"On entend le groupe Indochine et on regrette que ces gens là ne fassent pas de la moto sans casque pour s'empaffer dans des camions."
Que vous soyez modérateur sous-payé et sans formation aux Philippines ou que vous soyez une circonvolution algorithmique chargée d'arbitrer des signalements sur les deux phrases précédentes (issues, pour la première, d'un sketch de Pierre Desproges, et pour la seconde, d'une interview télévisée du même Desproges) et à la charge figurative très élevée : bon courage !
Et le problème n'est, je le répète, pas un problème d'onnepeutplusriendirisme mais un problème de discours situé et d'esthétique de la réception. Ce dont Facebook et les autres plateformes se contrefoutent allègrement. Allègrement.
Parce qu'en plus de tout ce que je viens de vous expliquer, au lieu de voir des situations, les grandes plateformes ne voient que des instanciations.
En informatique "instancier" c'est cela :
"En programmation orientée objet, on appelle instance d'une classe, un objet avec un comportement et un état, tous deux définis par la classe. Il s'agit donc d'un objet constituant un exemplaire de la classe. (...) L'instanciation est l'action d'instancier, de créer un objet à partir d'un modèle. Elle est réalisée par la composition de deux opérations : l'allocation et l'initialisation. L'allocation consiste à réserver un espace mémoire au nouvel objet. L'initialisation consiste à fixer l'état du nouvel objet. (...) En programmation orientée classe, l'instanciation est la création d'un objet à partir d'une classe. (...)"
Si je vous inflige cette définition c'est parce qu'elle est - je trouve - celle qui décrit le mieux l'approche de la modération chez Facebook. Je vous raconte.
J'écrivais et expliquais en 2009 pourquoi l'Homme était, du point de vue des moteurs de recherche et des réseaux sociaux, un document comme les autres : c'est à dire qu'il était traité comme un objet documentaire, indexable, manipulable, monétisable. Aujourd'hui les êtres humains et leurs discours sont traités comme des "objets" programmables comme les autres au sein de ces Béhémots calculatoires que sont moteurs et médias sociaux.
Quand je dis qu'il s'agit "d'instancier" plutôt de que de traiter de discours situés, c'est bien qu'il s'agit, et aussi littéralement que possible, d'assigner chacun d'entre nous à un comportement (autorisé ou non) et à un état tous deux définis par notre classe ("personnalité publique", "personnalité publique involontaire", etc.), y compris d'ailleurs par notre classe sociale. Et à partir de là il est dès lors possible de nous instancier c'est à dire d'opérer par allocation (en nous réservant un ou plusieurs espaces discursifs qui sont aussi des espaces mémoriels au double sens du terme) puis en nous y initialisant (c'est à dire à y fixer notre état émotionnel tolérable au travers de l'analyse sémantique - automatique - des discours que nous y tiendrons).
Cette catégorisation et ce refus mêlé à une incapacité technique de prendre en compte les paramètres situationnels ou figuratifs des discours, ce n'est pas la première fois que des fuites de documents permettent de la documenter. La première fois c'était en 2016, le Süddeutsche Zeitung s'était procuré des documents confidentiels attestant de la politique de modération et on avait alors découvert comment une catégorisation supposée atténuer les régimes d'arbitraire ne faisait en fait que la renforcer. Voici ce qu'écrivait alors Le Monde dans l'article rendant compte de ces fuites :
"(...) l’association de deux catégories protégées forme une catégorie protégée. Par exemple, les « femmes irlandaises » regroupent les catégories « nationalité » et « sexe » ; elles sont donc protégées, soulignent ces documents. Il est donc interdit d’écrire que « les femmes irlandaises sont stupides ». En revanche, les adolescents irlandais ne le sont pas, car la catégorie « adolescent » n’est pas protégée. Il est donc possible de dire du mal des adolescents irlandais. (...) Les documents obtenus par la Süddeutsche Zeitung montrent aussi la subtilité complexe de ces règles, qui ne cessent d’évoluer. Ainsi, il est possible d’insulter les migrants, mais pas les musulmans, qui sont protégés. Les migrants, eux, appartiennent à une « catégorie quasi protégée », « une forme spéciale introduite après des plaintes en Allemagne », croit savoir le journal. Ainsi, des messages haineux envers les migrants peuvent être autorisés sous certaines formes : il est par exemple acceptable, selon ces règles, d’écrire que « les migrants sont sales », mais pas que ce sont « des saletés »."
Il est essentiel de connaître et de comprendre ces règles d'instanciation. C'est pour cela que j'en parle à chaque fois que je le peux à mes étudiant.e.s (cf la diapo 18 de mon diaporama sur la lutte contre la haine en ligne). Parce qu'une fois qu'elles sont connues et comprises, on mesure alors pourquoi dans ce cadre là et avec ce modèle là, non seulement jamais aucune plateforme ne parviendra à lutter efficacement contre les discours de haine, mais aussi plus fondamentalement pourquoi elles ont intérêt à n'y parvenir jamais.
Freiner et limiter les interactions pulsionnelles, renoncer au modèle économique de la gratuité contre l'accumulation de données personnelles à destination du marché publicitaire, embaucher massivement et former culturellement des modérateurs, se référer uniquement à la loi plutôt qu'à d'arbitraires règlements internes mouvants, dissocier clairement et entièrement à partie sociale du réseau de la partie média de l'infrastructure et du modèle économique, bannir clairement et sur un temps long tout utilisateur ayant délibérément enfreint une règle de droit, judiciariser systématiquement l'ensemble des comportements affichant des discours de haine dans les pays où la législation en fait des délits et non des opinions. Voilà autant des points nécessaires et nécessairement complémentaires à une réelle lutte contre la haine en ligne. La seule possible.
Préférer continuer de tolérer les instances d'appels à la mort, fussent-elles figuratives, sur des personnalités que l'on qualifie de publiques au seul moyen d'assertions calculatoires toujours possiblement mouvantes est une hypocrisie fondamentale, structurelle qui enferme le pilotage stratégique de ces systèmes sociaux dans la cage de leurs architectures techniques toxiques. En plus d'opportunément masquer médiatiquement la question des menaces de mort réelles adressées à des personnalités pas du tout publiques et qui, selon la plateforme, ne sont quasiment jamais traités et sanctionnées comme elles devraient l'être. Qu'adviendrait-il en effet si les plateformes se mettaient à appliquer leurs propres règles ?!
Ceci posé, ayons aussi la rigueur de nous interroger sur notre propre rapport consenti à ce défouloir, à ce gueuloir offert à chacun d'entre nous. Et n'oublions pas, dans l'équation complexe de la régulation, cette autre inconnue qu'est celle de l'indigence des moyens accordés à la justice pour dire le droit en terre numérique comme ailleurs.
Et pour le reste :