Il y a quelques jours, nous avons publié un article explicatif sur le système de crédit social mis en place par la Chine. Le gouvernement a publié le 14 novembre dernier un projet de loi qui tracera la voie sur la façon dont le pays va construire ce système. Contrairement à la croyance répandue en dehors de Chine, le système national de crédit social chinois n'est pas complètement construit. Pour l'instant, il n'existe qu'en pièces détachées. Pourtant, en Occident, de nombreux fantasmes circulent à son sujet notamment l'idée qu'il existe un algorithme omniscient qui évalue les comportements quotidiens des Chinois. Un tel algorithme n'existe pas dans la réalité.
Le véritable système de crédit social se concentre sur la promotion de la fiabilité dans les affaires, la consommation, l'éducation et presque tous les autres aspects du quotidien. Sur le papier, cela semble être une bonne idée mais dans cet article je vais tenter d'expliquer en quoi c'est plus compliqué qu'il n'y paraît.
Le système de crédit social chinois pourrait impacter les réseaux sociaux et la liberté d'expression
Le fait que la mise en place de ce système de crédit social puisse avoir des impacts sur les réseaux sociaux et, plus largement, sur la liberté d'expression en Chine révèle comment l'objectif noble de renforcer la confiance au sein de la société peut être problématique dans la pratique.
La question clé à se poser est la suivante : qui juge si un commentaire posté sur les réseaux sociaux ou si un internaute est digne de confiance ? Répondre à cette question est une tâche incroyablement difficile pour les plateformes du monde entier, telles que Twitter et Facebook, qui s'efforcent malgré tout d'apporter une réponse.
En Chine, cependant, le gouvernement semble convaincu qu'il peut être l'arbitre ultime. Ainsi, comme me l'a dit Shazeda Ahmed, chercheuse à l'université de Princeton, il est nécessaire de se demander : qu'est-ce que ça signifie être digne de confiance ou honnête aux yeux du gouvernement chinois ?
En 2019, un projet de réglementation a été introduit par l'administration chinois du cyber-espace afin de construire un système de crédit social dans le secteur du numérique. Celui-ci stipule que les agences gouvernementales peuvent considérer un individu ou une entreprise comme "entités indignes de confiance" pour avoir "fabriqué, publié ou relayé des informations contraires aux moeurs sociales, à la morale commerciale ou à l'honnêteté et au crédit".
Alors que certaines informations peuvent être vérifiées et debunkées, des concepts comme les "mœurs sociales" et "l’honnêteté" sont souvent trop vagues pour être définis de manière objective. Il revient donc au gouvernement d’identifier ce qui constitue une valeur morale.
Covid-19 : En Chine, des lanceurs d'alerte ont été sanctionnés
Nous avons déjà eu des aperçus de comment cela pouvait tourner au désastre. Dans les premiers mois de l’épidémie de Covid-19, le gouvernement local de Wuhan a puni huit personnes pour avoir publié des "rumeurs" sur le virus qui auraient miné la confiance des citoyens. Li Wenliang, médecin lanceur d’alerte qui a dit à ses amis, dans un groupe de discussion privé, qu’un virus semblable au SRAS se propageait, il a été convoqué par la police pour avoir "diffusé des mensonges en ligne". Plus tard, sa mort due au coronavirus a déclenché une vague nationale de colère contre le contrôle de l’information mené par le gouvernement.
Et il ne s’agit là que d’un seul incident. Or, comme l’idée d’établir une solvabilité sociale s’infiltre de plus en plus au sein d’autres réglementations, elle met en évidence les risques de la normalisation d’une pratique dans laquelle le gouvernement émet des jugements moraux pour ses citoyens.
Il y a deux semaines, l’administration chinoise du cyber-espace a finalisé une réglementation entièrement consacrée aux "commentaires en ligne". Son objectif principal est de soumettre les interactions sur les réseaux sociaux – y compris les nouveaux formats tels que les lives sur des streams – aux mêmes contrôles stricts que ceux que la Chine a toujours exercé sur les autres contenus en ligne.
Les règles ne font pas vraiment partie du système plus large de crédit social mais j’ai tout de même trouvé un langage similaire dans le texte de loi. Il demande aux plateformes des réseaux sociaux de "procéder à des évaluations de crédit de la conduite des internautes lorsqu’ils postent des commentaires" et de "procéder à des évaluations de crédit de gestion des commentaires postés par les producteurs-opérateurs de comptes publics".
L’idée est que si un influenceur ou un internaute publie des choses qui ne sont pas dignes de confiance, cela devrait se refléter dans l’évaluation de crédit de la personne. Et les résultats détermineront "l’étendue des services et fonctionnalités mis à disposition des personnes sur certaines plateformes".
Ce n’est pas le seul exemple concret démontrant la manière dont le gouvernement chinois utilise l’importance de la "solvabilité" ou de la "confiance" pour justifier le déploiement de davantage de règles. Cela s’est également vérifié lorsque le gouvernement a décidé d’établir une liste noire des célébrités qui font la promotion d’une "mauvaise" morale, de sévir contre les bots et les spams sur les réseaux sociaux ou encore de confier des responsabilités aux administrateurs de groupes de discussion privés.
Certaines plateformes sociales gèrent leurs propres "scores de crédit"
Tout cela pour dire que le développement continu du système de crédit social chinois est souvent synchrone avec le développement de politiques plus autoritaires. "Alors que la Chine se concentre de plus en plus sur la vie sociale et culturelle des gens, en réglementant davantage le contenu des divertissements, de l’éducation et des discours, ces règles seront également soumises à l’application du crédit", écrivait le juriste Jeremy Daum en 2021.
Néanmoins, je tiens à mettre en garde contre la tendance à exagérer les risques perçus. C’est ce qu’il s’est produit à plusieurs reprises à l’évocation des mots "système de crédit social".
La bonne nouvelle est que jusqu’à présent, l’intersection du crédit social et du contrôle de l’expression numérique est très limitée. Le projet de règlementation de 2019 visant à mettre en place un système de crédit social dans le secteur du numérique n’a toujours pas été adopté. Et une grande partie du discours sur la mise en place de systèmes d’évaluation du crédit pour les réseaux sociaux – comme celui demandé par le dernier règlement sur les commentaires postés en ligne – ressemble plus à un vœu pieux qu’à une orientation pratique à ce stade. Certaines plateformes sociales gèrent leurs propres "scores de crédit". Weibo, par exemple, en a un pour chaque utilisateur et Douyin en possède un pour les personnes influentes dans le domaine du shopping mais il s’agit plutôt de caractéristiques secondaires que peu de Chinois considèrent comme prioritaires.
Aujourd’hui, au lieu de s’inquiéter du risque théorique d’une utilisation d’un système de crédit social pour étouffer la liberté d’expression, il est plus important de consacrer du temps et des ressources à l’identification des mécanismes de censure déjà en place et en fonctionnement comme ceux que les réseaux sociaux utilisent régulièrement pour filtrer les messages et interdire les comptes qui parlent d’évènements politiquement sensibles. Ce sont là des menaces plus importantes et plus urgentes pour les internautes chinois qu’un système de crédit social que même le gouvernement n’a pas encore totalement défini.
Article de Zeyi Yang, traduit de l'anglais par Kozi Pastakia.
- Accès à tous les articles réservés aux abonnés, sur le site et l'appli
- Le magazine en version numérique
- Navigation sans publicité
- Sans engagement
