Critique Médias Le 3 novembre 2019

Le crédit social chinois: attention à l’orientalisme technologique!

2
2
Le crédit social chinois: attention à l’orientalisme technologique!

Vue sur Shangaï.

Avec l’apparition du système de crédit social, la Chine serait en train de réaliser la prédiction dystopique de George Orwell dans son fameux « 1984 », expliquent de nombreux médias occidentaux. Dans cette prise de position, Tristan Hertig s’interroge sur cette narration. Sans absoudre Pékin de ses désirs de contrôle, il y voit un orientalisme 2.0 qui nous empêche de nous interroger en profondeur sur nos propres sociétés. Une façon d’expulser nos angoisses face à la révolution numérique en cours, selon lui.


 

Il y a un peu plus d’une dizaine de jours, une courte vidéo tirée d’un reportage de l’émission Envoyé Spécial1 faisait sensation sur les réseaux sociaux. Au cœur de l’enquête, la Chine et son programme de crédit social qui, depuis plusieurs années déjà, effraient les consciences collectives. Pourtant, la publication, déjà visionnée plus de 800’000 fois, semble rater sa cible en nourrissant une fois encore nos propres craintes et fantasmes en matière de technologie.

« Imaginez, Shangaï dans un futur proche, plus personne ne passe inaperçu (…) chaque fait, chaque geste, est scruté par des centaines de milliers de caméras. A 18 ans, Wang Lu s’est vue attribuer une note : 1000 points, qui évoluent en fonction de ses actions. Elle jette un papier par terre, c’est une incivilité qui lui coûte 50 points (…) elle traverse au feu rouge, – 100 points. Mais si elle décide d’aider son prochain, en donnant son sang par exemple, sa note remonte, 900 points. Elle signale la présence d’un délinquant à la police et la voilà qui atteint le niveau supérieur, 1100 points. De cette note, dépend sa place dans la société. » Voilà comment le reportage intégral de France 2 débute. Associées à ces premières phrases, les images nous montrent des caméras de surveillance de la mégalopole chinoise, le tout enrobé à dessein dans une musique d’ambiance haletante et futuriste.

 

Deux narrations erronées

Il y a quelques années encore, croire que l’innovation technologique était réservée à des démocraties était une idée communément admise en Occident. Autrement dit, les régimes autoritaires n’étaient pas jugés crédibles dans la course à la révolution numérique. Cette philosophie atteignit peut-être son paroxysme quand, au lendemain des printemps arabes, certains esprits optimistes et candides imaginaient internet et les réseaux sociaux comme l’arme parfaite des populations qui souhaitent se libérer du joug de leurs tyrans.

Avec les résultats que l’on connaît, en Egypte, au Yémen, en Syrie, en Libye, au Bahreïn ou ailleurs, les illusions se sont envolées. Les matrices idéologiques et les dogmes ont quant à eux effectué une rotation de 180 degrés. Après les révélations d’Edward Snowden, le scandale Cambridge Analytica, les interventions russes dans l’élection présidentielle américaine de 2016 et désormais, le fameux crédit social en Chine, les gens en viennent à penser que toutes ces nouvelles technologies sont devenues l’outil infaillible des pouvoirs autoritaires.

Autant le dire d’emblée, l’une et l’autre de ces idées sont fausses. La Chine, bien que célébrant un Parti unique depuis 1949, a réalisé au cours de la dernière décennie des prouesses technologiques qui n’ont souvent rien à envier aux meilleures inventions de la Silicon Valley ou de Seattle. Mais croire à l’inverse que ses capacités dans le secteur outrepassent de très loin celles de nos démocraties libérales, relève de la fantasmagorie.

Beaucoup d’entre nous en sont arrivés à se dire que les Chinois, parce que Chinois, parce que travailleurs, parce qu’autocrates, auraient réussi à réaliser le cauchemar de George Orwell2, à savoir la maîtrise totale de leur population, la compréhension parfaite de ses pensées et comportements ou encore la mise en place d’une justice prédictive qui, à l’aide d’algorithmes, parviendrait à anticiper tout possible débordement.

C’est une sorte d’orientalisme, technologique cette fois-ci, qui semble nous envahir lorsqu’on évoque le géant de l’Extrême-Orient. Des analyses qui, paradoxalement, doivent faire plaisir aux dirigeants du Parti communiste chinois, qui aiment à faire croire que tout est sous contrôle. « Tout est sous contrôle », le titre du reportage de France 2, une belle publicité en somme, qui s’ajoute aux innombrables articles apocalyptiques de la presse mondiale.3 Certains de leurs auteurs ont depuis, il faut le reconnaître, fait amende honorable, en reconnaissant leurs biais dystopiques.4

Car oui, la Chine est une grande puissance et oui, comme de nombreux Etats à travers le monde, démocrates ou non, elle cherche à acquérir de nouvelles capacités de contrôle et y parvient avec un certain succès. Oui, ses caméras de surveillance sont omniprésentes mais non, elles ne sont de loin pas toutes fonctionnelles. Oui enfin, le pays affine sa récolte de données mais non, il ne possède pas d’appareils lui permettant de traiter à la perfection l’entier des informations qui lui parviennent de ses 1,4 milliard d’habitants. Mais revenons-en peut-être au crédit social.5

 

Le crédit social, qu’est-ce que c’est ?

Avant d’avancer une définition, il convient sans doute de déconstruire nos idées et de parler de ce que n’est pas le crédit social. Le système de crédit social n’est pas, à l’heure actuelle, un système de notation nationale des citoyens. Dans les documents gouvernementaux relatifs à ce projet, il n’est pas fait mention de scores, de points, ou de classements. Si parmi la quarantaine de villes pilotes, certaines ont mis sur pied des formules qui utilisent la notation citoyenne, rien n’indique une généralisation future à l’ensemble du pays. Quel intérêt trouverait par exemple une société à exclure un employé extrêmement qualifié parce qu’il a perdu des points en jetant des papiers par terre ou en conduisant en état d’ivresse ? Au niveau de la société, la problématique est la même. Les clients d’un restaurant souhaitent se baser sur une note qui évoque la qualité et l’hygiène de l’établissement et se dispenser de savoir si le propriétaire a fait une donation ou aidé une vieille femme à traverser au passage piéton. En un mot, les citoyens veulent des données pertinentes, tout comme les autorités souhaitent accéder à des données qui leur soient utiles.

Le système de crédit social n’est pas non plus une extension de la surveillance chinoise. La raison est ici simple. Si le gouvernement central ou des autorités locales souhaitent, pour une raison ou une autre, avoir des informations sur tel ou tel citoyen, ils en sont déjà capables.

Le système n’est pas une révolution technologique en soi. Il s’agit surtout d’un partage de données déjà existantes, additionnées ou soustraites. Il n’existe d’ailleurs pas d’algorithmes spécifiquement élaborés pour le projet.

Le crédit social comporte avant tout un volet qui s’intéresse aux données financières des individus et des entreprises, ce qui est assez similaire à ce qu’on peut trouver dans d’autres pays. L’idée est celle d’atteindre une part de la population qui n’est pas connectée ou mal connectée au système bancaire.

Le deuxième volet concerne un système de listes noires (blacklists) et de régulations. Dans l’Empire du Milieu, il existe déjà une quarantaine de sociétés spécifiques, mandatées par des agences de régulation, qui utilisent les listes noires. Ce qui sera désormais nouveau avec le crédit social, c’est qu’une société A pourra dans certains cas appliquer des sanctions décidées par une société B. Cette nouveauté est déjà mise en place et de nombreux citoyens en font les frais. Certains se voient interdits d’acheter des billets de trains à grande vitesse ou d’avions alors que d’autres ne peuvent tout simplement plus faire d’emprunts pour acquérir un logement. Si la méthode peut prêter le flanc à la critique, il faut faire attention aux risques de surinterprétation et de dénaturation. On ne parle pas ici d’un nouveau cadre juridique. Prenons l’exemple d’un individu qui se voit empêché d’acheter un ticket de TGV. Cette situation peut en fait lui arriver dans deux cas de figures. Dans le premier, il est mis sur liste noire pour un temps donné car son comportement s’est vu incriminé lors d’un voyage précédent. Dans le second, l’individu a été condamné par la justice, a épuisé ses possibilités d’appel, et refuse, alors qu’il en a les moyens, de respecter l’ordonnance du tribunal. Pour sortir de la liste et avoir à nouveau accès à ce type de voyage, il lui faut se conformer à la décision judiciaire. Là encore, la critique est justifiable, si l’on décide de questionner l’impartialité des cours de justice chinoises. Mais le crédit social ne représente en aucun cas quelque chose de détaché du système judiciaire actuel.

Enfin, le troisième volet majeur du système comporte une importante notion de propagande. Le crédit social a pour fonction d’encourager les gens à « être honnêtes », ou plus simplement à respecter leurs engagements, ce qu’on sait être un véritable problème lorsqu’on connaît le pays. Pour les autorités chinoises, l’aspect éducationnel du crédit social l’emporte de loin sur les fins punitives.

 

La Chine comme miroir réfléchissant de nos anxiétés

En 2018, « Black Mirror » (du nom de la célèbre série dystopique) était l’un des termes les plus associés aux mots « crédit social » dans les tendances Google.6 Ce résultat est symptomatique d’une angoisse qui, relayée par des reportages et des articles en forme d’hyperbole, nous empêche de réaliser que celle-ci concerne tout aussi bien nos sociétés.

Après tout, le système « à points » en place dans certaines préfectures chinoises n’est-t-il pas directement inspiré du bonus-malus pratiqué par de nombreuses assurances aux Etats-Unis ou en Europe ? Ne doit-on pas aussi se rappeler que quand, dans certaines villes pilotes, le portait des « mauvais citoyens » est affiché dans l’espace public, il existe dans de nombreux Etats de l’Oncle Sam des juridictions qui permettent la mise en ligne immédiate des profils de prisonniers, avec photo, âge et motif de l’incarcération ? Quand la revue Science7 nous annonce que dans des milliers d’hôpitaux américains, des algorithmes sont utilisés pour identifier les patients à risque, tout en privilégiant les Blancs au détriment des Noirs, doit-on encore penser à une exception chinoise ? N’existe-t-il pas aussi, aux Etats-Unis toujours, des polices prédictives qui, en se basant sur un croisement de données, rendent des visites ciblées à certains citoyens, du fait de leur profil racial et social, pour les enjoindre à ne pas rejoindre un gang ?

La République populaire de Chine est, de par sa nature, relativement hostile au journalisme d’enquête. Je conçois que des reporters y voient-là un véritable trou noir dont il faudrait dénicher les secrets. Mais en se laissant aller à l’excès d’analyse et aux extrapolations, il est probable qu’on manque la réalité des choses, rien de moins.

 


Références :

1. MENAND, Elise ; VEDEILHE, Antoine & Cie : « Envoyé spécial », France 2, 10 octobre 2019.

2. ORWELL, George : “1984”, Editions Gallimard, novembre 1972.

3. Voir le New York Times, Wired, The Economist et les grandes parutions de la presse mondiale.

4. MATSAKIS, Louise: “How the West Got China’s Social Credit System Wrong”, in Wired, URL: https://www.wired.com/story/china-social-credit-score-system/

5. Pour comprendre dans les détails, le système de crédit social en Chine, s’informer sur le site spécialisé https://www.chinalawtranslate.com/en/ fondé par Jeremy Daum, chercheur pour le Yale Law School’s Paul Tsai China Center.

6. KOETSE, Manya : “Insights into the Social Credit System on Chine Online Media vs its Portrayal in Western Media”, in What’s on Weibo, URL: https://www.whatsonweibo.com/insights-into-the-social-credit-system-on-chinese-online-media-and-stark-contrasts-to-western-media-approaches/.

7. OBERMEYER, Ziad ; POWERS, Brian & Cie : “Dissection racial bias in an algorithm used to manage the health of populations”, in Science, URL: https://science.sciencemag.org/content/366/6464/447.

Commentaires

image-user

MichelP

Bon article et bonne synthèse, contrairement au reportage de FR2 qui fait dans le scandale et l'alarmiste!

Lire la suite
image-user

Matthieu Vétois

Intéressant, merci

Lire la suite

Laisser une réponse

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *
Jet d'Encre vous prie d'inscrire vos commentaires dans un esprit de dialogue et les limites du respect de chacun. Merci.

image-user

MichelP

Bon article et bonne synthèse, contrairement au reportage de FR2 qui fait dans le scandale et l’alarmiste!

Répondre
image-user

Matthieu Vétois

Intéressant, merci

Répondre