Le système de crédit social chinois est-il aussi orwellien qu'il y paraît ?

Catégorie: Intelligence artificielle Posté 26 février

Dans l'imaginaire occidental, le tristement célèbre système de crédit social de la Chine est un régime de surveillance alimenté par l'IA qui viole les droits de l'homme. Nous entendons souvent parler d'exemples de son utilisation pour affirmer le contrôle politique, comme le mois dernier, lorsqu'un homme s'est vu retirer 950 points sur 1 000 - après avoir perdu 10 points à chaque fois qu'il demandait au gouvernement de l'aide pour le différend médical de sa mère. Mais rarement entendons-nous parler de l'autre récit, dans lequel il s'agit d'un mécanisme de gouvernance bien accueilli par de nombreux citoyens qui en ont assez de la fraude endémique, des produits contrefaits et des défaillances de la santé publique.

C'est la réalité pas si simple dépeinte par une histoire du Post du matin de la Chine du Sud . (Bien que, pour être juste, il y a des questions sur juste le degré d'indépendance du SCMP .) Dans le village de Jiakuang Majia dans la ville de Rongcheng, l'un des douze endroits loués pour son succès dans le pilotage du programme, les habitants disent que le programme a surtout eu une influence positive, voire pas du tout. Il n'y a en fait aucune IA ou autre technologie impliquée. Au lieu de cela, les points sont suivis avec du papier et du travail manuel - et beaucoup considèrent le système comme une bureaucratie périphérique, loin d'être une force motrice dans leur vie quotidienne.

Le système de crédit social chinois est conçu pour encourager la légalité et l'intégrité. Les citoyens peuvent gagner des points pour de bonnes actions comme faire du bénévolat, donner du sang ou attirer des investissements dans la ville ; ils peuvent les perdre pour des infractions telles que le non-respect des règles de circulation, l'évasion fiscale ou la négligence de s'occuper de leurs parents âgés. Leurs scores affectent ensuite leur accès aux programmes d'aide sociale de la communauté : ceux qui obtiennent des scores élevés bénéficient d'avantages tels que des examens médicaux gratuits et des réductions sur les factures de chauffage ; les personnes ayant des scores faibles perdent les subventions gouvernementales ou sont exclues des emplois gouvernementaux.

Mais alors que ce dernier détail est souvent caractérisé en Occident comme une prise de pouvoir portant atteinte à la liberté par un gouvernement autoritaire, de nombreux chercheurs soutiennent que les scores de crédit social n'auront pas l'effet de contrôle à grande échelle présumé. Les données collectées par le programme ne correspondent pas réellement aux données dont, par exemple, une banque a besoin pour déterminer si elle doit vous accorder un prêt. Des règlements ont également été modifié dans les cas de refoulement intense : le comté de Suining s'est débarrassé de ses déductions de points pour les pétitions non autorisées, par exemple, en raison de l'impopularité généralisée. Par conséquent, disent ces chercheurs, le système agit plus comme un outil de propagande que comme un outil d'application. Autres signaler qu'il s'agit simplement d'une extension de la longue tradition de la culture chinoise de promotion d'un bon comportement moral et que les citoyens chinois ont une vision complètement différente de la vie privée et de la liberté.

Cette histoire a paru à l'origine dans notre newsletter AI The Algorithm. Pour le recevoir directement dans votre boîte de réception, inscrivez-vous ici gratuitement.