Chine : l’IA anticorruption « Zero Trust » est-elle trop efficace ?

Depuis l’arrivée au pouvoir de Xi Jinping en 2012, deux sujets sensibles se sont télescopés. Premièrement, l’utilisation de nouvelles technologiques telles que le big data et l’intelligence artificielle (IA) dans les processus administratifs. Ensuite, une volonté affirmée de lutter contre la corruption au sein des institutions gouvernementales à travers son opération « Skynet ». Plus de 1,4 million de membres du parti et d’employés du gouvernement auraient fait l’objet de mesures disciplinaires, y compris des dirigeants comme l’ancien tsar de la sécurité Zhou Yongkang et l’ancien homme fort Chongqing Bo Xilai.

C’est dans ce contexte qu’est né le système anti-corruption « Zero Trust ». Selon le South China Morning Post (SCMN), Il a été conçu et déployé par l’Académie Chinoise des Sciences et les institutions de contrôle interne du Parti Communiste Chinois. Sa mission première consiste à surveiller la vie personnelle des fonctionnaires chinois et évaluer leur travail.

Pour ce faire, 150 bases de données sécurisées exploitées par les administrations centrales et locales, ont été mises à sa disposition. En complément, des agents disciplinaires spécialisés dans ce genre d’enquêtes ont travaillé en étroite collaboration avec les développeurs pour affiner les algorithmes de traitement. Des milliers d’heures ont été nécessaires pour marquer manuellement les phénomènes inhabituels et apprendre à la machine ce qu’il faut rechercher.

Aujourd’hui, « Zero Trust » croise des millions d’informations sensibles, précise le SCMN. Des graphes sophistiqués et complexes, agrégeant plusieurs niveaux de relations sociales, sont réalisés et permettent des analyses comportementales poussées. Par exemple, selon un chercheur du programme ayant échangé avec le SCMN, il est possible de vérifier et d’évaluer la construction d’infrastructures, l’acquisition de terrains ou encore les démolitions de maisons. Mais aussi, de détecter les transferts de propriété suspects, des augmentations inhabituelles de l’épargne bancaire. S’il y a eu un achat d’une nouvelle voiture au nom d’un fonctionnaire ou d’un membre de sa famille, voire d’un ami suite à un contrat gouvernemental, « Zero Trust » produira une alerte qui pourra donner lieu à une enquête ou pas.

Cette alerte est le fruit de calculs algorithmiques savants exploitant des KPI ciblés. Elle évalue la probabilité de l’acte de corruption. Si le score atteint ou dépasse une certaine valeur donnée, alors les autorités sont alertées, explique le SCMN.

L’humain conserve la relation directe avec les fonctionnaires

Cependant, malgré un potentiel avéré des algorithmes et de l’IA pour détecter ces faits de corruption, « Zero Trust » présente une faiblesse majeure. Il ne peut fonctionner sans une collaboration étroite avec les humains, aurait précisé au SCMN un chercheur sous couvert d’anonymat. En effet, l’idée qu’un tel système puisse identifier les personnes à risques sans pouvoir expliquer clairement comment il en est arrivé à une telle conclusion, n’est pas acceptable aux yeux de ceux qui sont placés sous sa surveillance. Les autorités utilisent donc le résultat de la machine comme référence. Il procède ensuite à une enquête afin de vérifier la véracité des faits et enfin, décroche le téléphone pour appeler la personne ciblée. D’après Zhang Yi, un fonctionnaire de la Commission d’inspection disciplinaire du Parti communiste chinois à Ningxiang, l’objectif principal du programme n’est pas de punir les fonctionnaires mais de les « sauver » à un « stade précoce du process de corruption ».

Par prudence, « Zero Trust » a donc été déployé sur un périmètre restreint. Seulement 1% de la superficie administrative totale du pays est concerné, soit 30 comtés et villes. Les gouvernements locaux concernés sont tous situés dans des régions relativement pauvres et isolées, loin des centres du pouvoir politique chinois.

Des résultats probants

D’après le SCMN, 8721 employés du gouvernement ont été arrêtés depuis 2012. Les principales accusations formulées concernent les malversations, les abus de pouvoir, l’utilisation abusive des fonds publics et le népotisme. Enfin, si certains ont été condamnés à des peines d’emprisonnement, la plupart ont été autorisés à garder leur emploi après avoir reçu un avertissement ou une peine mineure.

La résistance s’organise

Malgré cela, certaines administrations locales – dont le comté de Mayang, la ville de Huaihua et le comté de Li au Hunan – ont mis le système hors service, rapporte le SCMN. Selon les chercheurs, certains responsables locaux auraient déclaré qu’ils « pourraient ne pas se sentir très à l’aise avec la nouvelle technologie ». Par ailleurs, des fonctionnaires ont remis en cause le droit d’accès de « Zero Trust » aux bases de données sensibles. Pour eux, il n’existe ni loi ni règlement autorisant un ordinateur ou un robot à le faire.

Enfin, ceux qui l’utilisent encore sont confrontés à d’énormes pressions de la part des administrations locales. D’ici à penser que l’IA anticorruption imaginé par le gouvernement chinois est trop performante, il n’y a qu’un pas, c’est ce que laisse entendre Stephen Chen, l’auteur de l’article.

De manière plus générale, la résistance des représentants du gouvernement à un big bang technologique au cœur de leur administration est un défi majeur pour le gouvernement chinois. D’autant plus qu’il commence à peine à utiliser les nouvelles technologies pour naviguer dans son immense bureaucratie.

C’est pour l’ensemble de ces raisons que les chercheurs en charge de développer « Zero Trust », ne voient que peu ou pas d’espoir de le déployer à l’échelle nationale pour le moment, conclut le SCMN.

Lire aussi :

• SKAN1 Outlook : Chine : évolution des lois anticorruption et points de vigilance, ce qu’il faut savoir en 2021
• SKAN1 Outlook : Vu des Etats-Unis : avec qui faites-vous vraiment affaire en Chine ?
• SKAN1 Outlook : Travail forcé : comment les états et les entreprises peuvent lutter contre l’opacité de la supply chain
• SKAN1 Outlook : Atténuer le risque de corruption : la hantise grandissante des dirigeants

TABLEAU RATING PAYS

Transparency Corruption Perceptions Index 2018	Score : 39/100	Corrompu
Basel AML Index 2017	Score : 6,53/10	Risqué
Country risks assessment by Coface	B	Environnement des affaires moyen
Country report Euler Hermes	B2	Risques moyens