Pour les Ouïghours, minorité turque opprimée en Chine, l’arrivée du smartphone avait apporté une bouffée d’oxygène. Mais les autorités chinoises ont vite transformé ce rêve numérique en cauchemar digne d’Orwell.

Kashgar, deuxième ville du Xinjiang, la province à majorité ouïghoure de l’ouest de la Chine. Crédit : Laika ac//Wikimédia Commons

C’était probablement la plus grave série de failles de l’histoire d’iOS : il y a une semaine, les chercheurs de Google révélaient l’existence d’un spyware s’installant automatiquement avec accès root dès qu’un iPhone visitait un site infecté. Quelques jours plus tard, des sources indiquaient qu’Android et Windows étaient également compromis, au sein d’une campagne d’espionnage massif ciblant la communauté des Ouïghours en Chine.

Peu d’endroits au monde incarnent autant la dystopie technologique que la province du Xinjiang, dans l’ouest de la Chine, où les autorités chinoises répriment la population locale ouïghoure sur les plans de la culture et de la religion. Les smartphones s’étaient d’abord présentés comme des outils de liberté pour les Ouïghours vis-à-vis de Pékin. Mais le retour de bâton est vite arrivé, et l’algorithme préside dorénavant sur la décision d’envoyer chacun en camp d’internement.

Qui sont les Ouïghours ?

Les Ouïghours sont un peuple de 10 à 15 millions de personnes, de religion musulmane sunnite. Ils parlent une langue turque et sont culturellement proches des habitants d’Asie centrale, en particulier des Ouzbeks. Vivant au Xinjiang (« nouvelle frontière » en mandarin, prononcé « shinjang » en ouïghour), une région appelée « Turkestan oriental » par les nationalistes, ils ont historiquement connu une influence chinoise du fait de leur positionnement géographique.

La région ouïghoure a formellement été incorporée à la Chine vers la fin du 19è siècle. Les Ouïghours et les autres ethnies turciques du Xinjiang, comme les Kazakhs et les Kirghizes, ont historiquement été dépeints négativement par les autorités chinoises. Par comparaison, les musulmans Hui de langue chinoise, que l’on retrouve ailleurs dans le pays, subissent certes des discriminations mais d’ampleur beaucoup plus limitée.

Cette situation a résulté en des séries d’émeutes dans les années 1990. Après 2001, les autorités chinoises ont commencé à s’inspirer des méthodes d’antiterrorisme développées aux États-Unis contre Al-Qaïda. En juillet 2009, le meurtre de travailleurs ouïghours par des collègues han dans une usine de l’est de la Chine a causé de sanglantes émeutes au Xinjiang. Bilan : 190 morts, dont une majorité de Han. Une des réponses du gouvernement a été de suspendre Internet pendant dix mois, jusqu’en 2010.

Et puis est arrivé le smartphone…

Au début des années 2010, l’ubiquité soudaine des smartphones a favorisé la création d’un espace virtuel où les Ouïghours pouvaient laisser exprimer leurs sensibilités culturelles et religieuses. Ces quelques années se sont accompagnées, surtout par défiance envers Pékin, d’une montée visible de la religiosité dans la vie courante, mais aussi d’attentats séparatistes meurtriers hors du Xinjiang. En mars 2014, une attaque au couteau dans une gare à Kunming, capitale du Yunnan, avait fait 29 morts et plus de 130 blessés.

Les réverbérations de cet attentat ont pris la forme d’une volée de lois antiterroristes et l’établissement d’une politique de « frappe dure » courant 2014. L’état d’urgence a été déclaré au Xinjiang, permettant aux autorités de prendre des mesures exceptionnelles par rapport au reste du pays. C’est vers cette époque que s’est développé l’emploi d’outils de reconnaissance faciale par les forces de l’ordre provinciales.

Une manifestation ouïghoure à Washington en 2009. Crédit : Malcolm Brown // Flickr

… et l’intelligence artificielle

Un tournant se produit en août 2016, quand un nouvel officiel du parti prend la tête de la province du Xinjiang. Chen Quanguo, c’est son nom, met bientôt en place une politique de « transformation » des Ouïghours. Celle-ci s’axe sur la lutte contre « trois forces malveillantes », en l’occurrence « l’extrémisme religieux, le séparatisme ethnique et le terrorisme violent » qui formeraient trois « cancers idéologiques » liés selon lui.

Entre 2016 et 2017, les dépenses en sécurité au Xinjiang bondissent de 92 %, et plus de 100 000 postes de sécurité y sont ouverts (WIRED). Cela coïncide bien sûr avec une vague sécuritaire qui recouvre toute la Chine — c’est vers cette époque que l’inquiétant système de score social commence à être testé, puis déployé. Mais si tout cela est possible, c’est aussi grâce aux développements technologiques dans l’intelligence artificielle et les algorithmes.

L’administration provinciale a donc mis en place une base de données géante : la « plateforme intégrée des opérations conjointes » (一体化联合作战平台), abrégé « IJOP » en anglais. Celle-ci a d’abord été déployée dans la préfecture de Kashgar, deuxième ville de la province, avant d’être étendue au reste de la région. Cette base a pour but de détecter les individus considérés comme « terroristes potentiels », et elle est alimentée par des données venant de partout.

D’abord, les caméras de surveillance. Il y en a plus de 160 000 — une pour 20 habitants — rien qu’à Urumqi (Ürümchi), la capitale régionale. Comme dans le reste de la Chine, celles-ci sont équipées de reconnaissance faciale. Leurs réseaux neuronaux sont aussi entraînés pour détecter des comportements dits suspects tels que des rassemblements de foule, mais aussi le port de vêtements islamiques ou traditionnels, la barbe chez les hommes, ainsi que l’absentéisme à des cérémonies de salut du drapeau. La startup chinoise Hikvision fournit des IA permettant de reconnaître automatiquement les Ouïghours à leur physionomie et ainsi les différencier des Han ; elle pourrait d’ailleurs faire l’objet de sanctions américaines.

Des IA pour reconnaître les Ouïghours à leur physionomie

Dans l’empire de Black Mirror

Les contenus des smartphones sont également épiés en permanence. Les Ouïghours du Xinjiang sont de facto sous l’obligation d’installer une application de spyware légale nommée Jingwang Weishi (净网卫士 « nettoyage d’Internet »). Celle-ci fouille dans les fichiers du smartphone, ainsi que dans les applications de messageries. Les données récoltées sur chaque fichier sont envoyées en clair à des serveurs gouvernementaux. Lorsqu’un fichier « dangereux » est identifié par croisement avec une base de données, une notification incite l’utilisateur du téléphone à l’éliminer.

Les communications par WeChat et autres réseaux sociaux sont passées au peigne fin par des algorithmes ciblant spécifiquement les Ouïghours. La firme Meiya Pico propose ainsi un logiciel de traduction automatique de la langue ouïghoure ainsi que de reconnaissance automatique de symboles religieux. Ce genre d’algorithmes permet de creuser automatiquement l’historique des communications de la personne, à la recherche par exemple de signes de religiosité ou de manque de zèle dans l’usage du mandarin.

Une récolte générale et obligatoire des données biométriques a été effectuée au sein d’une campagne médicale nommée « Physicals for All ». L’ADN de chaque individu est prélevé, son groupe sanguin est noté, ses empreintes digitales et la forme de son iris sont relevées. Le visage est capté sous diverses expressions, comme le décrit auprès de WIRED une des participantes : « C’était une vraie mascarade… Ils vous demandaient de regarder comme ci et comme ça. Ils vous demandaient de rire, et vous riiez ; de lancer un regard noir, et vous le faisiez ». La personne doit ensuite lire plusieurs fois à voix haute un extrait de texte, par exemple un article de journal, pour enregistrer sa signature vocale. Cette partie est opérée par les logiciels de la startup iFlytek.

Posséder beaucoup de livres est considéré comme suspect

Cela permet de scruter les déplacements de chacun. Sur les routes, les nombreux checkpoints relèvent les plaques d’immatriculation et s’en servent pour noter où s’est rendue telle ou telle personne. Des points de contrôle à l’entrée de nombreux lieux publics — tels que des centres commerciaux, des hôpitaux, ou des parcs — demandent aux visiteurs de scanner leur carte d’identité ou de passer devant une caméra à reconnaissance faciale, leur refusant l’entrée s’ils ne sont pas considérés comme assez « fiables » par les algorithmes de l’IJOP.

Les documents administratifs sont pris en compte, et donner un nom ouïghour ou musulman à son enfant est mal vu. Les factures et les achats personnels sont surveillés. À la campagne, acheter subitement de plus grandes quantités d’engrais (un ingrédient possible de bombes artisanales) est considéré comme suspect. Tout comme des motifs inhabituels dans la consommation d’électricité, ou le fait de stocker de la nourriture.

La vie quotidienne est surveillée jusqu’à l’intérieur des maisons. 1,1 million de « grands frères et sœurs » effectuent des visites régulières à l’intérieur des foyers, sans le consentement des familles. Les surveillants incitent les occupants de la maison à participer à des activités « non islamiques » telles que boire de l’alcool, fumer, ou danser. Ils peuvent également soudoyer les enfants avec des friandises pour leur faire dire la vérité au sujet des convictions idéologiques de leurs parents. Parmi les éléments anormaux pouvant être relevés : le fait de posséder beaucoup de livres. Refuser de regarder la télévision officielle est passible de poursuites judiciaires.

Les forces de l’ordre promeuvent l’utilisation de l’application Baixing Anquan (« sécurité citoyenne ») pour que les particuliers envoient des informations à la police sur d’éventuelles « menaces ». Les individus passent également des interrogatoires auprès des policiers sur des détails de leur vie. Les interrogateurs doivent alors assigner à la personne une note : « sûre », « moyennement sûre » ou « non sûre ». Cette dernière étiquette vaut un internement direct dans un camp.

Crédits : Hernán Piñera // Flickr

Échapper aux camps

Les Nations-Unies estimaient en décembre 2018 qu’au moins 1,1 million de Ouïghours, de Kazakhs et d’autres minorités sont internés dans des « camps de rééducation », aussi appelés « centres de formation professionnelle ». Cela représenterait presque un dixième des populations turques du Xinjiang. Les individus y vivent et y dorment l’essentiel du temps, portent des uniformes, suivent des cours de mandarin et doivent chanter des chansons à la gloire du Parti communiste. Ceux qui manquent de zèle subissent des violences physiques, et très peu de personnes ont été libérées de ces camps en deux ans.

Pour échapper à la détention, un certain nombre de Ouïghours a choisi le chemin de l’exil. Mais le choix de destinations est restreint. La Chine dispose d’accords informels d’extradition avec le Kazakhstan voisin, et de grands pays musulmans comme le Pakistan ou l’Arabie saoudite ont affiché leur soutien aux politiques chinoises envers les Ouïghours. Le refuge choisi reste donc souvent la Turquie, pays relativement riche avec peu de barrières linguistiques, où 34 000 Ouïghours vivent aujourd’hui.

Les familles restées au Xinjiang préfèrent supprimer de leurs téléphones les contacts de leurs proches exilés, car recevoir un message d’un numéro de téléphone non chinois peut être un motif d’arrestation. En Chine, les Ouïghours parviennent à se recréer un semblant de liberté sur WeChat grâce à des messages codés en emojis. Une fleur à moitié fanée est signe d’arrestation, et lune noire de camp. Le soleil signifie que la personne est bien en vie, et la fleur indique une libération.

Le Xinjiang apparaît comme une vitrine des efforts algorithmiques de Pékin

Plus cyniquement, le Xinjiang apparaît comme une vitrine des efforts algorithmiques de Pékin. Depuis 2013, le forum de la China-Eurasia Security Expo étale tous les ans à Urumqi les derniers développements chinois en matière de technologies de la sécurité. Il faut dire que les entreprises chinoises vendent volontiers des produits de leur savoir-faire aux gouvernements qui le souhaitent, comme en Équateur ou alors au Zimbabwe. Mais des firmes occidentales seraient également impliquées de près ou de loin. Microsoft a ainsi été vivement critiqué en avril 2019 pour un partenariat d’intelligence artificielle avec une université militaire chinoise.

En accueillant les smartphones, les Ouïghours ne s’attendaient sans doute pas à se retrouver prisonniers d’une base de données, où chaque aspect de leur vie est sous l’emprise d’un algorithme. Une boîte noire dont par définition personne — fonctionnaires chinois compris — ne maîtrise vraiment le fonctionnement. À se demander si dans la dictature du Xinjiang, le Big Brother auxquels tous doivent soumission est un humain ou une intelligence artificielle.