L’intelligence artificielle, une réalité chinoise…

Le projet du gouvernement chinois visant à généraliser d’ici 2020 un système national de réputation des citoyens et des entreprises commence à fournir des premiers résultats surprenants. Ce système qui repose sur un outil de surveillance de masse utilise les technologies d’analyse du big data pour attribuer des scores à la fois positifs et négatifs au comportement des individus ou des entreprises selon leurs différentes interactions économiques et sociales.

Ainsi, selon un rapport chinois du Centre national d’information sur le crédit public, 23 millions de personnes ne pourraient plus prendre de transports à l’heure actuelle à cause d’une mauvaise note sociale : 17,5 millions d’entre eux ne peuvent plus acheter de billets d’avion et 5,5 millions n’ont pas le droit aux billets de train.

C’est l’ensemble de la vie sociale qui est désormais scrutée par l’IA à travers tout le pays :

Traverser la route
À Shenzhen, le visage et l’identité des piétons traversant hors des passages cloutés sont affichés sur écran géant jusqu’au paiement de leur amende

Prendre le train
À Quanzhou, plus besoin d’une carte d’identité, le checking s’effectue debout face à une caméra qui vous scanne directement le visage

Retirer de l’argent
L’Agricultural Bank of China propose désormais de retirer de l’argent au distributeur grâce à la reconnaissance faciale pour éviter les vols et fraudes

Payer ses achats
À Hangzhou, plus besoin de carte de paiement ou téléphone pour payer dans certains magasins. Avec le système « Smile to Pay » développé par Alibaba, vous pouvez désormais payer chez KFC avec un simple sourire en caisse

Être livré à domicile
Dans la province rurale de Shaanxi, située à plus de 1000 kilomètres de Pékin, JD.com a lancé en juin 2017 la première ligne commerciale de livraison de produits par drones du monde. 40 drones livrent des produits quotidiennement dans une centaine de villages inaccessibles par la route et perchés sur les montagnes

Jouer aux jeux-vidéos
L’entreprise Tencent propose aux joueurs de s’identifier grâce à la reconnaissance faciale pour contrôler le temps de jeu temps passé chaque jour ; et imposer une pause aux plus addicts

Utiliser les toilettes publiques
À Zhangzhou, afin de limiter la consommation de papier toilette, il vous sera délivré 89 cm de papier après identification via la reconnaissance faciale. Si vous avez reçu votre quota de feuilles et que vous y revenez, la machine vous reconnaîtra et vous devrez patienter neuf minutes supplémentaires !

Les limites éthiques de l’intelligence artificielle …

Entre gadget, praticité et réelle atteinte à la vie privée, l’utilisation de l’intelligence artificielle imprègne quoi qu’il en soit désormais chaque jour davantage la vie des chinois.

L’institut AI Now dans son rapport annuel sur l’intelligence artificielle évoque cependant ses préoccupations sur la surexploitation du « deep learning » dans la vie courante. L’institut craint en effet que sans un appareil réglementaire fixant des limites et des cadres aux usages, on verse dans un modèle de société de surveillance et de contrôle centralisé.

La start-up CloudWalk Technology en accord avec le gouvernement chinois a franchi d’ailleurs allégrement les limites éthiques de l’utilisation de l’IA. Son logiciel de reconnaissance faciale détectant aujourd’hui beaucoup plus facilement un visage blanc qu’un visage noir ; l’entreprise s’est alliée avec le Zimbabwe pour lui fournir l’accès à l’ensemble des informations biométriques des citoyens zimbabwéens en échange de matériel de surveillance pour le pays africain.

En effet, d’après une étude du MIT Media Lab, les algorithmes de reconnaissances faciales actuels sont modelés par des biais raciaux : les trois principaux logiciels de systèmes de reconnaissance faciale (IBM, Microsoft, Megvii) ont en moyenne moins de 1 % de chance de se tromper lorsqu’il s’agit d’un homme blanc, alors que ce pourcentage grimpe à presque 35 % lorsqu’il s’agit d’une femme noire.

‽ Entre éthique et pratique, nous avons la conviction forte chez Tilt ideas que les nouvelles technologies doivent être un outil au service de l’émancipation de la condition humaine et non de son asservissement. L’éthique et la vertu sont un préalable indispensable dans la stratégie de chaque entreprise afin de construire un futur durable et désirable pour tous 

Julien MEDINA, Consultant