La « menace » des start-ups chinoises : une figure bienvenue dans les débats sur la reconnaissance faciale ?

Le 7 octobre 2019, le département du commerce américain mettait sur liste noire 28 entreprises chinoises pour leur rôle dans la « brutale répression des minorités ethniques en Chine ». Parmi celles-ci figurent Megvii, SenseTime et Yitu, trois des quatre start-ups chinoises de reconnaissance faciale, valorisées à plus d’un milliard de dollars. Cette sanction devrait restreindre leurs ambitions internationales. Alors que la reconnaissance faciale est de plus en plus controversée aux Etats-Unis, cette sanction participe également à l’orientation du débat sur cette technologie en opposant un modèle jugé vertueux à un modèle peu respectueux des droits de l’homme. La menace chinoise est une figure opportune pour clôturer tout débat sur la technologie elle-même. Elle néglige le rôle joué par des chercheurs et organisations américaines dans le développement des entreprises chinoises et le développement massif des systèmes de reconnaissance faciale aux Etats-Unis.

Megvii, SenseTime, Cloudwalk et Yitu : quatre licornes du marché chinois de la reconnaissance faciale

Depuis le début de l’année 2019, dans une dizaine de villes chinoises (Shenzen, Jinan, Guangzhou, Shanghai, Nanjing, Qingdao, Nanning), des expérimentations de paiement par reconnaissance faciale dans les lignes de métro ont été mises en œuvre. L’utilisation de ces systèmes de paiement est une étape supplémentaire dans l’intégration des technologies de reconnaissance faciale dans la vie quotidienne. Si l’efficacité de ces technologies restent perfectible, celles-ci sont également mises en œuvre pour identifier des personnes suspectes ou recherchées dans la foule à l’entrée des événements populaires tels que des concerts, pour fluidifier les embarquements dans les gares ou les aéroports, pour payer en magasin, pour reconnaître les habitants d’une résidence ou pour obtenir un numéro de téléphone. Loin de se restreindre à la sécurité et la surveillance, ce marché de l’intelligence artificielle a des applications commerciales larges dans des industries de la santé aux services financiers, robotiques et véhicules autonomes. Plutôt qu’un système centralisé de surveillance, la reconnaissance faciale en Chine prend la forme d’un patchwork d’utilisations de la technologie, fournie par plusieurs entreprises, pour des usages divers loin de se résumer à la sécurité.

Ce marché intérieur a contribué au développement de puissantes start-up chinoises de reconnaissance faciale. A côté des géants Huawei ou ZTE, acteurs majeurs du marché international des safe cities,  Megvii, SenseTime, CloudWalk et Yitu se spécialisent sur les technologies de reconnaissance automatique d’images. Après plusieurs importantes levées de fond d’investisseurs chinois et internationaux, ces quatre jeunes entreprises sont valorisées à plus d’un milliard de dollars. Elles dominent les classements de précision de la reconnaissance faciale établis par le US National Institute of Standards and Technology qui font référence dans ce secteur. Ces entreprises peuvent compter sur le soutien du gouvernement chinois qui a fait de l’intelligence artificielle une priorité nationale et ambitionne de devenir le leader mondial de l’AI en 2030 et des autorités locales qui mettent en œuvre des systèmes de surveillance. Outre les systèmes de surveillance vendus aux gouvernements nationaux ou locaux, ces start-ups ciblent des entreprises dans des domaines aussi divers que la téléphonie mobile, le secteur bancaire, l’éducation, la santé ou les transports.

Un développement international ciblé en Afrique, en Asie du Sud-Est et au Moyen-Orient

Ces start-ups, qui réalisent aujourd’hui l’essentiel de leur activité en Chine, ambitionnent dorénavant de conquérir des marchés internationaux. Si, suite aux suspicions visant Huawei et ZTE, les gouvernements occidentaux semblent peu enclins à avoir recours à ces technologies chinoises, ces entreprises visent un développement en Asie, en Amérique du Sud, au Moyen-Orient et en Afrique. Megvii a signé un partenariat avec la Thaïlande, Yitu fournit à la police malaisienne des caméras de reconnaissance faciale, tandis que CloudWalk a signé un contrat avec le gouvernement du Zimbabwe pour construire un système national de reconnaissance faciale au travers du programme de la Nouvelle route de la soie de développement d’infrastructures. Enfin, SenseTime a mis en œuvre un système de reconnaissance faciale dans les prisons de haute sécurité en Mongolie et a signé un partenariat pour construire l’AI Park en Malaisie. Ces contrats à l’international sont également un moyen d’améliorer les algorithmes de ces entreprises. Cloudwalk ne cache pas que le déploiement de sa technologie au Zimbabwe lui donnera accès à une base de données de personnes à la couleur de peau plus foncée, ce qui devrait permettre à terme de limiter les biais raciaux de ses algorithmes, un problème crucial pour l’ensemble des entreprises de reconnaissance faciale dans le monde.

Dans leur expansion internationale, ces entreprises bénéficient du soutien des banques chinoises qui fournissent des prêts aux taux avantageux à ces gouvernements en échange de contractualiser avec des firmes chinoises. Les pays en développement, où la protection des droits de l’homme est parfois limitée, sont particulièrement ciblés et où les craintes d’usage de ces technologies à des fins de répression politique sont fortes. La localisation des données traitées dans des serveurs chinois et leur transmission aux services de surveillance chinois sont l’objet de suspicions régulières. En réponse à ces critiques, les entreprises chinoises indiquent respecter les lois des pays dans lesquels elles se déploient. Elles se cantonnent à se positionner comme des fournisseurs de technologies non responsables des usages qui en seront faits comme l’indique le porte-parole de Cloudwalk : “La question de savoir si la vie privée est violée ou non va dépendre de la manière dont le gouvernement zimbabwéen utilise la technologie. Tout comme les États-Unis vendent des armes dans le monde entier et se moquent que des gouvernements utilisent des armes américaines pour tuer des gens...”.

En conséquence, le développement international des entreprises chinoises est rapide. Comme le pointe un rapport du Australian Strategic Policy Institute, « En 2017, Huawei a répertorié 40 pays dans lesquels ses technologies de villes intelligentes ont été mises en places. En 2018, ce nombre aurait plus que doublé pour atteindre 90 pays (dont 230 villes) ». Les entreprises chinoises sont devenues les premiers fournisseurs de systèmes de surveillance d’intelligence artificielle dans le monde. Cette présence massive est un atout pour peser dans la détermination de standards et de règlementations qui soient les plus favorables au développement de leur activité économique, dans le domaine de la sécurité ou de l’usage industriel de la reconnaissance faciale. Elles sont parmi les acteurs les plus actifs à proposer des standards dans les instances internationales telles que l’Union Internationale des télécommunications (ITU), qui font référence dans les pays d’Afrique, du Moyen-Orient et d’Asie (L’Europe et l’Amérique du Nord ont leurs propres organismes de standardisation tels que l’IETF, l’IEEE ou le 3GPP, où les industriels occidentaux dominent les débats.). Cette activité diplomatique de production de standards inquiète les défenseurs des droits de l’homme ou de la vie privée. En effet, comme l’indique Mehwish Ansari, membre d’Article 19, une organisation de défense des droits de l’homme implantée sur les cinq continents : “Il n'y a pratiquement pas d'experts des droits de l'homme, de la protection des consommateurs ou de la protection des données présents aux réunions de l'ITU sur les normes, donc un grand nombre des technologies qui menacent la liberté d'expression et la vie privée ne sont pas contestées dans ces espaces”. Or, comme le rappelle Richard Wingfield, directeur juridique de Global Partners Digital, une ONG soutenant un environnement numérique fondé sur le respect des droits de l’homme : « Il y a des idées concurrentes sur les normes - elles ne sont pas neutres du point de vue des droits de l’homme. ». La faible transparence et la participation restreinte d’organisations de la société civile à ces discussions techniques font craindre le pire quant à la protection des libertés individuelles dans l’élaboration de ces standards.

L’ambiguïté des autorités et des entreprises américaines vis-à-vis des start-up chinoises de reconnaissance faciale

L’expansion internationale des entreprises chinoises de reconnaissance faciale pourrait être freinée par les réticences des pays occidentaux liés aux craintes de surveillance par le gouvernement chinois et la volonté de préserver les intérêts des entreprises américaines ou européennes. Début octobre, le département américain du Commerce a placé huit entreprises chinoises de la tech sur liste noire, dont Megvii Technology, SenseTime et Yitu Technology, pour sanctionner leur participation à la répression des Ouïghours dans la région du Xinjiang. Ces entreprises ne pourront plus importer de produits depuis les Etats-Unis, ce qui risque de limiter leur croissance. Elles sont en effet largement dépendantes des puces produites par les entreprises américaines de semi-conducteurs, en particulier Nvidia, AMD et Intel, pour développer leurs produits de machine learning.

Ces mesures américaines sont ainsi des moyens de protéger les industriels américains face aux velléités de développement international de ces firmes chinoises. Elles masquent toutefois le rôle joué par les administrations et les universités américaines dans l’essor de ces technologies de reconnaissance faciale. La Intelligence Advanced Research Projects Activity (IARPA) et le US Department of Commerce’s National Institute of Standards and Technology (NIST) ont construit des bases de données, organisé des compétitions et financé des programmes de recherche auxquelles ont pris part les entreprises chinoises. Les universités américaines ont également joué un rôle majeur. En 2018, le MIT a conclu un partenariat avec SenseTime, qui est devenu l’un des financeurs principaux du MIT Quest for Artificial Intelligence, à côté de fonds provenant de l’armée américaine. L’essor des entreprises chinoises de surveillance a également participé à la croissance de sociétés américaines, telles que Seagate, Western Digital, Intel, Nvidia, ou HP Enterprise, qui leur fournissent des technologies indispensables à leur développement (puces, disques durs, etc.). Enfin, les entreprises et fonds d’investissement américains ont investi dans les start-up chinoises de reconnaissance faciale. Le géant de la puce Qualcomm détient une participation dans la société SenseTime, tout comme plusieurs fonds d’investissement occidentaux.

Les licornes chinoises : des « concurrents » bienvenus pour éviter tout débat éthique ?

La croissance des entreprises chinoises de reconnaissance faciale et leurs velléités d’expansion internationale sont des arguments récurrents avancés par les gouvernements et les entreprises occidentales pour promouvoir un autre modèle d’utilisation de la technologie. Brandir la menace chinoise contribue à orienter le débat sur l’angle de la concurrence et des politiques industrielles nationales et à éviter l’imposition de règlementations restrictives qui nuiraient aux entreprises nationales sur les marchés internationaux. Ce cadrage économique du débat, que l’on observe également en Europe, offre l’avantage de ne pas poser la question de la finalité de ces technologies de reconnaissance faciale alors que celles-ci sont déployées massivement aux Etats-Unis dans des secteurs aussi divers que les écoles, les concerts, les stades, les commerces, les aéroports, la politique migratoire ou les polices locales, formant un complexe système de surveillance entremêlant institutions publiques, entreprises et citoyens. La contestation progresse toutefois et plusieurs municipalités, comme San Francisco, ont voté l’interdiction de l’usage de la reconnaissance faciale par leurs administrations municipales alors que Portland envisage de l’interdire également aux entreprises privées. Kate Crawford, chercheuse à NYU et des associations de protection des droits civiques aux Etats-Unis ont appelé à un moratoire sur ces technologies, très peu encadrées aux Etats-Unis. Cette idée d’un moratoire a été reprise en France par plusieurs députés, chercheurs, ONG et journalistes. En France, la CNIL a publié en novembre 2019 une communication sur la reconnaissance faciale, « pour un débat à la hauteur des enjeux », où elle apportait des éléments pour « contribuer à ce débat, en présentant les éléments techniques, juridiques et éthiques qui doivent selon elle être pris en compte dans l’approche de cette question complexe ». Des débats qui restent ouverts, pas seulement sur le cas des entreprises chinoises.