Une technologie encore faillible et inaboutie

En 2017, une expérience de vidéosurveillance « intelligente » lors du carnaval de Notting Hill, à Londres, a tourné à la catastrophe : parmi les 36 personnes identifiées, 35 n’étaient pas recherchées, et une était innocente. Mise hors de cause dans une affaire, son visage était néanmoins resté dans la base de données des forces de l’ordre. Autre exemple de l’autre côté de l’Atlantique, aux Etats-Unis où en juillet 2018, l’association American Civil Liberties Union a comparé les photos des membres du Congrès à un fichier de 25 000 délinquants pris par la police, grâce au logiciel d’Amazon : 28 membres du Congrès ont été, à tort, identifiés comme délinquants !

Une technologie probabiliste

Les technologies de reconnaissance faciale fonctionnent non pas sur la base d’une correspondance parfaite, mais à partir de probabilité. En bref, la machine calcule la distance entre deux visages, et traduit cette distance par une probabilité. A partir d’un certain seuil elle conclut : « Il s’agit bien / ou non de cette personne ».

Le taux d’erreur des algorithmes atteint 35 % pour les femmes noires.

Ce mécanisme atteint d’excellents taux de fiabilité, au-delà de 99,5 %, à condition que la prise de vue soit réalisée dans des conditions bien précises : éclairage, bon angle, immobilité. Lorsque la situation est moins maîtrisée (éclairage moins fort, qualité des images…), l’efficacité fond, comme l’a notamment révélé un rapport du National Institute of Standards and Technology (NIST), l’agence américaine chargée de mener des tests sur la reconnaissance faciale, en novembre 2018.

Des algorithmes facilement trompés

En outre, « le vieillissement est vraiment une gêne, explique Jean-Luc Dugelay, professeur à l’école d’ingénieurs Eurecom à Sophia Antipolis. Même si un an seulement sépare les deux photos, la performance diminue considérablement. » De même pour le port de la barbe, d’un maquillage ou de lunettes. Sans parler de la chirurgie plastique. Autre problème : le biais des algorithmes. Une étude réalisée par le Massachussetts Institute of Technology Media Lab de Boston a montré que les systèmes de reconnaissance faciale étaient efficaces pour les hommes blancs à 99 %, mais que le taux d’erreur atteignait 35 % pour les femmes noires.

Les banques de visage : le nerf de la guerre

Comment l’expliquer ? Dans les technologies de reconnaissance faciale, tout est basé sur la masse de données intégrée par la machine pour « apprendre ». Or « nous avons peu d’images de personnes avec et sans barbe, avec et sans maquillage, grâce auxquelles nous pourrions faire « comprendre » à l’algorithme qu’il s’agit de la même personne, explique Jean-Luc Dugelay. Une solution possible, en cours dans plusieurs instituts de recherche, est de générer nous-mêmes artificiellement de fausses images d’une personne avec et sans barbe pour apprendre à la machine. On peut aussi enrichir les bases existantes, par exemple en vieillissant artificiellement les visages stockés ». Mais « dans ce domaine, la France est handicapée par des lois strictes sur les données. Même avec des personnes volontaires, il est très compliqué de créer des bases ». Des précautions dont ne s’encombrent pas les Etats-Unis et la Chine, détentrices des plus grandes banques de visages du monde.