Des chercheurs de la Blavatnik School of Computer Science et de la School of Electrical Engineering de Tel Aviv en Israël ont créé neuf « master faces » (ainsi nommées en référence aux « master keys », qui ouvrent plusieurs serrures) capables d’usurper plusieurs identités. Ces travaux, publiés sur le site de prépublication arXiv, démontreraient l’absence de fiabilité des systèmes de reconnaissance faciale actuels, d’après les scientifiques.
Pour rappel, la reconnaissance faciale est une technique qui permet à partir des traits du visage d’identifier ou d’authentifier une personne. A partir d’une image, un gabarit qui représente les caractéristiques du visage est réalisé. Le système va ensuite vérifier si ce modèle correspond à l’un des modèles contenus dans la base de données.
Créer des « master faces »
La faille exploitée par les chercheurs est la suivante : la plupart des systèmes de reconnaissance faciale reposent sur les mêmes marqueurs pour identifier des individus spécifiques. Or, en créant des modèles fictifs incluant plusieurs de ces marqueurs, il est possible de créer une « master face » capable de tromper les systèmes en usurpant plusieurs identités.
Pour arriver à cette conclusion, les chercheurs ont développé un algorithme d’apprentissage automatique qui repose sur un réseau antagoniste génératif (GAN), une technique de machine learning qui se démarque par sa capacité à « créer ». Plus précisément, ils ont eu recours à StyleGAN, publié par Nvidia en décembre 2018 et permettant de créer des portraits photoréalistes de personnes fictives.
Duper 20% des identités d’une base de données
Dans un premier temps, leur modèle trouve les caractéristiques communes présentes sur plusieurs visages. Puis, il créé des images faciales qui imitent ces visages. En testant leur algorithme, ils ont découvert qu’un seul visage créé de toute pièce correspondait à « 20% des identités » contenues dans la base de données « Labeled Faces in the Wild » (LFW), créée par l’Université du Massachussetts aux Etats-Unis et qui regroupe 13 000 images de visages.
Les chercheurs concluent que les visages les plus « passe-partout » ont plus de 60 ans, ont une couleur de peau blanche et n’ont ni lunettes et poils. Ainsi, une grande partie de ce groupe pourrait donc être couverte par un seul « master face ». De plus, seuls deux des neuf visages principaux créés étaient des femmes, ce qui s’explique par le peu de visages féminins dans la base LFW (environ 22%).
Un système faillible
Ces travaux montrent une nouvelle fois que la reconnaissance faciale a des failles, comme la majorité des technologies. Ce qui soulève des questions lorsque cette technique est utilisée à des fins de surveillance, pour résoudre des crimes… C’est la raison pour laquelle son utilisation dans les lieux publics est critiquée par certaines institutions et associations de protection des libertés fondamentales, à l’image de la Cnil européenne (EDPB pour European Data Protection Board) et l’European Data Protection Supervisor (EDPS).
