Logo
Thématique
Economie, emploi et travail
Politiques, institutions et démocratie
Libertés publiques et éthique
Inclusion numérique et solidarité

rapport

Reconnaissance faciale : Porter les valeurs de l’Europe

  • Libertés publiques et éthique

Reconnaissance faciale : Porter les valeurs de l’Europe

  • Libertés publiques et éthique

TÉLÉCHARGER LE RAPPORT [Version française]

TÉLÉCHARGER L'INFOGRAPHIE [Version française]

DOWNLOAD THE REPORT [English version]

DOWNLOAD THE INFOGRAPHIC [English version]

 

Ce qu'il faut retenir : 

Les technologies de reconnaissance faciale : des outils probabilistes qui traitent de données sensibles

  • Les technologies de reconnaissance faciale reposent sur des méthodes d’intelligence artificielle qui appliquent des techniques dites d’apprentissage profond (deep learning) au domaine de la vision par ordinateur, permettant de reconnaître des visages sur des images (vidéo ou fixes) en s’appuyant sur des données biométriques. Elles diffèrent donc des technologies de reconnaissance comportementale ou émotionnelle, qui elles reposent par exemple sur l’analyse de la coordination des mains, des tremblements, du mouvement des yeux ou encore des muscles du visage.

 

  • Le traitement des données biométriques est, en principe, interdit au sein de l’Union européenne (UE). Par leur recours à des données biométriques, les technologies de reconnaissance faciale sont donc hautement sensibles. Le recours à ces technologies doit être exceptionnel, et une alternative à ces dernières doit toujours être privilégiée.

 

  • Les technologies de reconnaissance faciale regroupent des technologies extrêmement diverses. Tous les usages (public ou privé, consenti ou à l’insu des individus, en temps réel ou différé, etc.), ne comportent pas la même sensibilité et les mêmes facteurs de risque.

 

  • Les technologies de reconnaissance faciale ne sont pas infaillibles. Leurs systèmes peuvent être sujets à des failles de sécurité importantes et certaines technologies peuvent induire des biais pouvant provoquer des discriminations racistes, sexistes ou âgistes.

 

  • Au-delà de ces lacunes d’ordre technique, certaines failles peuvent également résulter de l’intervention humaine dans l’interprétation des résultats de ces technologies qui sont probabilistes. Il est primordial que les utilisateurs de ces technologies soient formés à leur usage.

 

  • Toute décision prise dans laquelle une technologie de reconnaissance faciale est impliquée est le résultat d’une chaîne d’événements. Dès lors, il est indispensable d’assurer l’explicabilité des décisions à chaque niveau de la chaîne, jusqu’à la décision humaine.
     

Le cadre juridique qui entoure les technologies de reconnaissance faciale est relativement complet en Europe, mais son application est disparate et peu efficiente

  • Au sein de l’UE, les technologies de reconnaissance faciale sont relativement bien encadrées juridiquement, que ce soit par les droits fondamentaux, ou par divers textes européens (RGPD, Directive Police-Justice) et nationaux (Loi Informatique et Libertés par exemple pour la France) qui viennent les compléter.

 

  • Ce cadre juridique pâtit toutefois de faiblesses dans son application, qui le rendent peu efficient.

 

  • D’une part, la réglementation européenne est appliquée de manière fluctuante d’un État membre à l’autre, notamment dans le domaine de la recherche fondamentale. Les autorités de régulation nationales possèdent en outre des ressources humaines et financières disparates et insuffisantes pour bien le mettre en oeuvre.

 

  • D’autre part, ce cadre souffre de difficultés dans l’application des droits fondamentaux. Il est complexe d’assurer la conformité des technologies de reconnaissance faciale avec nos droits fondamentaux en l’absence de contrôle a priori. Quant aux analyses réalisées ex post par les juges, ces dernières demandent d’une part que le juge soit saisi, et d’autre part un investissement considérable de la part du requérant, notamment en termes de temps et de compétences.

 

Face à la prédominance américaine et pour garantir les droits et libertés fondamentaux des citoyens, l’Union européenne doit se doter d’un système robuste de standardisation européen des technologies de reconnaissance faciale

  • Le National Institute for Standards and Technology (NIST) américain domine actuellement le marché international de la standardisation des technologies de reconnaissance faciale. Les critères d’évaluation établis par le NIST sont largement utilisés dans le monde, y compris au sein des appels d’offres européens. Ces standards font toutefois référence à des critères exclusivement techniques.

 

  • Pour asseoir sa souveraineté numérique et protéger les droits et libertés fondamentaux de ses citoyens, l’UE doit définir ses propres standards et y intégrer des dimensions juridiques. Lorsqu’il s’agit de technologies de reconnaissance faciale, la fiabilité d’un système ne saurait en effet s’arrêter à ses seules performances techniques.

 

  • Les technologies de reconnaissance faciale étant évolutives, leur conformité aux standards européens doit être régulièrement évaluée, ainsi que les standards eux-mêmes.

 

  • L’adoption de ces standards doit passer par leur imposition dans le cadre des marchés publics européens, nationaux et locaux, expérimentations incluses. Cette obligation doit garantir leur adoption à grande échelle par un effet performatif.

 

  • Au-delà de leur adoption, l’imposition de ces standards dans le cadre des marchés publics doit permettre un encadrement effectif de la surveillance publique.

 

  • Pour porter ses standards, l’UE doit s’appuyer sur une instance de gouvernance multi-parties prenantes, réunissant les expertises en matière de standardisation, de droits fondamentaux, dont la protection des données à caractère personnel, et plus globalement de défense des droits.

 

  • La mise en oeuvre du système de standardisation européen nécessite également des investissements (financiers et en ressources humaines) de la part des États membres, afin de garantir la montée en puissance des autorités de contrôle européennes.

 

TÉLÉCHARGER LE RAPPORT [Version française]

TÉLÉCHARGER L'INFOGRAPHIE [Version française]

DOWNLOAD THE REPORT [English version]

DOWNLOAD THE INFOGRAPHIC [English version]