Table of Contents

Comprendre la technologie de reconnaissance faciale et son rôle dans la sécurité moderne

La technologie de reconnaissance faciale est devenue l'un des outils les plus transformateurs de la lutte mondiale contre le terrorisme, qui permet d'identifier rapidement et avec précision les individus et les aides à la prévention des activités terroristes et à la sécurisation des espaces publics.

Selon la recherche Marchés et Marchés, le marché de la reconnaissance faciale devrait atteindre 8,5 milliards de dollars en 2025, soit plus que le double de 3,8 milliards de dollars en 2020. Cette croissance explosive reflète non seulement les capacités croissantes de la technologie, mais aussi son importance cruciale dans les cadres de sécurité nationaux.

La technologie de reconnaissance faciale représente un mariage sophistiqué entre la vision informatique, l'intelligence artificielle et l'analyse biométrique. La technologie numérise les caractéristiques faciales humaines en représentations mathématiques que les ordinateurs peuvent traiter et comparer, en analysant les caractéristiques faciales clés telles que la distance entre les yeux de la personne, la largeur du pont du nez, les contours de la mâchoire et la structure des pommettes, et crée ensuite des modèles biométriques uniques pour vérifier l'identité de plusieurs bases de données contenant des millions de visages.

L'évolution de la technologie de reconnaissance faciale

Des débuts aux systèmes alimentés par l'IA

La technologie remonte aux années 1960, quand un type nommé Woodrow Wilson Bledsoe a d'abord mis au point un système pour trier des photos de visages à l'aide d'une tablette spéciale. Ces systèmes anciens étaient rudimentaires selon les normes actuelles, nécessitant une entrée manuelle et fonctionnant dans des conditions hautement contrôlées. Dans les années 70, certaines personnes intelligentes ont utilisé 21 marqueurs spécifiques, comme la couleur des cheveux et l'épaisseur des lèvres, pour automatiser la reconnaissance faciale, et les années 80/90 ont vu une nouvelle approche appelée Eigenface, qui est devenue une base pour les systèmes modernes.

Le vrai changement de jeu est venu dans les années 2000 avec les médias sociaux, car soudain il y avait des millions de photos étiquetées en ligne, donnant à ces systèmes une base de données massive pour apprendre. Cette abondance de données de formation, combinée avec les progrès dans les algorithmes d'apprentissage automatique, a permis aux systèmes de reconnaissance faciale d'atteindre des taux de précision qui étaient auparavant inimaginables.

Comment fonctionnent les systèmes modernes de reconnaissance faciale

Les systèmes modernes de reconnaissance faciale fonctionnent par un processus multi-étapes qui se produit en millisecondes. La première étape consiste à détecter le visage, où le système identifie et localise un visage dans une image ou une image. Ceci est suivi par l'alignement du visage, où le système normalise la position, la taille et l'orientation du visage pour assurer une analyse cohérente, quel que soit l'angle ou la distance de l'appareil photo.

Ensuite vient l'extraction de la fonctionnalité, où le système identifie et mesure les caractéristiques faciales distinctives. Ces mesures sont converties en une représentation mathématique appelée un modèle facial ou une signature biométrique. Enfin, le système effectue la correspondance en comparant ce modèle avec des modèles stockés dans une base de données, générant une note de similitude qui indique la probabilité d'une correspondance.

Les systèmes modernes de reconnaissance faciale capturent et analysent les images de personnes dans les conditions les plus difficiles de la vision et du mouvement. Cette capacité est cruciale pour les applications de lutte contre le terrorisme, où les suspects peuvent être capturés sur des images de surveillance dans des conditions moins que idéales, y compris un éclairage insuffisant, une occlusion partielle ou sous des angles obliques.

Applications stratégiques dans les opérations de lutte contre le terrorisme

Surveillance en temps réel et détection des menaces

La technologie de reconnaissance faciale est devenue un outil de transformation dans la lutte contre le terrorisme, offrant des capacités avancées pour identifier, surveiller et appréhender les personnes d'intérêt, en mettant l'accent sur trois applications spécifiques : la surveillance en temps réel, le contrôle aux frontières et les processus d'enquête.

L'IA permet d'alerter automatiquement et de vérifier l'identité de vastes groupes de personnes à une échelle et à un rythme impossibles avant.Cette capacité est particulièrement précieuse lors d'événements de grande envergure où de grandes foules se rassemblent, comme des rassemblements politiques, des événements sportifs ou des festivals culturels.

La sécurité accrue assure une surveillance continue dans les zones à trafic élevé, identifie les personnes d'intérêt et localise les personnes disparues avec une efficacité sans précédent. La capacité de la technologie à fonctionner sans fatigue en fait un complément inestimable au personnel de sécurité humaine, qui peut ensuite concentrer son attention sur les enquêtes sur les alertes et les interventions face aux menaces potentielles.

Sécurité des frontières et contrôle de l'immigration

Si une personne (y compris un terroriste) vient aux États-Unis d'outre-mer, elle passe probablement par un poste de contrôle de l'immigration au point d'entrée et, du point de vue de la lutte contre le terrorisme, ce poste de contrôle est un point d'étranglement où le terroriste potentiel est le plus vulnérable.

Les FRT sont déployés pour vérifier qu'une personne qui passe par le contrôle aux frontières est effectivement celle qui figure sur un document d'identification (par exemple un passeport), et Interpol a déployé son système Projet premier pour aider les autorités de l'État à identifier les combattants terroristes étrangers (FTF), qui peuvent traiter rapidement les voyageurs tout en vérifiant leur identité contre les listes de surveillance de terroristes connus ou soupçonnés, ce qui améliore considérablement la sécurité sans créer de goulots d'étranglement majeurs dans le flux de passagers.

La biométrie peut empêcher le vol d'identité et la fraude à l'immigration dans l'utilisation des documents de voyage, car un modèle biométrique de l'empreinte digitale serait joint au document, comme un passeport ou un visa, sur un code à barres, une puce ou une bande magnétique, ce qui rendrait difficile l'acquisition de l'identité d'autrui.

Enquêtes et procédures judiciaires

Les systèmes biométriques pourraient identifier des terroristes connus ou présumés en utilisant la reconnaissance faciale biométrique ou la méthode FaceCheck lorsqu'une photographie est disponible du terroriste présumé, et cette photographie est fouillée contre une liste de surveillance ou une base de données de modèles de terroristes présumés.

L'efficacité de l'application de la loi accélère l'identification et la résolution des cas suspects en faisant une correspondance automatisée avec les dossiers existants. Au lieu d'examiner manuellement les heures de tournage et de comparer les visages par œil, les enquêteurs peuvent utiliser la reconnaissance faciale pour rechercher rapidement à travers de vastes archives de vidéosurveillance, identifier les suspects et suivre leurs mouvements à plusieurs endroits et périodes.

L'armée américaine a également reconnu la valeur stratégique de la reconnaissance faciale dans les opérations antiterroristes. Le Commandement des opérations spéciales des États-Unis (USSOCOM) prépare les bases d'un élargissement important de ses capacités d'information et d'exploitation d'identité, en décrivant une vision large et techniquement ambitieuse de la façon dont les forces d'opérations spéciales recueillent, analysent et exploitent les données relatives à l'identité au cours des missions, en cherchant à obtenir un aperçu de cinq domaines technologiques principaux : la reconnaissance faciale, l'identification des haut-parleurs et l'appariement de la voix, un écosystème d'application de l'exploitation de sites de la SOF entièrement intégré, une analyse rapide de l'ADN et l'analyse de l'IA et de l'apprentissage automatique.

Avantages opérationnels de la prévention du terrorisme

Vitesse et échelle d'identification

L'un des avantages les plus importants de la technologie de reconnaissance faciale dans la lutte contre le terrorisme est sa capacité à traiter et analyser les visages à des vitesses dépassant largement les capacités humaines. La nouvelle technologie a donné à l'État le pouvoir d'automatiser l'identification des terroristes connus qui organisent des attaques contre les citoyens que l'État est censé protéger, et le pouvoir de le faire, si elle fonctionne efficacement, aiderait à lutter contre le terrorisme, car les technologies de reconnaissance faciale promettent de donner à l'État précisément ce pouvoir.

Les méthodes traditionnelles d'identification des suspects reposaient fortement sur la mémoire humaine et la comparaison manuelle des photographies, processus qui prenaient du temps et étaient sujets à des erreurs. Un agent de sécurité qui surveillait un aéroport surpeuplé ne pouvait surveiller activement qu'un nombre limité de personnes à la fois, et même le personnel le plus expérimenté pouvait manquer un suspect dans une mer de visages.

Lorsque les services de renseignement reçoivent des informations sur une menace imminente, des systèmes de reconnaissance faciale peuvent être rapidement déployés pour scanner les réseaux de surveillance dans des villes entières, et éventuellement localiser les suspects en quelques minutes plutôt que quelques heures ou quelques jours.

Capacités de surveillance améliorées

Grâce à la reconnaissance biométrique, à l'algorithme d'apprentissage profond et à l'analyse des mégadonnées, l'exactitude et l'efficacité du travail de renseignement sont améliorées et le travail de surveillance traditionnel devient un combat tourné vers l'avenir et défensif.

Cette technologie permet aux organismes de sécurité de créer des réseaux complets de caméras de surveillance qui fonctionnent comme un système intégré plutôt que comme des points d'observation isolés. Lorsqu'une personne d'intérêt est détectée à un endroit, le système peut suivre leurs mouvements à travers le réseau, fournissant au personnel de sécurité des renseignements en temps réel sur ses activités et ses associations.

De plus, les systèmes de reconnaissance faciale peuvent fonctionner sans limitation de l'attention et de la fatigue humaines. Bien que les opérateurs humains puissent manquer de détails critiques pendant de longs quarts ou des périodes de faible activité, les systèmes automatisés maintiennent une vigilance constante, garantissant qu'aucune menace potentielle ne passe inaperçue.

Effet de dissuasion

La présence de systèmes de reconnaissance faciale peut être un puissant moyen de dissuasion contre les activités terroristes. Lorsque des agresseurs potentiels savent que leurs visages seront capturés et analysés par des systèmes biométriques sophistiqués, ils courent des risques beaucoup plus élevés d'identification et d'appréhension, ce qui peut perturber les processus de planification, forcer les terroristes à adopter des tactiques moins efficaces ou décourager les attaques.

Les systèmes de reconnaissance faciale créent un dossier numérique permanent qui peut être analysé longtemps après un incident, ce qui signifie que même si les terroristes parviennent à échapper à la détection immédiate, ils laissent derrière eux des preuves qui peuvent être utilisées pour les identifier ultérieurement, suivre leurs mouvements et découvrir leurs réseaux.

Optimisation des ressources

La technologie de reconnaissance faciale permet aux organismes de sécurité d'optimiser leurs ressources limitées en automatisant les tâches d'identification courante et en concentrant l'expertise humaine là où elle est la plus nécessaire. Au lieu d'affecter du personnel pour surveiller manuellement les flux de surveillance ou vérifier les documents aux postes frontaliers, les organismes peuvent déployer des systèmes de reconnaissance faciale pour s'acquitter de ces tâches tandis que les opérateurs humains se concentrent sur l'enquête sur les alertes, la conduite d'entrevues et la prise de décisions critiques.

Cette optimisation est particulièrement importante compte tenu de l'ampleur des défis de sécurité modernes. Avec des millions de voyageurs passant quotidiennement par les aéroports et d'innombrables heures de surveillance générées dans les zones urbaines, il serait impossible de passer en revue manuellement toutes ces informations.

Défis critiques et limitations techniques

Précision et faux positifs

Malgré les progrès importants réalisés dans la technologie de reconnaissance faciale, la précision demeure une préoccupation critique, en particulier dans les applications de lutte contre le terrorisme où les conséquences des erreurs peuvent être graves. La méthode de reconnaissance faciale a été identifiée avec des imperfections et des faiblesses technologiques, mais peut être utilisée de façon opérationnelle pour minimiser ses faiblesses.

Bien que les êtres humains puissent généralement bien effectuer des processus de reconnaissance faciale, ces activités sont encore très difficiles pour les systèmes technologiques, car à moins que la photographie ne soit capturée dans des conditions très contrôlées, le système peut avoir de la difficulté à identifier l'individu ou même à détecter son visage sur la photographie, et le système fonctionne mieux lorsque des facteurs environnementaux tels que l'angle de la caméra, l'éclairage, l'expression faciale et d'autres sont contrôlés dans toute la mesure possible.

Les faux positifs, qui ne permettent pas de vérifier les données de la technologie par des FRT, posent des problèmes particuliers dans les contextes de lutte contre le terrorisme, ce qui peut entraîner la suspicion et une surveillance plus intrusive, et les inciter à se tromper plus souvent, ce qui peut les amener à être soupçonnés de terrorisme ou d'autres criminels graves, ce qui peut conduire à la détention, à l'interrogatoire ou à l'application de procédures de sécurité invasives, avec des conséquences personnelles et sociales importantes.

Le NIST a récemment réalisé un test à grande échelle axé sur l'identification des biais dans le FRT, en mettant particulièrement l'accent sur le taux faussement positif – c'est-à-dire la fréquence avec laquelle un algorithme mal identifie l'image d'une personne, et les résultats ont montré que « au-delà des données démographiques, les taux faussement positifs varient souvent par des facteurs de 10 à au-delà de 100 fois », selon les algorithmes utilisés.

Bias démographique et équité algorithmique

Trois programmes d'analyse faciale commercialement publiés par les grandes entreprises technologiques démontrent des biais à la fois de type cutané et de genre, et dans les expériences des chercheurs, les taux d'erreur des trois programmes pour déterminer le sexe des hommes à peau claire n'ont jamais été pires que 0,8 %, mais pour les femmes à peau foncée, les taux d'erreur ont atteint plus de 20 % dans un cas et plus de 34 % dans les deux autres.

Le taux d'erreur chez les hommes à peau claire est de 0,8 %, comparativement à 34,7 % chez les femmes à peau foncée, selon une étude de 2018 intitulée « Gender Shades » de Joy Buolamwini et Timnit Gebru, publiée par le MIT Media Lab. Cette disparité dramatique dans les taux d'exactitude soulève de graves préoccupations quant à l'équité et à l'égalité de traitement en vertu de la loi lorsque la reconnaissance faciale est utilisée dans les contextes de sécurité et d'application de la loi.

La tonalité de la peau affecte significativement la précision de la vérification, les tons plus légers étant constamment supérieurs aux tons moyens-obscurs. La recherche a également révélé que les sujets mâles ont généralement obtenu une meilleure précision de reconnaissance que les sujets femelles, attribués à des facteurs tels que l'occlusion causée par les cheveux plus longs et les altérations de l'apparence faciale dues au maquillage.

En août 2023, une femme noire a poursuivi le Département de police de Detroit après avoir été arrêtée par des policiers utilisant un logiciel de reconnaissance faciale mal étalonné, et ce problème est répandu dans le logiciel de reconnaissance faciale, qui tend à générer un taux plus élevé de faux positifs pour les personnes non blanches.

L'étude du NIST a également révélé des résultats biaisés en ce qui concerne l'Asie de l'Est, les Amérindiens, les Indiens d'Amérique, les Indiens d'Alaska et les insulaires du Pacifique.

Causes profondes des préjugés

La technologie de reconnaissance faciale a fait de grands progrès en matière de précision grâce à des modèles avancés d'intelligence artificielle (AI) formés à des ensembles de données massives d'images faciales, mais ces ensembles de données manquent souvent de diversité en termes de race, d'origine ethnique, de sexe et d'autres catégories démographiques, ce qui a pour effet de rendre les systèmes de reconnaissance faciale plus performants sur les groupes démographiques sous-représentés par rapport aux groupes omniprésents dans les données de formation.

Les ensembles de données historiques utilisés pour former les algorithmes de reconnaissance faciale ont surtout présenté des visages de mâles blancs, reflétant les caractéristiques démographiques des chercheurs et des institutions qui les ont créés. Lorsque les algorithmes apprennent à reconnaître les visages principalement à partir de cet ensemble de données limité, ils se comportent naturellement mieux sur des visages similaires et se battent avec des visages qui diffèrent considérablement de leurs données de formation.

Beaucoup attribuent la majorité de ces questions à des ensembles de données déséquilibrés. Cependant, le problème va au-delà de la simple représentation. Même lorsque les ensembles de données comprennent des visages variés, d'autres facteurs tels que les conditions d'éclairage, la qualité de la caméra et la résolution d'image peuvent affecter de façon disproportionnée la qualité des images pour les personnes avec des tons plus foncés de peau, ce qui aggrave encore les problèmes de précision.

Efforts pour atténuer les préjugés

En 2018, Microsoft a annoncé que leur FRT disponible dans le commerce avait été mis à jour pour améliorer les performances dans les catégories de race et de genre en élargissant les ensembles de données utilisés pour former les algorithmes d'apprentissage automatique et en améliorant le classificateur de visage pour une plus grande précision, et ces améliorations ont abouti, selon la société, à des taux d'erreur 20 fois plus faibles pour les tons de peau plus foncés et 9 fois plus faibles pour les femmes.

Les chercheurs ont pré-formé trois modèles de reconnaissance faciale — ArcFace, AdaFace et ElasticFace — sur un ensemble de données synthétiques larges et équilibrées qu'ils ont générés, et le résultat a non seulement amélioré la précision globale par rapport aux modèles formés sur des ensembles de données déséquilibrés existants, mais aussi réduit considérablement les biais démographiques, les modèles formés montrant une précision plus équitable pour tous les groupes raciaux par rapport aux modèles existants présentant des résultats médiocres sur les minorités sous-représentées.

Dans l'ensemble de données FairFace, l'exactitude s'est améliorée, passant de 92,58% à 96,47%, tandis que le degré de partialité (DoB) a été réduit de 3,86 à 1,16, ce qui représente une réduction d'environ 70 %, et notamment des gains de rendement importants ont été observés pour les groupes sous-représentés, comme une amélioration de l'exactitude chez les femmes noires, qui est passée de 80,2% à 90,86 %, tout en maintenant un rendement élevé pour les groupes déjà bien représentés.

Le réseau de partialité (DebFace) utilise un codeur image-à-fiction, quatre classificateurs d'attributs, un classificateur de distribution et un réseau d'agrégation des caractéristiques, et les quatre classificateurs – genre, âge, race et identité – transforment les biais potentiels en caractéristiques éclairées, améliorant ainsi la performance des groupes sous-représentés.Ces innovations architecturales démontrent que l'atténuation des biais est techniquement faisable, bien qu'il reste beaucoup à faire pour mettre en œuvre ces solutions dans tous les systèmes déployés.

Préoccupations relatives à la vie privée et aux libertés civiles

Surveillance de masse et droits à la vie privée

La plupart des choses puissantes ont un côté sombre, et le FRT n'est pas une exception, car il soulève de graves problèmes et préoccupations au sujet de la vie privée, de l'éthique et de l'impact sociétal global. Le déploiement de la technologie de reconnaissance faciale à des fins de lutte contre le terrorisme a suscité un débat intense sur l'équilibre entre la sécurité et la vie privée, les critiques faisant valoir que la surveillance généralisée menace les libertés civiles fondamentales.

Les défis juridiques, éthiques et de protection de la vie privée liés à la surveillance de masse comprennent les préoccupations concernant la mauvaise identification, la fraude et les préjugés dans la base de données. La capacité de suivre les mouvements des personnes dans les espaces publics à leur insu ou sans leur consentement soulève de profondes questions sur la nature de la vie privée dans la société moderne et les limites appropriées des pouvoirs de surveillance du gouvernement.

Les critiques soulignent des risques importants pour la vie privée et des atteintes potentielles aux libertés civiles, suscitant des inquiétudes au sujet de la collecte de données non autorisées, du manque de consentement et du risque de fluctuer dans la fonction – à travers lesquels les données recueillies à une fin donnée sont utilisées à une fin non liée à l'insu ou au consentement de l'individu.

Les raisons avancées pour une telle interdiction sont que les FRT souffrent de biais généralisés, ce qui entraîne une répartition inégale des avantages et des préjudices entre les groupes, l'État utilisera inévitablement ces technologies à des fins illégitimes, et que l'existence de FRT refroidit notre comportement (c'est-à-dire fait que les gens se censurent par crainte de la surveillance).

Réponses et interdictions réglementaires

En 2019, San Francisco est devenue la première ville américaine à interdire la technologie de reconnaissance faciale (FRT), en particulier en lui refusant son utilisation par la police et d'autres agences, et depuis, plusieurs autres villes américaines ont mis en place leurs propres interdictions similaires de la FRT, les conseillers municipaux de Boston mettant explicitement en évidence un problème particulier : le biais de la technologie.

Plus d'une douzaine de grandes villes ont interdit la technologie, y compris Minneapolis, Boston et San Francisco. Cependant, ces interdictions locales n'ont pas empêché les organismes fédéraux et beaucoup d'autres juridictions de continuer à déployer la reconnaissance faciale à des fins de sécurité, créant un patchwork de règlements qui varie considérablement selon l'emplacement.

L'Union européenne a adopté une approche plus globale, avec l'utilisation de technologies de reconnaissance faciale dans le contexte de manifestations pacifiques, ce qui accroît le risque de pratiques de surveillance de masse et les implications pour la protection des droits de l'homme.

Équilibrer la sécurité et la liberté

Il est primordial que si l'État peut utiliser cette technologie pour accroître son pouvoir de lutte contre le terrorisme, ce pouvoir est limité de telle sorte que les abus et les comportements réfrigérés ne se produisent pas, et l'État doit créer des contraintes institutionnelles qui permettent seulement d'utiliser les FRT dans des endroits où les gens ne (et ne devraient pas) bénéficient d'une attente raisonnable de vie privée (par exemple, aéroports, postes frontaliers).

Les caméras équipées de FRT doivent être marquées pour assurer au public qu'elles ne sont pas surveillées dans des endroits où elles devraient avoir une attente raisonnable de vie privée, et que les FRT devraient être limitées à la recherche de criminels graves (p. ex. terroristes). Ces contraintes proposées représentent une tentative de préserver les avantages de la reconnaissance faciale en matière de sécurité tout en limitant son potentiel de mauvais traitements et de protection des libertés civiles.

Le FRT représente un outil puissant dans l'arsenal antiterroriste, permettant des mesures de sécurité qui étaient auparavant inaccessibles, mais il s'agit d'une technologie qui exige un équilibre extrêmement judicieux entre ses avantages clairs et les considérations éthiques importantes auxquelles il est associé, et il se pourrait qu'à l'heure actuelle, l'équilibre soit trop bas pour les avantages clairs du FRT et ne soit pas suffisant pour l'équité, la protection de la vie privée et l'intégrité éthique qui devraient guider son déploiement.

Cadres juridiques et éthiques

Considérations constitutionnelles et relatives aux droits de l ' homme

Les programmes de FRT utilisés par les services de détection et de répression pour identifier les suspects de crime sont beaucoup plus susceptibles d'erreur sur les images faciales représentant des tons et des femmes plus foncés que les images faciales représentant des hommes caucasiens, et ce biais peut conduire les citoyens à faire l'objet d'enquêtes injustifiées par la police selon des critères raciaux et sexuels, l'utilisation de la FRT biaisée par les services de détection et de répression étant incompatible avec l'exigence libérale classique selon laquelle le gouvernement traite tous les citoyens de façon égale devant la loi.

La clause de protection égale de nombreuses constitutions exige que les actes du gouvernement ne soient pas discriminatoires en raison de la race, du sexe ou d'autres caractéristiques protégées.Lorsque les systèmes de reconnaissance faciale font preuve de partialité systématique à l'égard de certains groupes démographiques, leur utilisation par les organismes gouvernementaux peut violer ces protections constitutionnelles.

Les informaticiens se sont déclarés préoccupés par l'utilisation par les services de détection et de répression de la FRT pour identifier les suspects, notant qu'il est très probable que ce logiciel soit utilisé pour identifier les suspects et qu'une erreur dans la production d'un algorithme de reconnaissance faciale utilisé pour d'autres tâches peut avoir de graves conséquences, car quelqu'un pourrait être accusé à tort d'un crime fondé sur une erreur erronée mais confiante d'identification de l'auteur de l'analyse vidéo de sécurité.

Transparence et responsabilité

Il recommande une réglementation forte, une coopération internationale et une gouvernance transparente afin de garantir que l'utilisation de la technologie de reconnaissance faciale de l'IA soit compatible avec les droits de l'homme et les libertés fondamentales.

Établir des lois claires et complètes liées à l'utilisation de la technologie de reconnaissance faciale, aligner les normes mondiales sur les cadres nationaux pour assurer la cohérence et exiger des audits réguliers des systèmes de FRT pour assurer le respect des lignes directrices éthiques.

Les risques ne devraient pas conduire à des moratoires sur l'utilisation de l'IA ou à l'interdiction de certaines plateformes, mais plutôt à des appels à l'action pour que les gouvernements exigent une meilleure conception de leurs outils d'IA/ML, ce qui signifie l'acquisition de meilleures données et la création de régimes d'essais rigoureux qui limitent les risques et exposent les lacunes autant que possible, et un moyen d'y contribuer est d'appliquer des normes d'IA et des politiques de transparence explicables qui donnent aux gouvernements des indications sur la raison d'être de chaque action qu'un système prend.

Protection et conservation des données

L'État ne devrait pas utiliser des sociétés tierces qui violent les trois premières conditions pendant la création ou l'utilisation de son service, et les sociétés tierces ne devraient pas être en mesure d'accéder aux données sensibles recueillies par l'État ou de les lire.

Les questions sur la conservation des données sont particulièrement importantes. Combien de temps faut-il conserver les données de reconnaissance faciale? Qui devrait y avoir accès? Dans quelles circonstances peut-on les partager avec d'autres organismes ou pays? Ces questions manquent de réponses claires dans de nombreuses juridictions, ce qui crée une incertitude quant aux implications à long terme du déploiement de la reconnaissance faciale.

Une base de données contenant des données de reconnaissance faciale pour des millions de personnes serait une cible intéressante pour les pirates, les services de renseignement étrangers ou les organisations criminelles. Si ces données étaient compromises, elles pourraient être utilisées pour le vol d'identité, le harcèlement ou d'autres fins malveillantes, avec des conséquences qui pourraient persister pendant des années ou des décennies.

Perspectives internationales et déploiement

Modèles d'adoption mondiaux

Application de la loi : La reconnaissance faciale est actuellement la technologie de surveillance de l'IA la plus largement adoptée au monde, avec un taux d'adoption de 64 %, dépassant à la fois les plateformes de villes intelligentes et les initiatives de police intelligente.

Les pays sont confrontés à des menaces différentes en matière de sécurité et ont des attitudes culturelles différentes à l'égard de la vie privée et de la surveillance, ce qui entraîne des variations importantes dans la façon dont la reconnaissance faciale est déployée.

Furl et al. (2002) ont constaté que le FRT développé et utilisé dans les pays occidentaux était plus précis pour les images faciales caucasiennes, alors que dans les pays d'Asie de l'Est, les algorithmes FRT étaient plus précis pour les images faciales d'Asie de l'Est.

Coopération internationale et normes

Le terrorisme est une menace transnationale qui exige une coopération internationale pour lutter efficacement.La technologie de reconnaissance faciale peut faciliter cette coopération en permettant aux pays de partager des informations sur des terroristes connus ou soupçonnés et de coordonner leurs efforts de surveillance.

Les normes juridiques de protection de la vie privée, de conservation des données et de procédure régulière diffèrent selon les pays. Lorsque les données de reconnaissance faciale sont partagées au-delà des frontières, elles peuvent être soumises à des protections moins strictes dans le pays d'accueil que dans le pays où elles ont été recueillies, ce qui risque d'entraîner une utilisation abusive des données recueillies dans le cadre de protections strictes de la vie privée par des gouvernements étrangers dotés de garanties plus faibles.

Des organisations internationales comme Interpol ont mis au point des systèmes pour faciliter l'utilisation transfrontière de la reconnaissance faciale pour lutter contre le terrorisme, qui doivent naviguer sur un terrain juridique et politique complexe, en conciliant les avantages du partage de l'information sur le plan de la sécurité et les préoccupations relatives à la vie privée, aux droits de l'homme et à la souveraineté nationale.

Perception et confiance du public

Facteurs influant sur l'acceptation du public

Les défenseurs de la FRT soulignent son potentiel en matière de sécurité publique, de prévention du crime et de lutte contre le terrorisme, notant que la FRT permet aux organismes et aux organismes chargés de l'application de la loi d'identifier les suspects et de prévenir l'accès non autorisé aux aires et espaces protégés où se trouvent des biens précieux ou des populations vulnérables.

La confiance dans les institutions qui déploient la reconnaissance faciale est un facteur essentiel de l'acceptation du public. Lorsque les gens croient que les organismes de sécurité utiliseront la technologie de façon responsable et avec une surveillance appropriée, ils sont plus susceptibles d'accepter son déploiement.

L'adoption réussie et généralisée de FRT dépend non seulement de sa rapidité et de sa précision, mais aussi de la confiance du public envers les algorithmes qui alimentent les dispositifs de reconnaissance faciale, et cette confiance sera difficile à construire, tandis que des exemples de biais racial et de faux résultats positifs continuent d'éclipser les améliorations annuelles apportées à la précision et à la fonctionnalité globales du logiciel.

Renforcer la confiance du public

Il faut plus que simplement informer les gens du déploiement de la reconnaissance faciale; cela signifie créer des occasions de dialogue véritable sur les avantages, les risques et les limites de la technologie.

La transparence du rendement du système est essentielle pour renforcer la confiance. Les organismes de sécurité devraient déclarer publiquement les taux d'exactitude, y compris les ventilations par groupe démographique, les taux positifs faux et l'information sur la façon dont la technologie est utilisée et supervisée. Cette transparence permet au public de juger en connaissance de cause si les avantages pour la sécurité justifient les coûts de la protection de la vie privée et si la technologie est utilisée de façon équitable.

Il est également crucial de démontrer que les problèmes se posent et que les systèmes de reconnaissance faciale entraînent des détentions injustifiées ou d'autres préjudices, les organismes doivent reconnaître ces manquements, indemniser les victimes et prendre des mesures concrètes pour éviter que des problèmes ne se reproduisent.

Développements futurs et technologies émergentes

Progrès dans l'exactitude et la capacité

Ces dernières années, avec des architectures avancées et l'augmentation du nombre de couches et de paramètres, les modèles FR ont considérablement amélioré leur capacité d'apprendre des représentations faciales complexes, et ces architectures plus profondes, qui comprennent souvent plus d'une centaine de couches et des millions de paramètres, ont considérablement amélioré la capacité des systèmes FR de généraliser les scénarios difficiles, ce qui a entraîné une meilleure performance globale de reconnaissance (ainsi qu'une réduction des biais) et, en outre, la disponibilité de ensembles de données plus vastes et plus diversifiés a contribué à améliorer les résultats d'apprentissage, car ces ensembles de données, qui intègrent des variations démographiques importantes et des covariables telles que la pose, l'éclairage et l'expression (EIP), ont facilité des progrès mesurables dans l'amélioration de l'exactitude et de l'équité.

Les futurs systèmes de reconnaissance faciale comprendront probablement plusieurs modalités biométriques, combinant la reconnaissance faciale avec le balayage de l'iris, l'analyse de la démarche, la reconnaissance vocale et d'autres techniques. Cette approche multimodale peut améliorer la précision en faisant le renvoi croisé de plusieurs signatures biométriques, en réduisant l'impact des erreurs dans un système unique.

Les progrès de l'intelligence artificielle, en particulier dans les réseaux d'apprentissage profond et de neurones, continuent de repousser les limites des systèmes de reconnaissance faciale, qui se renforcent dans des conditions difficiles, comme un éclairage insuffisant, une occlusion partielle ou des angles extrêmes, et qui permettent d'analyser en temps réel les flux vidéo à haute résolution provenant de plusieurs caméras simultanément.

Intégration avec d'autres systèmes de renseignement

L'avenir de la reconnaissance faciale dans la lutte contre le terrorisme ne se résume pas à améliorer la technologie elle-même, mais à l'intégrer à d'autres systèmes de renseignement et de sécurité.

Par exemple, la reconnaissance faciale pourrait identifier une personne d'intérêt dans un aéroport, ce qui déclencherait un examen plus approfondi de ses déplacements, de ses transactions financières, de ses communications et de ses associés connus.

Toutefois, cette intégration amplifie également les préoccupations relatives à la protection de la vie privée. Un système qui combine la reconnaissance faciale et des données d'autres sources crée des capacités de surveillance sans précédent qui pourraient être utilisées pour surveiller pratiquement tous les aspects de la vie des gens.

Nouvelles contre-mesures et course aux armements

À mesure que la technologie de reconnaissance faciale devient plus répandue dans la lutte contre le terrorisme, les adversaires développent des contre-mesures pour échapper à la détection, allant de techniques simples comme le port de masques ou de lunettes de soleil à des approches plus sophistiquées comme des modèles de maquillage accusatoire conçus pour confondre les algorithmes de reconnaissance faciale ou l'utilisation de la technologie de faux-semblants pour créer de fausses identités.

Cela crée une course aux armements technologique permanente, les agences de sécurité s'efforçant d'améliorer les systèmes de reconnaissance faciale tandis que les terroristes et les autres adversaires développent de nouvelles façons de les vaincre. L'efficacité de la reconnaissance faciale dans la lutte contre le terrorisme dépendra non seulement des capacités inhérentes à la technologie, mais aussi de la façon dont elle pourra s'adapter aux techniques d'évasion en évolution.

Certains chercheurs explorent des moyens de rendre les systèmes de reconnaissance faciale plus robustes contre les contre-mesures, comme l'imagerie infrarouge pour détecter les visages même lorsqu'ils sont partiellement couverts, ou l'analyse de la démarche et du langage corporel en plus des caractéristiques faciales. D'autres développent des systèmes de détection de la vivacité qui peuvent distinguer entre les visages réels et les photographies, les masques ou les écrans vidéo, en empêchant les attaques de spoofing.

Meilleures pratiques et recommandations

Normes techniques et essais

Les tests de reconnaissance faciale (FRVT) du NIST ont évalué plus de 400 algorithmes de reconnaissance faciale depuis 2017, donnant un aperçu des cotes de précision globales de tous les développeurs participants. Des tests rigoureux et indépendants des systèmes de reconnaissance faciale avant le déploiement sont essentiels pour s'assurer qu'ils répondent aux normes minimales de précision et d'équité.

Les essais devraient comprendre une évaluation de divers groupes démographiques afin de déceler et de quantifier les biais éventuels dans le rendement du système. Les systèmes qui démontrent des niveaux inacceptables de biais ne devraient pas être déployés avant que ces problèmes ne soient corrigés.

Le suivi et l'évaluation continus après le déploiement sont également importants. Le rendement du système peut se dégrader au fil du temps à mesure que les algorithmes vieillissent ou que la population faisant l'objet du suivi change.

Directives opérationnelles

Les organismes de sécurité qui déploient des activités de reconnaissance faciale pour lutter contre le terrorisme devraient établir des lignes directrices opérationnelles claires qui précisent quand et comment la technologie peut être utilisée. Ces lignes directrices devraient aborder des questions telles que : Quel niveau de confiance pour les matches est nécessaire avant de prendre des mesures? Quelle vérification supplémentaire est nécessaire avant de détenir une personne fondée sur une correspondance de reconnaissance faciale?

Ni les humains ni les algorithmes ne sont infaillibles, et des faiblesses semblables du jugement humain peuvent affecter l'utilisation des technologies de reconnaissance faciale, car les individus pourraient faire confiance à la production d'un algorithme – pensant qu'il doit être « objectif » – plus que leur propre jugement sur la correspondance de deux images, malgré les biais sous-jacents ou les inexactitudes de la technologie.

Les opérateurs devraient être formés à comprendre les limites du système, y compris son potentiel de biais et de faux positifs. Ils devraient être encouragés à exercer un jugement indépendant et ne pas se fier uniquement aux résultats algorithmiques, particulièrement lorsque les conséquences des erreurs sont graves.

Mécanismes de surveillance et de responsabilisation

Des mécanismes de surveillance robustes sont essentiels pour s'assurer que la technologie de reconnaissance faciale est utilisée de façon appropriée et que les abus sont identifiés et corrigés, ce qui devrait comprendre à la fois des mécanismes internes au sein des organismes de sécurité et une surveillance externe par des organismes indépendants tels que les commissaires à la protection de la vie privée, les comités législatifs ou l'examen judiciaire.

Les organismes devraient tenir des registres détaillés de la façon dont les systèmes de reconnaissance faciale sont utilisés, y compris les recherches effectuées, qui les effectue et les mesures qui en résultent. Ces registres devraient faire l'objet d'une vérification régulière afin d'assurer la conformité aux politiques et de déceler tout type d'abus.

Les organismes de surveillance externes devraient avoir le pouvoir et les ressources nécessaires pour effectuer un examen significatif des programmes de reconnaissance faciale, notamment l'accès à l'information technique sur le fonctionnement des systèmes, les données sur le rendement et les registres opérationnels.

Études de cas et applications du monde réel

Mise en œuvre de la sécurité aéroportuaire et frontalière

Les aéroports et les postes frontaliers ont été parmi les premiers et les plus importants à adopter des technologies de reconnaissance faciale à des fins de lutte contre le terrorisme. Ces environnements contrôlés offrent plusieurs avantages pour le déploiement de la reconnaissance faciale : les voyageurs doivent passer par des points de contrôle désignés, l'éclairage et les angles de la caméra peuvent être optimisés, et la vérification de l'identité est clairement justifiée par la sécurité.

De nombreux pays ont mis en place une reconnaissance faciale aux postes de contrôle de l'immigration pour vérifier que les voyageurs correspondent à leurs photos de passeport et pour les vérifier contre les listes de surveillance de terroristes connus ou soupçonnés, et ces systèmes ont traité des millions de voyageurs, certains aéroports ayant signalé que la reconnaissance faciale leur avait permis d'identifier des personnes qui tentaient de voyager sur des documents frauduleux ou utilisant des identités volées.

La technologie a également été mise en oeuvre pour accélérer le traitement des voyageurs de confiance par le biais de programmes qui permettent aux personnes présélectionnées d'utiliser des barrières automatisées qui vérifient leur identité par la reconnaissance faciale.

Réseaux de surveillance urbaine

Certaines villes ont déployé de vastes réseaux de caméras équipées de moyens de reconnaissance faciale pour surveiller les espaces publics en cas de menaces à la sécurité, qui peuvent suivre les mouvements des individus à travers la ville, identifier des terroristes qui surveillent des cibles potentielles ou rencontrer des conspirateurs.

Les critiques affirment que ces systèmes ont un effet dissuasif sur la libre expression et l'association, car les gens peuvent éviter certains lieux ou activités s'ils savent qu'ils sont suivis. L'équilibre entre les avantages pour la sécurité et les coûts de la protection de la vie privée est particulièrement difficile à trouver dans ces applications.

Certaines juridictions ont tenté de répondre à ces préoccupations en limitant l'utilisation de la reconnaissance faciale dans les espaces publics à des circonstances particulières, comme les enquêtes sur les crimes graves ou les interventions en cas de menaces imminentes. D'autres ont exigé que les caméras soient clairement marquées et que le public soit informé de l'endroit où la reconnaissance faciale est déployée.

Sécurité des événements et surveillance de la foule

Les événements publics majeurs, tels que les conventions politiques, les sommets internationaux ou les grands événements sportifs, présentent des cibles attrayantes pour les terroristes et nécessitent des mesures de sécurité intensives.

Ces déploiements temporaires offrent des avantages par rapport aux réseaux de surveillance permanents, qui sont limités en temps et en portée, axés sur des événements à haut risque spécifiques plutôt que sur la surveillance continue des espaces publics.

Toutefois, les applications de sécurité des événements soulèvent également des préoccupations, en particulier lorsque la reconnaissance faciale est utilisée pour surveiller les manifestations politiques. La technologie pourrait être utilisée pour identifier et suivre les militants politiques, ce qui pourrait refroidir l'expression politique légitime.

La voie à suivre: équilibrer la sécurité et les droits

Élaborer des cadres d'utilisation responsable

L'avenir de la reconnaissance faciale dans la lutte contre le terrorisme dépend de l'élaboration de cadres qui permettent d'utiliser efficacement la technologie à des fins légitimes de sécurité, tout en protégeant les libertés civiles et en assurant l'équité, ce qui exige un dialogue permanent entre les professionnels de la sécurité, les technologues, les décideurs, les défenseurs des libertés civiles et le public.

Ces cadres devraient reposer sur des principes clairs : la reconnaissance faciale ne devrait être utilisée que lorsque cela est nécessaire et proportionné à la menace pour la sécurité; elle devrait être mise en place avec des garanties appropriées contre les abus; elle devrait faire l'objet d'un contrôle et d'une responsabilité significatifs; et elle devrait être évaluée et améliorée en permanence pour résoudre les problèmes avec exactitude et partialité.

L'utilisation de la reconnaissance faciale aux postes frontaliers, lorsqu'il existe une justification claire en matière de sécurité et une attente limitée en matière de protection de la vie privée, peut être plus acceptable que son utilisation pour la surveillance continue des espaces publics.

Investir dans la recherche et le développement

Il est essentiel de poursuivre les investissements dans la recherche pour améliorer la technologie de reconnaissance faciale, notamment en améliorant la précision et la rapidité, mais en s'attaquant spécifiquement aux problèmes de partialité et d'équité. Des études à grande échelle et normalisées comme l'aide du NIST à découvrir des défauts communs en FRT, et en tant que scientifiques et employés, les ingénieurs qui développent FRT sont chargés d'améliorer les résultats du logiciel pour reconnaître les images avec des tons plus foncés de peau, ainsi que de réduire l'écart entre les sexes dans les taux faussement positifs, et lorsque les ensembles de données et les résultats sont soumis à une analyse rigoureuse et minute, les scientifiques ont la capacité d'améliorer l'algorithme et de traiter ainsi la question du partialité dans les futures itérations du logiciel.

La recherche devrait également explorer d'autres approches qui pourraient offrir de meilleures protections de la vie privée tout en maintenant les avantages de la sécurité. Par exemple, les systèmes qui analysent les modèles comportementaux ou détectent les anomalies sans identifier des personnes précises pourraient fournir des renseignements utiles sur la sécurité avec moins d'intrusion dans la vie privée que la reconnaissance faciale traditionnelle.

La recherche interdisciplinaire réunissant des informaticiens, des spécialistes des sciences sociales, des éthiciens et des juristes peut aider à identifier et à relever les défis complexes posés par la technologie de reconnaissance faciale.

Coopération internationale et normes

Compte tenu de la nature transnationale du terrorisme, la coopération internationale en matière de normes et de pratiques de reconnaissance faciale est importante et les pays devraient travailler ensemble à l'élaboration de normes communes en matière de précision, d'équité et de protection de la vie privée, tout en respectant les différentes traditions juridiques et les valeurs culturelles.

Les accords internationaux pourraient établir des normes minimales pour les systèmes de reconnaissance faciale utilisés dans la lutte contre le terrorisme, en veillant à ce que les données partagées par-delà les frontières répondent aux exigences fondamentales en matière d'exactitude et de fiabilité, et établir des protocoles pour le partage des données qui protègent la vie privée et les droits de l'homme tout en permettant une coopération efficace contre les menaces terroristes.

La coopération internationale doit toutefois être équilibrée par rapport aux préoccupations concernant la possibilité pour les régimes autoritaires d'utiliser la reconnaissance faciale pour la répression politique.Les pays démocratiques devraient être prudents quant au partage de la technologie ou des données de reconnaissance faciale avec les gouvernements qui ne bénéficient pas de protections solides en matière de droits de l'homme et de l'état de droit.

Conclusion : Navigation dans le paysage complexe

La technologie de reconnaissance faciale représente un outil puissant dans la lutte contre le terrorisme, offrant des capacités d'identification, de surveillance et d'enquête inimaginables il y a quelques décennies. La nouvelle technologie a donné à l'État le pouvoir d'automatiser l'identification de terroristes connus qui organisent des attaques contre les citoyens que l'État est censé protéger, et le pouvoir de le faire, si elle fonctionne efficacement, aiderait à lutter contre le terrorisme.

Toutefois, la technologie pose également des défis importants en matière de précision, de partialité, de confidentialité et de libertés civiles, problème qui est répandu dans les logiciels de reconnaissance faciale, qui tendent à générer un taux plus élevé de faux positifs pour les personnes non blanches, et contrairement aux logiciels de reconnaissance faciale utilisés pour arrêter quelqu'un, un algorithme CT mal formé peut tuer des civils, une action qui ne peut être annulée.

Il faut pour cela concilier ces considérations concurrentes par une élaboration rigoureuse des politiques, une surveillance rigoureuse, une amélioration technique continue et un dialogue public continu. Ni les interdictions générales qui empêchent toute utilisation de la reconnaissance faciale à des fins de sécurité ni le déploiement sans contrainte sans protection ne constituent une approche responsable.

À mesure que la technologie évolue et devient plus capable, la nécessité d'une gouvernance réfléchie devient plus urgente.Les décisions prises aujourd'hui sur la façon dont la reconnaissance faciale est développée, déployée et réglementée façonneront l'équilibre entre la sécurité et la liberté pour les années à venir.

Pour en savoir plus sur les technologies biométriques de sécurité, visitez le Programme de test des fournisseurs de reconnaissance faciale de l'Institut national des normes et de la technologie.Pour en savoir plus sur les considérations relatives à la protection de la vie privée dans les technologies de surveillance, explorez les ressources de la Fondation Frontière Electronique.