Table of Contents
Comprender la tecnología de reconocimiento facial y su papel en la seguridad moderna
La tecnología de reconocimiento facial ha surgido como una de las herramientas más transformadoras de la lucha mundial contra el terrorismo. Esta tecnología de gran alcance permite la identificación rápida y precisa de personas y ayudas para prevenir actividades terroristas y hacer más seguros los espacios públicos. A medida que las amenazas de seguridad siguen evolucionando en complejidad y escala, los gobiernos y los organismos de aplicación de la ley en todo el mundo están recurriendo cada vez más a sistemas biométricos avanzados para proteger a sus ciudadanos e infraestructura.
Según la investigación de Mercados y Mercados, el mercado de reconocimiento facial está destinado a alcanzar los $8.5 mil millones en 2025, más que duplicando los $3.8 mil millones en 2020. Este crecimiento explosivo refleja no sólo las capacidades de expansión de la tecnología sino también su importancia crítica en los marcos de seguridad nacional. Desde aeropuertos y cruces fronterizos hasta las redes de vigilancia urbana y los procesos de investigación, el reconocimiento facial se ha convertido en un componente indispensable de las estrategias modernas contraterrorismo.
En su núcleo, la tecnología de reconocimiento facial representa un matrimonio sofisticado de visión informática, inteligencia artificial y análisis biométrico. La tecnología digitaliza las características faciales humanas en representaciones matemáticas que los ordenadores pueden procesar y comparar, analizando características faciales clave como la distancia entre los ojos de la persona, ancho del puente de nariz, contornos de la línea de mandíbula, y luego crea plantillas biométricas únicas para verificar las identidades en bases de datos que contienen millones de capacidad de detección de velocidad.
La evolución de la tecnología de reconocimiento facial
Desde principios tempranos hasta sistemas de potenciación de inteligencia artificial
La tecnología se remonta a los años 60 cuando un tipo llamado Woodrow Wilson Bledsoe apareció por primera vez con un sistema para ordenar fotos de caras usando una tableta especial. Estos sistemas tempranos fueron rudimentarios por los estándares de hoy, que requieren entrada manual y funcionamiento bajo condiciones altamente controladas. En los años 70, algunas personas inteligentes utilizaron 21 marcadores específicos, como el color del cabello y el grosor de labios, para automatizar el reconocimiento facial, y los 80s.
El verdadero cambiador de juego llegó en los años 2000 con redes sociales, ya que de repente había millones de fotos etiquetadas en línea, dando a estos sistemas una base de datos masiva para aprender. Esta abundancia de datos de entrenamiento, combinados con avances en algoritmos de aprendizaje automático, permitió que los sistemas de reconocimiento facial alcanzaran tasas de precisión que anteriormente eran inimaginables. Hoy, con AI y aprendizaje profundo, los sistemas de reconocimiento facial para las empresas se han vuelto increíblemente precisos y rápido.
Cómo funcionan los sistemas de reconocimiento facial modernos
Los sistemas de reconocimiento facial modernos funcionan a través de un proceso multietapa que ocurre en milisegundos. La primera etapa consiste en la detección de caras, donde el sistema identifica y localiza una cara dentro de una imagen o un marco de vídeo. Esto se sigue por alineación facial, donde el sistema normaliza la posición, tamaño y orientación de la cara para asegurar un análisis consistente independientemente del ángulo o distancia de la cámara.
A continuación viene la extracción de características, donde el sistema identifica y mide características faciales distintivas. Estas mediciones se convierten en una representación matemática llamada plantilla facial o firma biométrica. Finalmente, el sistema realiza la combinación al comparar esta plantilla con plantillas almacenadas en una base de datos, generando una puntuación de similitud que indica la probabilidad de un partido.
Los sistemas de reconocimiento facial modernos capturan y analizan imágenes de personas en las condiciones más difíciles de visión y movimiento. Esta capacidad es crucial para aplicaciones de lucha contra el terrorismo, donde los sospechosos pueden ser capturados en imágenes de vigilancia bajo condiciones menos que ideales, incluyendo iluminación deficiente, oclusión parcial o en ángulos oblicuos.
Aplicaciones estratégicas en las operaciones de lucha contra el terrorismo
Vigilancia en tiempo real y detección de amenazas
La tecnología de reconocimiento facial ha surgido como una herramienta transformadora en la lucha contra el terrorismo, ofreciendo capacidades avanzadas para identificar, monitorear y capturar a personas de interés, con enfoque en tres aplicaciones específicas: vigilancia en tiempo real, control fronterizo y procesos de investigación. En espacios públicos concurridos, centros de transporte, y durante eventos importantes, los sistemas de reconocimiento facial pueden escanear continuamente multitudes y alertar instantáneamente al personal de seguridad cuando se detecta una persona de interés.
AI permite alertas automáticas y controles de identidad de grandes grupos de personas a escala y ritmo que no es posible antes. Esta capacidad es particularmente valiosa durante eventos de alto perfil donde se reúnen grandes multitudes, como rallyes políticos, eventos deportivos o festivales culturales. Las agencias de seguridad pueden desplegar sistemas de reconocimiento facial para monitorear puntos de entrada y movimientos de multitudes, identificando posibles amenazas antes de que puedan materializarse en ataques.
La seguridad mejorada proporciona un seguimiento continuo en áreas de alto tráfico, identifica a personas de interés y localiza a personas desaparecidas con eficiencia sin precedentes. La capacidad de la tecnología para operar continuamente sin fatiga lo convierte en un complemento invaluable para el personal de seguridad humana, que puede entonces centrar su atención en investigar alertas y responder a amenazas potenciales.
Seguridad Fronteriza y Control de Inmigración
Los cruces fronterizos y los aeropuertos representan puntos críticos en los esfuerzos de lucha contra el terrorismo. Si una persona (incluido un terrorista) viene a los Estados Unidos desde el extranjero, es probable que pase por un puesto de control de inmigración en el puerto de entrada, y desde la perspectiva de la lucha contra el terrorismo, este puesto de control es un punto de vista donde el terrorista sería más vulnerable.
Las FRT se despliegan para verificar que una persona que atraviesa el control fronterizo es, en efecto, la persona que figura en un documento de identificación (por ejemplo, un pasaporte), y la Interpol ha desplegado su sistema de proyecto FIRST para ayudar a las autoridades estatales a identificar a los combatientes terroristas extranjeros (FTFs). Estos sistemas pueden procesar a los viajeros rápidamente mientras verifican simultáneamente sus identidades contra los observadores de terroristas conocidos o sospechosos, mejorando significativamente la seguridad sin crear grandes obstáculos en el flujo de pasajeros.
La biometría puede prevenir el robo de identidad y el fraude de inmigración en el uso de documentos de viaje, ya que una plantilla biométrica de la huella se adjuntaría al documento, como un pasaporte o visa, en un código de barras, chip o banda magnética, lo que dificultaría que alguien asumiera la identidad de otro. Cuando se combina con el reconocimiento facial, este enfoque biométrico multicapa crea una defensa robusta contra los terroristas que intentan entrar en países usando documentos fraudulentos o identidades.
Aplicaciones de investigación y forense
Los sistemas biométricos podrían identificar a terroristas conocidos o sospechosos mediante reconocimiento facial biométrico o el método FaceCheck cuando se dispone de una fotografía del presunto terrorista, y esto se registra contra una lista de vigilancia o base de datos de las plantillas de presuntos terroristas. Esta capacidad ha resultado inestimable en las investigaciones posteriores a incidentes, donde las agencias de seguridad analizan las imágenes de vigilancia para identificar a los autores y sus asociados.
La eficiencia de las fuerzas del orden acelera la identificación y resolución de casos sospechosos mediante la combinación automatizada de los registros existentes. En lugar de revisar manualmente las horas de grabación y comparar las caras por ojo, los investigadores pueden utilizar el reconocimiento facial para buscar rápidamente a través de vastos archivos de vídeo de vigilancia, identificando a los sospechosos y rastreando sus movimientos en múltiples lugares y períodos de tiempo.
El Comando de Operaciones Especiales de Estados Unidos (USSOCOM) está poniendo las bases para una expansión significativa de sus capacidades de inteligencia y explotación de identidad, destacando una visión amplia y técnicamente ambiciosa de cómo las Fuerzas de Operaciones Especiales recopilan, analizan y explotan datos relacionados con la identidad durante las misiones, buscando información sobre cinco áreas de tecnología primaria: reconocimiento facial, identificación de altavoces y análisis de voz, un ecosistema de análisis completo de ADN
Ventajas operacionales en la prevención del terrorismo
Velocidad y Escala de Identificación
Una de las ventajas más importantes de la tecnología de reconocimiento facial en la lucha contra el terrorismo es su capacidad de procesar y analizar caras a velocidades muy superiores a las capacidades humanas. La nueva tecnología ha dado nuevo poder al Estado para automatizar la identificación de terroristas previamente conocidos que están organizando ataques contra los ciudadanos que se supone que el Estado debe proteger, y el poder para hacerlo, si funciona eficazmente, ayudaría a combatir el terrorismo, ya que las tecnologías de reconocimiento facial prometen darle al estado precisamente ese poder.
Los métodos tradicionales de identificación de sospechosos dependían en gran medida de la memoria humana y la comparación manual de fotografías, procesos que llevaban tiempo y propensas a error. Un oficial de seguridad que vigila un aeropuerto concurrido sólo podía observar activamente a un número limitado de personas a la vez, e incluso el personal más experimentado podía perder a un sospechoso en un mar de caras. Los sistemas de reconocimiento facial, por contraste, pueden monitorizar simultáneamente cientos o miles de caras, comparando cada uno contra extensas en tiempo real.
Esta capacidad es particularmente crucial en situaciones que tienen en cuenta cada segundo tiempo. Cuando las agencias de inteligencia reciben información sobre una amenaza inminente, los sistemas de reconocimiento facial pueden desplegarse rápidamente para escanear redes de vigilancia en todas las ciudades, potencialmente ubicando sospechosos en minutos en lugar de horas o días.
Capacidades de vigilancia mejoradas
Mediante reconocimiento biométrico, algoritmo de aprendizaje profundo y análisis de datos grandes, se mejora la exactitud y eficiencia del trabajo de inteligencia y el trabajo de monitoreo tradicional se convierte en una lucha defensiva y orientada hacia el futuro. El reconocimiento facial transforma la vigilancia de una herramienta reactiva utilizada principalmente para la investigación posterior al incidente en un sistema proactivo capaz de prevenir ataques antes de que ocurran.
La tecnología permite a las agencias de seguridad crear redes integrales de cámaras de vigilancia que funcionen como un sistema integrado en lugar de puntos de observación aislados. Cuando una persona de interés se detecta en un lugar, el sistema puede rastrear sus movimientos en toda la red, proporcionando al personal de seguridad información en tiempo real sobre sus actividades y asociaciones. Esta capacidad es inestimable para comprender las redes terroristas y identificar a miembros desconocidos de organizaciones extremistas.
Además, los sistemas de reconocimiento facial pueden funcionar continuamente sin las limitaciones de la atención y la fatiga humanas. Mientras que los operadores humanos pueden perder detalles críticos durante largos turnos o períodos de baja actividad, los sistemas automatizados mantienen una vigilancia constante, asegurando que no se desnude ninguna amenaza potencial.
Efecto de disuasión
La presencia de sistemas de reconocimiento facial puede servir como un poderoso disuasivo para las actividades terroristas. Cuando los posibles atacantes saben que sus rostros serán capturados y analizados por sofisticados sistemas biométricos, enfrentan riesgos significativamente mayores de identificación y captura. Esta conciencia puede perturbar los procesos de planificación, obligar a los terroristas a adoptar tácticas menos eficaces o desalentar los ataques en su conjunto.
El efecto de disuasión se extiende más allá de la amenaza inmediata de identificación. Los sistemas de reconocimiento facial crean un registro digital permanente que puede analizarse mucho después de que ocurra un incidente. Esto significa que incluso si los terroristas logran evadir la detección inmediata, dejan pruebas que pueden utilizarse para identificarlas más tarde, rastrear sus movimientos y descubrir sus redes. Esta responsabilidad a largo plazo añade otra capa de riesgo que los terroristas deben considerar al planificar las operaciones.
Optimización de los recursos
La tecnología de reconocimiento facial permite a las agencias de seguridad optimizar sus limitados recursos automatizando tareas de identificación rutinaria y centrando la experiencia humana en las que más se necesita. En lugar de asignar personal para monitorear manualmente los alimentarios de vigilancia o comprobar documentos en los cruces fronterizos, las agencias pueden desplegar sistemas de reconocimiento facial para manejar estas tareas mientras los operadores humanos se centran en investigar alertas, realizar entrevistas y tomar decisiones críticas.
Esta optimización es particularmente importante dada la escala de los desafíos de seguridad modernos. Con millones de viajeros que pasan por aeropuertos diariamente y innumerables horas de video de vigilancia generadas en áreas urbanas, sería imposible revisar manualmente toda esta información. Los sistemas de reconocimiento facial pueden procesar esta gran cantidad de datos automáticamente, indicando sólo la pequeña fracción que requiere atención humana.
Retos críticos y limitaciones técnicas
Precisión y falsos positivos
A pesar de los avances significativos en la tecnología de reconocimiento facial, la precisión sigue siendo una preocupación crítica, especialmente en las aplicaciones de lucha contra el terrorismo, donde las consecuencias de los errores pueden ser graves. El método de reconocimiento facial se ha identificado con imperfecciones tecnológicas y debilidades, pero puede utilizarse operacionalmente para minimizar sus debilidades.
Aunque los seres humanos generalmente pueden realizar procesos de reconocimiento facial bastante bien, estas actividades siguen siendo muy difíciles para los sistemas tecnológicos, ya que a menos que la fotografía sea capturada bajo condiciones muy controladas, el sistema puede tener dificultad para identificar al individuo o incluso detectar su rostro en la fotografía, y el sistema funciona mejor cuando factores ambientales como el ángulo de cámara, la iluminación, la expresión facial y otros, se controlan en la mayor medida posible.
Falsos positivos –instancias en las que el sistema identifica incorrectamente a alguien como persona de interés – se enfrentan a problemas particulares en contextos de lucha contra el terrorismo. Aquellos para quienes la tecnología no funciona tampoco podrán ser verificados por las FRTs, causando sospechas y una vigilancia más intrusiva, y además, serán objeto de una identificación más frecuente, lo que puede causar que sean sospechosos de ser terroristas o de otros delitos graves.
NIST realizó recientemente una prueba a gran escala centrada en identificar sesgo en FRT, con un énfasis particular en la tasa positiva falsa – es decir, la frecuencia con la que un algoritmo mal identifica la imagen de una persona, y los resultados mostraron que "entre la demografía, las tasas falsas positivas a menudo varían por factores de 10 a más allá de 100 veces", dependiendo de qué algoritmos están en uso. Estas variaciones en las tasas de error en diferentes sistemas destacan la importancia de pruebas rigurosas y la tecnología de implementación.
Bias Demográficas y Feria Algorítmica
Uno de los retos más graves que la tecnología de reconocimiento facial es el sesgo demográfico: la tendencia de los sistemas a realizar con menos precisión ciertos grupos demográficos. Tres programas de análisis facial comercialmente liberados de las principales empresas tecnológicas demuestran tanto el tipo de piel como el género, y en los experimentos de los investigadores, las tasas de error de los tres programas para determinar el género de los hombres de piel clara nunca fueron peores que 0,8%, pero para las mujeres más afectadas por error
La tasa de error para hombres de piel ligera es de 0,8%, frente al 34,7% para mujeres de piel oscura, según un estudio de 2018 titulado "Gender Shades" de Joy Buolamwini y Timnit Gebru, publicado por MIT Media Lab. Esta dramática disparidad en las tasas de precisión plantea serias preocupaciones acerca de la equidad y la igualdad de trato bajo la ley cuando el reconocimiento facial se utiliza en contextos de seguridad y cumplimiento de la ley.
El tono de piel afecta significativamente la precisión de verificación, con tonos de piel más ligeros que superan constantemente los tonos medio oscuros. La investigación también ha encontrado que los sujetos masculinos generalmente lograron una mejor precisión de reconocimiento que los sujetos femeninos, atribuidos a factores como la oclusión causada por el cabello más largo y alteraciones en la apariencia facial debido al maquillaje.
En agosto de 2023, una mujer negra demandó al Departamento de Policía de Detroit después de ser arrestada por agentes de policía usando software de reconocimiento facial mal calibrado, y este problema es prevalente en el software de reconocimiento facial, que tiende a generar mayor tasa de falsos positivos para personas no blancas. Estos incidentes demuestran las consecuencias reales del mundo real de los prejuicios algorítmicos y subrayan la necesidad urgente de sistemas de reconocimiento facial más equitativos.
El estudio NIST también encontró resultados parciales cuando llegó a Asia oriental, nativo americano, indio americano, indio de Alaska y isleños del Pacífico. La omnipresenteidad de estos prejuicios en múltiples grupos demográficos sugiere que el problema es sistémico en lugar de aislado a poblaciones o algoritmos específicos.
Causas de las raíces de las grasas
La tecnología de reconocimiento facial ha hecho grandes avances en la precisión gracias a los modelos avanzados de inteligencia artificial (AI) formados en conjuntos masivos de datos de imágenes faciales, pero estos conjuntos de datos a menudo carecen de diversidad en términos de raza, etnia, género y otras categorías demográficas, lo que hace que los sistemas de reconocimiento facial actúen peor en grupos demográficos infrarrepresentados en comparación con los grupos que ubicua en los datos de capacitación.
El problema de la sesgo proviene de múltiples fuentes. Los datasets históricos utilizados para entrenar algoritmos de reconocimiento facial han caracterizado predominantemente rostros de hombres blancos, reflejando la demografía de los investigadores e instituciones que los crearon. Cuando los algoritmos aprenden a reconocer caras principalmente de este conjunto de datos limitado, naturalmente se realizan mejor en caras similares y lucha con rostros que difieren significativamente de sus datos de entrenamiento.
Muchos atribuyen la mayoría de estos problemas a conjuntos de datos desequilibrados. Sin embargo, el problema se extiende más allá de la simple representación. Incluso cuando los conjuntos de datos incluyen diversas caras, otros factores como las condiciones de iluminación, la calidad de la cámara y la resolución de la imagen pueden afectar desproporcionadamente la calidad de las imágenes para personas con tonos de piel más oscuros, complicando aún más los problemas de precisión.
Actividades para Mitigate Bias
Los investigadores y las empresas tecnológicas han reconocido la gravedad del problema de sesgo y están trabajando activamente en soluciones. En 2018, Microsoft anunció que su FRT disponible comercialmente había experimentado actualizaciones para mejorar el rendimiento en las categorías de raza y género ampliando los conjuntos de datos utilizados para formar los algoritmos de aprendizaje automático y mejorando el clasificatorio facial para mayor precisión, y estas mejoras dieron lugar, según la empresa, a 20 veces menores tasas de error para las mujeres.
Los investigadores pre-entrenaron tres modelos de reconocimiento facial — ArcFace, AdaFace y ElasticFace— en un conjunto de datos sintéticos amplio y equilibrado que generaron, y el resultado no sólo aumentó la precisión general en comparación con los modelos capacitados en conjuntos de datos desbalanceados existentes, sino también redujo significativamente el sesgo demográfico, con modelos capacitados que mostraban una precisión más equitativa en todos los grupos raciales en comparación con los modelos existentes que mostraban un desempeño deficiente en las minorías insuficientemente representados.
En el conjunto de datos FairFace, la precisión mejoró del 92,58% al 96,47%, mientras que el Grado de Bias (DoB) se redujo de 3,86 a 1,16, lo que representa una reducción de aproximadamente 70%, y en particular, se observaron importantes ganancias de rendimiento para grupos insuficientemente representados, como una mejora de la exactitud para las mujeres negras del 80,2% al 90,86%, manteniendo un fuerte rendimiento para los grupos ya bien representados.
La red descifradora de adversarios (DebFace), utiliza un encoder de imagen a cuerpo, cuatro clasificadores de atributos, un clasificador de distribución y una red de agregación de características, y los cuatro clasificadores —género, edad, raza e identidad— convierten los posibles prejuicios en características informadas, mejorando así el rendimiento en grupos infrarrepresentados.Estas innovaciones arquitectónicas demuestran que la mitigación de ses es técnicamente factible, aunque se implementan soluciones significativas.
Inquietencias de privacidad y libertades civiles
Derechos de Vigilancia y Privacidad en Masa
La mayoría de todo lo poderoso tiene un lado oscuro, y la FRT no es una excepción, ya que plantea serios problemas y preocupaciones sobre la privacidad, la ética y el impacto social general. El despliegue de tecnología de reconocimiento facial para los propósitos de la lucha contra el terrorismo ha suscitado intensos debates sobre el equilibrio entre la seguridad y la privacidad, con críticos argumentando que la vigilancia generalizada amenaza las libertades civiles fundamentales.
Los desafíos legales, éticos y de privacidad en materia de vigilancia masiva incluyen preocupaciones sobre la identificación errónea, el fraude y el sesgo en la base de datos. La capacidad de rastrear los movimientos de individuos en los espacios públicos sin su conocimiento o consentimiento plantea profundas preguntas sobre la naturaleza de la privacidad en la sociedad moderna y los límites apropiados de los poderes de vigilancia del gobierno.
Los críticos señalan que hay riesgos importantes de privacidad y posibles infracciones de las libertades civiles, suscitando preocupaciones sobre la recopilación de datos no autorizada, la falta de consentimiento y el potencial de la función de la misma, mediante los cuales los datos recogidos con un propósito se utilizan para un propósito no relacionado sin el conocimiento o consentimiento del individuo.El temor es que los sistemas inicialmente desplegados para la lucha contra el terrorismo puedan ampliarse gradualmente para vigilar a los ciudadanos comunes que realizan actividades lícitas, creando un estado de vigilancia que escaloradas que escaloradas.
Las razones que se plantean para tal prohibición son que las FRT sufren de prejuicios generalizados que dan lugar a que los beneficios y los daños se distribuyan desigualmente entre grupos, el Estado utilizará inevitablemente estas tecnologías con fines ilegítimos, y que la existencia de FRTs enfría nuestro comportamiento (es decir, hace que la gente se censura por temor a la vigilancia). Este efecto escalofriante podría socavar la participación democrática al desalentando a las personas a asistir a protestas, manifestaciones políticas o manifestaciones, a otras manifestaciones, manifestaciones,
Respuestas y prohibiciones reglamentarias
En 2019, San Francisco se convirtió en la primera ciudad de Estados Unidos en prohibir la tecnología de reconocimiento facial (FRT), concretamente vetando su uso por la policía y otras agencias, y desde entonces, varias ciudades americanas han implementado sus propias prohibiciones de FRT similares, con con los concejales de Boston resaltando explícitamente un tema particular: el sesgo de la tecnología. Estas prohibiciones reflejan creciente preocupación pública por el potencial de la tecnología para el abuso y sus problemas demostrados con exactitud y equidad.
Más de una docena de ciudades grandes han prohibido la tecnología, incluyendo Minneapolis, Boston y San Francisco. Sin embargo, estas prohibiciones locales no han impedido que las agencias federales y muchas otras jurisdicciones continúen implementando reconocimiento facial con fines de seguridad, creando un parche de regulaciones que varía significativamente por ubicación.
La Unión Europea ha adoptado un enfoque más amplio, con el uso de tecnologías de reconocimiento facial en el contexto de la protesta pacífica que plantea el riesgo de prácticas de vigilancia masiva y las implicaciones para la protección de los derechos humanos. Los reguladores europeos han propuesto limitaciones estrictas en el uso del reconocimiento facial en los espacios públicos, con algunas medidas de defensa para la prohibición completa, excepto en circunstancias delimitadas en las que se hayan cometido delitos graves o amenazas inminentes.
Equilibración de la seguridad y la libertad
Es fundamental que si el Estado puede utilizar esta tecnología para aumentar su poder para combatir el terrorismo, este poder se ve limitado de tal manera que los abusos y el comportamiento escalofriante no se produzcan, y el Estado debe crear restricciones institucionales que sólo permitan que las FRT se utilicen en lugares donde las personas no (y no deben) disfruten de una expectativa razonable de privacidad (por ejemplo, aeropuertos, cruces fronterizos).
Las cámaras equipadas con FRT deben estar marcadas para asegurar al público que no están siendo superadas en lugares que deben tener una expectativa razonable de privacidad, y las FRT deben limitarse a encontrar criminales graves (por ejemplo, terroristas). Estas limitaciones propuestas representan un intento de preservar los beneficios de seguridad del reconocimiento facial, al tiempo que limitan su potencial de abuso y protección de las libertades civiles.
FRT representa una poderosa herramienta en el arsenal de lucha contra el terrorismo, permitiendo medidas de seguridad que antes no eran sostenibles, pero esta es una tecnología que exige un equilibrio extremadamente juicioso entre sus beneficios claros y las importantes consideraciones éticas con las que está asociada, y en el presente, podría ser el caso de que el equilibrio esté inclinado demasiado lejos en favor de los beneficios claros de FRT y no suficientemente en favor de la equidad, privacidad e integridad ética que debe guiar su implementación.
Marco jurídico y ético
Consideraciones constitucionales y de derechos humanos
Los programas de la FRT utilizados por las fuerzas del orden para identificar a los sospechosos de delitos son considerablemente más propensas a errores en imágenes faciales que representan tonos de piel más oscuros y mujeres en comparación con imágenes faciales que representan a hombres caucásicos, y este sesgo puede llevar a que los ciudadanos sean investigados por la policía de manera errónea en las líneas raciales y de género, siendo incompatible con el requisito liberal clásico que el gobierno trata a todos los ciudadanos igualmente ante la ley.
La cláusula de protección de muchas constituciones exige que las acciones gubernamentales no discriminen por motivos de raza, género u otras características protegidas. Cuando los sistemas de reconocimiento facial demuestran una parcialidad sistemática contra determinados grupos demográficos, su utilización por organismos gubernamentales puede violar estas protecciones constitucionales, lo que crea un dilema legal: mientras que la tecnología puede mejorar la seguridad, su comportamiento parcial podría hacer que su uso sea inconstitucional o en violación de la ley de los derechos humanos.
Los científicos de computación han expresado preocupación por el uso de la FRT para identificar sospechosos de delitos, señalando que es muy probable que ese software se utilice para identificar sospechosos, y por lo tanto, un error en la salida de un algoritmo de reconocimiento facial utilizado como entrada para otras tareas puede tener graves consecuencias, ya que alguien podría ser acusado erróneamente de un delito basado en la identificación errónea pero segura del autor del análisis de video de seguridad.
Transparencia y rendición de cuentas
Recomienda una regulación sólida, cooperación internacional y una gobernanza transparente para asegurar que la utilización de la tecnología de reconocimiento facial de AI sea compatible con los derechos humanos y las libertades fundamentales. Transparencia sobre cómo funcionan los sistemas de reconocimiento facial, sus tasas de precisión y sus limitaciones son esenciales para la confianza pública y la rendición de cuentas democrática.
Establecer leyes claras y amplias relacionadas con el uso de la tecnología de reconocimiento facial, armonizar las normas mundiales con los marcos nacionales para garantizar la coherencia y ordenar auditorías periódicas de los sistemas de TRF para garantizar el cumplimiento de las directrices éticas. La auditoría periódica puede ayudar a identificar problemas con exactitud o parcialidad antes de que puedan causar daños graves, mientras que los marcos jurídicos claros proporcionan orientación a los organismos de seguridad sobre los usos apropiados de la tecnología.
Los riesgos no deben llevar a una moratoria del uso de la IA o la prohibición de ciertas plataformas, sino que deben ser llamados a la acción para que los gobiernos exijan un mejor diseño de sus herramientas de IA/ML, lo que significa adquirir mejores datos y crear regímenes de pruebas vigorosos que limiten el riesgo y expongan deficiencias tanto como sea posible, y una manera de ayudar a ello es mediante la aplicación de normas de IA explicables y políticas de transparencia que dan a los gobiernos información sobre la racionalidad para cada acción que toma un sistema.
Protección de datos y retención
El Estado no debe utilizar empresas de terceros que violen las tres primeras condiciones durante la creación o uso de su servicio, y las empresas de terceros no deben poder acceder o leer los datos sensibles recopilados por el estado. Los datos biométricos recopilados por los sistemas de reconocimiento facial son altamente sensibles y personales, lo que requiere una protección robusta contra el acceso no autorizado, el uso indebido o las infracciones de datos.
¿Cuánto tiempo se deben almacenar datos de reconocimiento facial? ¿Quién debe tener acceso a él? ¿En qué circunstancias puede compartirse con otros organismos o países? Estas preguntas carecen de respuestas claras en muchas jurisdicciones, creando incertidumbre sobre las implicaciones a largo plazo del despliegue de reconocimiento facial.
El riesgo de incumplimientos de datos es también significativo. Una base de datos que contiene datos de reconocimiento facial para millones de personas sería un objetivo atractivo para hackers, servicios de inteligencia extranjeros o organizaciones delictivas. Si esos datos se comprometieran, podría utilizarse para robo de identidad, acecho u otros fines maliciosos, con consecuencias que podrían persistir durante años o décadas.
Perspectivas y Despliegue Internacionales
Patrones de adopción mundial
La aplicación de la ley: El reconocimiento facial actualmente es la tecnología de vigilancia de IA más amplia adoptada a nivel mundial, con una tasa de adopción del 64%, superando tanto las plataformas de ciudades inteligentes como las iniciativas de policía inteligente. Esta adopción generalizada refleja tanto el valor percibido de la tecnología para la seguridad como los diversos enfoques regulatorios adoptados por diferentes países.
Los países enfrentan diferentes amenazas de seguridad y tienen diferentes actitudes culturales hacia la privacidad y la vigilancia, lo que lleva a variaciones significativas en cómo se despliega el reconocimiento facial. Algunas naciones han adoptado la tecnología con entusiasmo, desplegándola extensamente en espacios públicos con restricciones mínimas. Otras han adoptado un enfoque más cauteloso, limitando su uso a contextos específicos de alta seguridad o imponiendo estrictos requisitos de supervisión.
Furl et al. (2002) encontraron que FRT desarrolló y utilizó en países occidentales era más preciso para las imágenes faciales caucásicas, mientras que en los países de Asia oriental, los algoritmos de FRT eran más precisos para las imágenes faciales de Asia oriental. Este hallazgo destaca la importancia de desarrollar sistemas de reconocimiento facial que se capacitan en diversos conjuntos de datos representativos de las poblaciones en los que se desplegarán.
Cooperación y Normas Internacionales
El terrorismo es una amenaza transnacional que requiere la cooperación internacional para combatir eficazmente. La tecnología de reconocimiento facial puede facilitar esta cooperación permitiendo a los países compartir información sobre terroristas conocidos o sospechosos y coordinar sus esfuerzos de vigilancia. Sin embargo, esta dimensión internacional también plantea preguntas complejas sobre el intercambio de datos, la protección de la privacidad y los derechos humanos.
Los diferentes países tienen normas jurídicas diferentes para la protección de la privacidad, la retención de datos y el debido proceso. Cuando los datos de reconocimiento facial se comparten a través de las fronteras, puede estar sujeto a menos estrictas protecciones en el país receptor que en el país donde se recogió, lo que crea riesgos de que los datos recogidos bajo estrictas protecciones de privacidad puedan ser utilizados indebidamente por gobiernos extranjeros con salvaguardias más débiles.
Organizaciones internacionales como la Interpol han desarrollado sistemas para facilitar el uso transfronterizo del reconocimiento facial para la lucha contra el terrorismo, que deben navegar por un terreno jurídico y político complejo, equilibrando los beneficios de seguridad del intercambio de información contra las preocupaciones sobre la privacidad, los derechos humanos y la soberanía nacional. La elaboración de normas y acuerdos internacionales para el uso responsable del reconocimiento facial en la lucha contra el terrorismo sigue siendo un reto permanente.
Percepción y confianza públicas
Factores que influyen en la aceptación pública
Los defensores de la FRT enfatizan su potencial en seguridad pública, prevención del delito y lucha contra el terrorismo, señalando que la FRT permite a los organismos y organizaciones encargados de hacer cumplir la ley identificar a los sospechosos y prevenir el acceso no autorizado a zonas y espacios protegidos donde existen activos valiosos o poblaciones vulnerables. El apoyo público al reconocimiento facial depende a menudo del contexto específico en el que se utiliza, con mayor aceptación para aplicaciones de seguridad en entornos de alto riesgo como aeropuertos.
La confianza en las instituciones que despliegan reconocimiento facial es un factor crítico en la aceptación pública. Cuando las personas confían en que los organismos de seguridad utilizarán la tecnología responsablemente y con una supervisión adecuada, son más propensos a aceptar su despliegue. Por el contrario, cuando la confianza es baja debido a abusos pasados, falta de transparencia o preocupaciones sobre la parcialidad, la oposición pública tiende a ser más fuerte.
La adopción exitosa y generalizada de FRT depende no sólo de su velocidad y precisión, sino también de la confianza del público en los algoritmos que potencian los dispositivos de reconocimiento facial, y que la confianza será difícil de construir mientras que ejemplos de prejuicios raciales y falsos resultados positivos continúan superando las mejoras anuales que se están haciendo en la precisión y funcionalidad general del software.
Fomento de la confianza pública
Fomentar el compromiso público para abordar las preocupaciones y construir confianza. Un compromiso público significativo requiere más que informar simplemente a las personas sobre el despliegue del reconocimiento facial; significa crear oportunidades para un diálogo genuino sobre los beneficios, riesgos y límites adecuados de la tecnología.
La transparencia en el rendimiento del sistema es esencial para fomentar la confianza. Los organismos de seguridad deben informar públicamente de las tasas de exactitud, incluidas las desintegraciones por grupo demográfico, las tasas positivas falsas e información sobre cómo se utiliza y supervisa la tecnología. Esta transparencia permite al público emitir juicios informados sobre si las prestaciones de seguridad justifican los costos de privacidad y si la tecnología se utiliza con justicia.
También es crucial demostrar la responsabilidad cuando se producen problemas. Cuando los sistemas de reconocimiento facial conducen a detenciones erróneas u otros daños, los organismos deben reconocer estos fallos, compensar a las víctimas y adoptar medidas concretas para prevenir la recurrencia. Un patrón de negar problemas o desviar responsabilidades erosionará la confianza pública y fomentará la oposición a la tecnología.
Desarrollos futuros y tecnologías emergentes
Avances en la precisión y la capacidad
En los últimos años, con arquitecturas avanzadas y un aumento del número de capas y parámetros, los modelos FR han mejorado sustancialmente su capacidad para aprender representaciones faciales complejas, y estas arquitecturas más profundas, a menudo compuestas por más de cien capas con millones de parámetros, han mejorado significativamente la capacidad de los sistemas FR para generalizar en escenarios difíciles, lo que ha dado lugar a un mayor rendimiento general de reconocimiento (así como ses reducidos) y, además, la disponibilidad de resultados más diversos
Los futuros sistemas de reconocimiento facial probablemente incorporarán múltiples modalidades biométricas, combinando el reconocimiento facial con el análisis de iris, el análisis de gaits, el reconocimiento de voz y otras técnicas. Este enfoque multimodal puede mejorar la precisión mediante la referencia cruzada de múltiples firmas biométricas, reduciendo el impacto de errores en cualquier sistema único. También puede dificultar que los terroristas evadan la detección desviando o alterando su apariencia.
Los avances en la inteligencia artificial, particularmente en el aprendizaje profundo y las redes neuronales, siguen empujando los límites de lo que los sistemas de reconocimiento facial pueden lograr. Estos sistemas se están convirtiendo en mejores condiciones para reconocer caras bajo condiciones difíciles, como iluminación deficiente, oclusión parcial o ángulos extremos. También se están convirtiendo en más rápido, permitiendo el análisis en tiempo real de las secuencias de vídeo de alta resolución de múltiples cámaras simultáneamente.
Integración con otros sistemas de inteligencia
El futuro del reconocimiento facial en la lucha contra el terrorismo no sólo es mejorar la tecnología misma, sino integrarla con otros sistemas de inteligencia y seguridad. Cuando el reconocimiento facial se combina con el análisis conductual, la cartografía de redes sociales, la vigilancia de comunicaciones y otras fuentes de inteligencia, se convierte en parte de un sistema integral de detección de amenazas que es mayor que la suma de sus partes.
Por ejemplo, el reconocimiento facial podría identificar a una persona de interés en un aeropuerto, lo que podría provocar un escrutinio adicional de sus patrones de viaje, transacciones financieras, comunicaciones y asociados conocidos. Este enfoque integrado permite a las agencias de seguridad crear una imagen más completa de las amenazas potenciales y tomar decisiones más informadas sobre cómo responder.
Sin embargo, esta integración también amplifica las preocupaciones de privacidad. Un sistema que combina el reconocimiento facial con datos extensos de otras fuentes crea capacidades de vigilancia sin precedentes que podrían utilizarse para supervisar prácticamente todos los aspectos de la vida de las personas. Asegurar que tales sistemas poderosos se utilicen sólo para fines de seguridad legítimos y con una supervisión adecuada será un reto crítico para los responsables de la formulación de políticas.
Nuevas contramedidas y carrera de armamentos
A medida que la tecnología de reconocimiento facial se hace más prevalente en la lucha contra el terrorismo, los adversarios están desarrollando contramedidas para evitar la detección. Estos van desde técnicas simples como usar máscaras o gafas de sol a enfoques más sofisticados como patrones de maquillaje de adversarios diseñados para confundir algoritmos de reconocimiento facial o el uso de tecnología de la difamación para crear identidades falsas.
Esto crea una carrera tecnológica continua, con agencias de seguridad que trabajan para mejorar los sistemas de reconocimiento facial mientras que los terroristas y otros adversarios desarrollan nuevas formas de derrotarlos. La eficacia del reconocimiento facial en la lucha contra el terrorismo dependerá no sólo de las capacidades inherentes a la tecnología, sino de lo bien que puede adaptarse a las técnicas de evasión en evolución.
Algunos investigadores están explorando formas de hacer que los sistemas de reconocimiento facial sean más robustos contra las contramedidas, como el uso de imágenes infrarrojas para detectar rostros incluso cuando están parcialmente cubiertos, o el análisis de gait y lenguaje corporal además de las características faciales. Otros están desarrollando sistemas de detección de la vida que pueden distinguir entre caras reales y fotografías, máscaras o pantallas de vídeo, evitando ataques de espoofía.
Prácticas y recomendaciones óptimas
Normas técnicas y pruebas
Los actuales Tests de proveedores de reconocimiento facial de NIST (FRVT) han evaluado más de 400 algoritmos de reconocimiento facial desde 2017, dando información sobre las calificaciones de precisión general de todos los desarrolladores participantes. Pruebas ridículas e independientes de sistemas de reconocimiento facial antes del despliegue es esencial para asegurar que cumplan con estándares mínimos para la precisión y la equidad.
Los exámenes deben incluir la evaluación en diversos grupos demográficos para identificar y cuantificar cualquier sesgo en el desempeño de los sistemas. Los sistemas que demuestren niveles inaceptables de sesgo no deben desplegarse hasta que se corrijan estos problemas. Los exámenes también deben evaluar el desempeño en condiciones operacionales realistas, no sólo en entornos de laboratorio controlados.
La vigilancia y evaluación permanentes después del despliegue son igualmente importantes. El rendimiento del sistema puede degradarse con el tiempo a medida que se observan cambios en la edad de los algoritmos o cuando se vigila la población.
Directrices operacionales
Las agencias de seguridad que despliegan reconocimiento facial para la lucha contra el terrorismo deben establecer directrices operacionales claras que especifiquen cuándo y cómo se puede utilizar la tecnología. Estas directrices deben abordar cuestiones tales como: ¿Qué nivel de confianza de coincidencia se requiere antes de tomar medidas? ¿Qué verificación adicional se requiere antes de detener a alguien basado en un acuerdo de reconocimiento facial? ¿Cómo debe usarse el sistema junto con el juicio humano?
Ni los humanos ni los algoritmos son infalibles, y las debilidades similares del juicio humano pueden afectar el uso de tecnologías de reconocimiento facial, ya que los individuos pueden confiar en la salida de un algoritmo – pensando que debe ser "objetivo" – más que su propio juicio sobre si dos imágenes coinciden, a pesar de los prejuicios subyacentes o las imprecisiones en la tecnología.
Los operadores deben ser entrenados para comprender las limitaciones del sistema, incluyendo su potencial para parciales y falsos positivos. Se debe alentar a ejercer un juicio independiente y no depender únicamente de salidas algorítmicas, especialmente cuando las consecuencias de los errores son graves. Los protocolos claros deben especificar qué es necesaria la investigación o verificación adicional antes de tomar acción basada en un partido de reconocimiento facial.
Mecanismos de supervisión y rendición de cuentas
Los mecanismos de supervisión robustos son esenciales para garantizar que la tecnología de reconocimiento facial se utilice adecuadamente y que se detecten y corrijan los abusos, y que estos mecanismos deben incluir tanto los mecanismos internos de los organismos de seguridad como la supervisión externa de órganos independientes, como los encargados de la privacidad, los comités legislativos o la revisión judicial.
Los organismos deben mantener registros detallados de cómo se utilizan los sistemas de reconocimiento facial, incluyendo qué registros se realizan, quién los lleva a cabo, y qué acciones resultan. Estos registros deben estar sujetos a auditoría periódica para garantizar el cumplimiento de las políticas y determinar cualquier patrón de uso indebido.Cuando se detectan problemas, debe haber mecanismos claros de rendición de cuentas para asegurar que las partes responsables tengan consecuencias apropiadas.
Los órganos de supervisión externa deben tener la autoridad y los recursos para realizar una revisión significativa de los programas de reconocimiento facial, lo que incluye el acceso a información técnica sobre cómo funcionan los sistemas, datos de desempeño y registros operativos. Los órganos de supervisión también deben tener la facultad de compeler cambios a programas que violen normas jurídicas o éticas.
Estudios de casos y aplicaciones en el mundo real
Implementaciones de seguridad en el aeropuerto y la frontera
Los aeropuertos y cruces fronterizos han sido uno de los primeros y más extensos adoptantes de la tecnología de reconocimiento facial para la lucha contra el terrorismo. Estos entornos controlados ofrecen varias ventajas para el despliegue de reconocimiento facial: los viajeros deben pasar por puestos de control designados, se pueden optimizar los ángulos de iluminación y cámara, y hay una clara justificación de seguridad para la verificación de identidad.
Muchos países han implementado reconocimientos faciales en los puestos de control de inmigración para verificar que los viajeros coincidan con sus fotos de pasaporte y para comprobarlas contra listas de terroristas conocidos o sospechosos. Estos sistemas han procesado a millones de viajeros, con algunos aeropuertos que informan que el reconocimiento facial les ha permitido identificar a personas que intentan viajar en documentos fraudulentos o utilizando identidades robadas.
La tecnología también se ha desplegado para acelerar el procesamiento de viajeros de confianza a través de programas que permiten a los individuos pre-pantallados utilizar puertas automatizadas que verifican su identidad mediante reconocimiento facial. Este doble uso —haciendo tanto la seguridad como la comodidad— ha contribuido a la aceptación pública de la tecnología en contextos aeropuertos.
Redes de Vigilancia Urbana
Algunas ciudades han desplegado extensas redes de cámaras equipadas con capacidades de reconocimiento facial para monitorear espacios públicos para amenazas de seguridad. Estos sistemas pueden rastrear movimientos de individuos en toda la ciudad, identificando potencialmente terroristas que realizan vigilancia de posibles objetivos o encuentros con co-conspiradores.
Sin embargo, las redes de vigilancia urbana también han generado controversia significativa debido a su potencial de vigilancia masiva de ciudadanos comunes. Los críticos argumentan que estos sistemas crean un efecto escalofriante en la libertad de expresión y asociación, ya que las personas pueden evitar ciertos lugares o actividades si saben que están siendo rastreados. El equilibrio entre las prestaciones de seguridad y los costos de privacidad es particularmente difícil de alcanzar en estas aplicaciones.
Algunas jurisdicciones han intentado abordar estas preocupaciones limitando el uso del reconocimiento facial en espacios públicos a circunstancias específicas, como la investigación de delitos graves o la respuesta a amenazas inminentes. Otros han requerido que las cámaras estén claramente marcadas y que se informe al público sobre dónde se implementa el reconocimiento facial. Estos enfoques intentan preservar algunas prestaciones de seguridad al tiempo que limitan los aspectos más intrusivos de la vigilancia en masa.
Seguridad de eventos y monitoreo de cuervos
Los principales acontecimientos públicos, como las convenciones políticas, las cumbres internacionales o los grandes acontecimientos deportivos, representan objetivos atractivos para los terroristas y requieren medidas de seguridad intensivas. En esos eventos se ha realizado un reconocimiento facial para vigilar a las multitudes y detectar posibles amenazas entre los asistentes.
Estos despliegues temporales ofrecen algunas ventajas sobre las redes de vigilancia permanentes, limitadas en tiempo y alcance, centradas en eventos específicos de alto riesgo en lugar de monitorización continua de espacios públicos, que pueden justificarse por la elevada amenaza de seguridad asociada a eventos importantes que atraen a grandes multitudes y objetivos de alto perfil.
Sin embargo, las aplicaciones de seguridad de los eventos también plantean preocupaciones, especialmente cuando se utiliza el reconocimiento facial para vigilar las protestas o manifestaciones políticas. La tecnología podría utilizarse para identificar y rastrear a activistas políticos, potencialmente enfriando la expresión política legítima.
El camino hacia adelante: Equilibrar la seguridad y los derechos
Developing Responsible Use Frameworks
El futuro del reconocimiento facial en la lucha contra el terrorismo depende de la elaboración de marcos que permitan que la tecnología se utilice eficazmente con fines de seguridad legítimos, protegiendo las libertades civiles y garantizando la equidad, lo que requiere un diálogo permanente entre los profesionales de la seguridad, los tecnólogos, los encargados de la formulación de políticas, los defensores de las libertades civiles y el público.
Esos marcos deberían basarse en principios claros: el reconocimiento facial sólo debe utilizarse cuando sea necesario y proporcional a la amenaza de seguridad; debe desplegarse con salvaguardias adecuadas contra el abuso; debe estar sujeto a una supervisión y rendición de cuentas significativas; y debe evaluarse y mejorarse continuamente para abordar los problemas con exactitud y sesgo.
Los distintos contextos pueden requerir diferentes enfoques. El uso del reconocimiento facial en los cruces fronterizos, donde hay una justificación clara de seguridad y una expectativa limitada de privacidad, puede ser más aceptable que su uso para la vigilancia continua de los espacios públicos. Los marcos específicos del contexto pueden proporcionar una orientación más matizada que las reglas de un tamaño.
Invertir en investigación y desarrollo
La inversión continua en investigación para mejorar la tecnología de reconocimiento facial es esencial. Esto incluye no sólo mejorar la precisión y la velocidad, sino abordar específicamente problemas con sesgo y equidad. Estudios a gran escala y estandarizados como la ayuda de NIST para descubrir fallas comunes en FRT, y como científicos y empleados, los ingenieros que desarrollan FRT se encargan de mejorar los resultados del software en el reconocimiento de imágenes con tonos de piel más oscuros, así como reducir las tasas de género
La investigación también debe explorar enfoques alternativos que pueden ofrecer mejores protecciones de privacidad al tiempo que mantiene beneficios de seguridad. Por ejemplo, los sistemas que analizan patrones conductuales o detectan anomalías sin identificar individuos específicos podrían proporcionar información útil de seguridad con menos intrusión de privacidad que el reconocimiento facial tradicional.
La investigación interdisciplinaria que reúne a científicos informáticos, científicos sociales, ético y académicos legales puede ayudar a identificar y abordar los complejos retos que plantea la tecnología de reconocimiento facial. Comprender no sólo las capacidades técnicas sino también las implicaciones sociales, éticas y jurídicas es esencial para el desarrollo y despliegue responsable.
Cooperación y Normas Internacionales
Dada la naturaleza transnacional del terrorismo, es importante la cooperación internacional en materia de normas y prácticas de reconocimiento facial. Los países deben trabajar juntos para elaborar normas comunes de precisión, equidad y protección de la privacidad, respetando al mismo tiempo las diferentes tradiciones jurídicas y valores culturales.
Los acuerdos internacionales podrían establecer normas mínimas para los sistemas de reconocimiento facial utilizados en la lucha contra el terrorismo, asegurando que los datos compartidos en las fronteras satisfagan los requisitos básicos de exactitud y fiabilidad, y también podrían establecer protocolos para el intercambio de datos que protejan la privacidad y los derechos humanos, al tiempo que permitan una cooperación eficaz contra las amenazas terroristas.
Sin embargo, la cooperación internacional debe estar equilibrada contra las preocupaciones acerca de permitir que los regímenes autoritarios utilicen el reconocimiento facial para la represión política. Los países democráticos deben ser prudentes en cuanto a compartir tecnología o datos de reconocimiento facial con los gobiernos que carecen de fuertes protecciones de derechos humanos y estado de derecho.
Conclusión: Navigando el Paisaje Complejo
La tecnología de reconocimiento facial representa una poderosa herramienta en la lucha contra el terrorismo, ofreciendo capacidades para la identificación, vigilancia e investigación que fueron inimaginables hace apenas unas décadas. La nueva tecnología ha dado nuevo poder al Estado para automatizar la identificación de terroristas conocidos anteriormente que están organizando ataques a los ciudadanos que se supone que el Estado debe proteger, y el poder para hacer esto, si funciona eficazmente, ayudaría a contrarrestar el terrorismo.
Sin embargo, la tecnología también plantea retos importantes relacionados con la exactitud, el sesgo, la privacidad y las libertades civiles. Este problema es predominante en el software de reconocimiento facial, que tiende a generar una tasa más alta de falsos positivos para personas no blancas, y a diferencia del software de reconocimiento facial utilizado para arrestar a alguien, un algoritmo de TC mal entrenado puede matar a civiles, una acción que no puede ser desatada.
El camino a seguir requiere equilibrar estas consideraciones competitivas mediante una cuidadosa formulación de políticas, una supervisión sólida, una mejora técnica continua y un diálogo público en curso. Ni las prohibiciones generales que impiden cualquier uso del reconocimiento facial con fines de seguridad ni el despliegue sin restricciones representan un enfoque responsable. En cambio, los marcos específicos para el contexto que permiten usos beneficiosos al tiempo que impiden el abuso ofrecen la mejor esperanza de realizar los beneficios de seguridad del reconocimiento facial al tiempo que protegen los derechos fundamentales.
A medida que la tecnología siga evolucionando y se vuelva más capaz, la necesidad de una gobernanza reflexiva se vuelve más urgente. Las decisiones adoptadas hoy sobre cómo se desarrolla, se despliega y regula el reconocimiento facial darán forma al equilibrio entre la seguridad y la libertad durante los próximos años. Velar por que estas decisiones sean informadas por pruebas, guiadas por principios éticos, y sujetas a la rendición de cuentas democrática es esencial para mantener tanto la seguridad como la libertad en un entorno de amenazas cada vez más complejo.
Para más información sobre las tecnologías de seguridad biométrica, visite el Instituto Nacional de Normas y Tecnología de Reconocimiento facial programa. Para conocer las consideraciones de privacidad en la tecnología de vigilancia, explore los recursos de la Fundación Frontier Electrónica. Para las perspectivas internacionales sobre la regulación del reconocimiento facial, vea el [FLT][FLT][