Table of Contents
Comprender la tecnología de reconocimiento facial y su papel en la seguridad moderna
La tecnología del reconocimiento facial ha surgido como uno de los instrumentos más transformadores en la lucha mundial contra el terrorismo. Esta poderosa tecnología permite la identificación rápida y precisa de individuos y ayuda para prevenir las actividades terroristas y hacer más seguros los espacios públicos. A medida que las amenazas a la seguridad siguen evolucionando en complejidad y escala, los gobiernos y las agencias encargadas de hacer cumplir la ley en todo el mundo están volviendo cada vez más a sistemas biométricos avanzados para proteger a sus ciudadanos e infraestructuras.
Según la investigación de Mercados y Mercados, el mercado del reconocimiento facial está a punto de alcanzar 8,5 millones de dólares en 2025, más que duplicar de 3,8 millones de dólares en 2020. Este crecimiento explosivo refleja no sólo la capacidad de expansión de la tecnología, sino también su importancia crítica en los marcos de seguridad nacional. Desde los aeropuertos y los cruces fronterizos hasta las redes de vigilancia urbana y los procesos de investigación, el reconocimiento facial se ha convertido en un componente indispensable de las estrategias modernas de lucha contra el terrorismo.
En su núcleo, la tecnología de reconocimiento facial representa un matrimonio sofisticado de visión informática, inteligencia artificial y análisis biométrico. La tecnología digitaliza las características faciales humanas en representaciones matemáticas que los ordenadores pueden procesar y comparar, analizando las características faciales claves como la distancia entre los ojos de la persona, la anchura del puente del nariz, los contornos de la mandíbula y la estructura del pómulo, y luego crea modelos biométricos únicos para comprobar identidades en bases de datos que contienen millones de rostros. Esta capacidad de procesar y coincidir rostros a una velocidad y escala sin precedentes ha cambiado fundamentalmente la forma en que las agencias de seguridad abordan la detección y prevención de amenazas.
La evolución de la tecnología de reconocimiento facial
Desde comienzos tempranos a sistemas con AI
La tecnología se remonta a los años 1960 cuando un tipo llamado Woodrow Wilson Bledsoe primero se le ocurrió un sistema para ordenar fotos de caras usando una tableta especial. Estos sistemas tempranos eran rudimentarios según los estándares actuales, requiriendo entrada manual y operando en condiciones altamente controladas. En los años 70, algunas personas inteligentes usaron 21 marcadores específicos, como el color del cabello y el espesor del labio, para automatizar el reconocimiento facial, y los años 80/90 vieron un nuevo enfoque llamado Eigenface, que se convirtió en una base para sistemas modernos.
El verdadero cambio de juego llegó en los años 2000 con redes sociales, ya que de repente hubo millones de fotos etiquetadas en línea, dando a estos sistemas una base de datos masiva de la que aprender. Esta abundancia de datos de entrenamiento, combinados con avances en algoritmos de aprendizaje automático, permitieron a los sistemas de reconocimiento facial alcanzar tasas de precisión que antes eran inimaginables. Hoy, con IA y aprendizaje profundo, los sistemas de reconocimiento facial para las empresas se han vuelto increíblemente precisos y rápidos.
Cómo funcionan los sistemas modernos de reconocimiento facial
Los sistemas modernos de reconocimiento facial funcionan a través de un proceso multiestadio que ocurre en milisegundos. La primera etapa consiste en la detección de caras, donde el sistema identifica y localiza una cara dentro de una imagen o un marco de vídeo. Esto es seguido por el alineamiento de caras, donde el sistema normaliza la posición, el tamaño y la orientación de la cara para asegurar un análisis coherente independientemente del ángulo o la distancia de la cámara.
A continuación viene la extracción de funciones, donde el sistema identifica y mide características faciales distintas. Estas medidas se convierten en una representación matemática llamada modelo facial o firma biométrica. Finalmente, el sistema realiza la correspondencia comparando este modelo con modelos almacenados en una base de datos, generando una puntuación de similitud que indica la probabilidad de una coincidencia.
Los modernos sistemas de reconocimiento facial capturan y analizan imágenes de personas en las condiciones más difíciles de visión y movimiento. Esta capacidad es crucial para las aplicaciones de lucha contra el terrorismo, donde los sospechosos pueden ser capturados en las imágenes de vigilancia en condiciones menos que ideales, incluyendo una iluminación deficiente, una oclusión parcial o en ángulos oblíquos.
Aplicaciones estratégicas en las operaciones de lucha contra el terrorismo
Vigilancia en tiempo real y detección de amenazas
La tecnología de reconocimiento facial ha surgido como un instrumento transformador en la lucha contra el terrorismo, ofreciendo capacidades avanzadas para identificar, vigilar y detener a personas de interés, con enfoque en tres aplicaciones específicas: vigilancia en tiempo real, control fronterizo y procesos de investigación. En espacios públicos abarrotados, centros de transporte y durante eventos importantes, los sistemas de reconocimiento facial pueden escanear continuamente a las multitudes y alertar instantáneamente al personal de seguridad cuando se detecta una persona de interés.
La AI permite la alerta automática y la verificación de identidad de vastos grupos de personas a una escala y ritmo no posible antes. Esta capacidad es particularmente valiosa durante eventos de alto perfil en los que se reúnen grandes multitudes, como los rallyes políticos, eventos deportivos o festivales culturales. Las agencias de seguridad pueden implementar sistemas de reconocimiento facial para vigilar los puntos de entrada y los movimientos de la multitud, identificando posibles amenazas antes de que puedan materializarse en ataques.
La mejora de la seguridad proporciona un monitoreo continuo en zonas de alta tráfico, identifica a las personas de interés y localiza a los desaparecidos con una eficiencia sin precedentes. La capacidad de la tecnología de operar continuamente sin fatiga hace que sea un complemento inestimable para el personal de seguridad humana, que puede entonces centrar su atención en investigar alertas y responder a posibles amenazas.
Control de seguridad fronteriza e inmigración
Los cruces fronterizos y los aeropuertos representan puntos de estrangulación críticos en los esfuerzos contra el terrorismo. Si una persona (incluyendo un terrorista) viene a los Estados Unidos desde el extranjero, probablemente pasa por un puesto de control de inmigración en el puerto de entrada, y desde la perspectiva de la lucha contra el terrorismo, este punto de control es un punto de estrangulación donde el potencial terrorista es más vulnerable. La tecnología del reconocimiento facial se ha convertido en un instrumento esencial en estos momentos críticos.
Los FRTs se despliegan para verificar que una persona que pasa por el control fronterizo es efectivamente la persona que figura en un documento de identificación (por ejemplo, un pasaporte), y la Interpol ha desplegado su sistema Proyecto PRIMER para ayudar a las autoridades estatales a identificar a los combatientes terroristas extranjeros (FTFs). Estos sistemas pueden procesar a los viajeros rápidamente mientras que al mismo tiempo verifican sus identidades contra listas de vigilancia de terroristas conocidos o sospechosos, mejorando significativamente la seguridad sin crear grandes cuellos de botella en el flujo de pasajeros.
La biométrica puede prevenir el robo de identidad y la fraude migratoria en el uso de documentos de viaje, ya que un modelo biométrico de la huella dactilar de uno se adjuntaría al documento, como un pasaporte o un visado, en un código de barras, chip o tira magnética, lo que dificultaría que alguien asuma la identidad de otro. Combinado con el reconocimiento facial, este enfoque biométrico de múltiples capas crea una defensa sólida contra los terroristas que intentan entrar en países usando documentos fraudulentos o identidades robadas.
Aplicaciones investigativas y forenses
Los sistemas biométricos podrían identificar a terroristas conocidos o sospechosos utilizando el reconocimiento facial biométrico o el método FaceCheck cuando una fotografía del terrorista sospechoso está disponible, y esto se busca contra una lista de vigilancia o base de datos de modelos de terroristas sospechosos. Esta capacidad ha demostrado ser inestimable en investigaciones posteriores a incidentes, donde las agencias de seguridad analizan las imágenes de vigilancia para identificar a los autores y sus asociados.
La eficiencia de las fuerzas del orden acelera la identificación y resolución de casos de sospechosos mediante la correspondencia automática con los registros existentes. En lugar de revisar manualmente horas de grabación y comparar rostros por ojo, los investigadores pueden utilizar el reconocimiento facial para buscar rápidamente a través de vastos archivos de vídeo de vigilancia, identificar a los sospechosos y seguir sus movimientos a través de múltiples lugares y períodos de tiempo.
El ejército estadounidense también ha reconocido el valor estratégico del reconocimiento facial en las operaciones de lucha contra el terrorismo. El Comando de Operaciones Especiales de los Estados Unidos (USSOCOM) está preparando las bases para una expansión significativa de sus capacidades de inteligencia y explotación de identidad, esbozando una visión amplia y técnicamente ambiciosa sobre cómo las Fuerzas de Operaciones Especiales recopilan, analizan y explotan datos relacionados con la identidad durante las misiones, buscando información sobre cinco áreas de tecnología primaria: reconocimiento facial, identificación de hablantes y correspondencia de voz, un ecosistema de aplicación de explotación de sitios de SOF totalmente integrado, análisis rápido de ADN y análisis de IA y aprendizaje automático.
Ventajas operacionales en la prevención del terrorismo
Velocidad y escala de identificación
Uno de los ventajas más significativas de la tecnología del reconocimiento facial en la lucha contra el terrorismo es su capacidad de procesar y analizar rostros a velocidades que superan considerablemente las capacidades humanas. La nueva tecnología ha dado al Estado un nuevo poder para automatizar la identificación de terroristas anteriormente conocidos que están organizando ataques contra los ciudadanos que el Estado se supone que debe proteger, y el poder de hacerlo, si funciona eficazmente, ayudaría a combatir el terrorismo, ya que las tecnologías del reconocimiento facial prometen dar al Estado precisamente ese poder.
Los métodos tradicionales de identificación de sospechosos dependían en gran medida de la memoria humana y la comparación manual de fotografías, procesos que llevaban mucho tiempo y eran propensos a errores. Un oficial de seguridad que supervisaba un aeropuerto abarrotado sólo podía observar activamente a un número limitado de personas de una vez, e incluso el personal más experimentado podría perderse un sospechoso en un mar de caras. Los sistemas de reconocimiento facial, por el contrario, pueden monitorizar simultáneamente cientos o miles de caras, comparando cada uno con amplias bases de datos en tiempo real.
Esta capacidad es particularmente crucial en situaciones sensibles al tiempo en las que cada segundo cuenta. Cuando las agencias de inteligencia reciben información sobre una amenaza imminente, los sistemas de reconocimiento facial pueden ser rápidamente implementados para escanear redes de vigilancia en ciudades enteras, potencialmente localizando sospechosos en minutos en lugar de horas o días.
Capacidades de vigilancia mejoradas
Mediante el reconocimiento biométrico, el algoritmo de aprendizaje profundo y la analítica de los Big Data, la exactitud y eficiencia del trabajo de inteligencia se mejora y el trabajo de supervisión tradicional se convierte en una lucha defensiva y orientada al futuro. El reconocimiento facial transforma la vigilancia de un instrumento reactivo utilizado principalmente para la investigación post-incidente en un sistema proactivo capaz de prevenir ataques antes de que ocurran.
La tecnología permite a las agencias de seguridad crear redes integrales de cámaras de vigilancia que funcionan como un sistema integrado en lugar de puntos de observación aislados. Cuando se detecta a una persona de interés en un lugar, el sistema puede seguir sus movimientos a través de la red, proporcionando al personal de seguridad información en tiempo real sobre sus actividades y asociaciones. Esta capacidad es inestimable para comprender las redes terroristas e identificar a miembros anteriormente desconocidos de organizaciones extremistas.
Además, los sistemas de reconocimiento facial pueden funcionar continuamente sin las limitaciones de la atención y la fatiga humanas. Mientras que los operadores humanos pueden perderse detalles críticos durante largos turnos o períodos de baja actividad, los sistemas automatizados mantienen una vigilancia constante, asegurando que ninguna amenaza potencial pase desapercibida.
Efecto de distancia
La presencia de sistemas de reconocimiento facial puede servir como un poderoso disuasorio para las actividades terroristas. Cuando los potenciales atacantes saben que sus rostros serán capturados y analizados por sistemas biométricos sofisticados, se enfrentan a riesgos significativamente más elevados de identificación y aprehensión. Esta conciencia puede perturbar los procesos de planificación, obligar a los terroristas a adoptar tácticas menos eficaces o desalentar por completo los ataques.
El efecto disuasorio se extiende más allá de la amenaza inmediata de identificación. Los sistemas de reconocimiento facial crean un registro digital permanente que puede analizarse mucho después de que ocurra un incidente. Esto significa que incluso si los terroristas logran eludir la detección inmediata, dejan atrás pruebas que pueden utilizarse para identificarlos más tarde, seguir sus movimientos y descubrir sus redes. Esta rendición de cuentas a largo plazo añade otro nivel de riesgo que los terroristas deben considerar al planificar operaciones.
Optimización de recursos
La tecnología de reconocimiento facial permite a las agencias de seguridad optimizar sus limitados recursos automatizando las tareas de identificación rutinaria y centrando la experiencia humana donde sea más necesario. En lugar de asignar personal para supervisar manualmente los feeds de vigilancia o verificar documentos en los cruces fronterizos, las agencias pueden implementar sistemas de reconocimiento facial para manejar estas tareas mientras los operadores humanos se centran en investigar alertas, realizar entrevistas y tomar decisiones críticas.
Esta optimización es particularmente importante dada la escala de los modernos desafíos de seguridad. Con millones de viajeros que pasan por los aeropuertos diariamente y innumerables horas de vídeos de vigilancia generados en las zonas urbanas, sería imposible revisar manualmente toda esta información. Los sistemas de reconocimiento facial pueden procesar esta gran cantidad de datos automáticamente, marcando sólo la pequeña fracción que requiere atención humana.
Desafíos críticos y limitaciones técnicas
Precisión y falsos positivos
A pesar de los avances significativos en la tecnología de reconocimiento facial, la precisión sigue siendo una preocupación crítica, especialmente en las aplicaciones contra el terrorismo, donde las consecuencias de los errores pueden ser graves. El método de reconocimiento facial se ha identificado con imperfecciones y debilidades tecnológicas, pero puede utilizarse operacionalmente para minimizar sus debilidades. Comprender estas limitaciones es esencial para implementar la tecnología de manera responsable y eficaz.
Aunque los seres humanos generalmente pueden realizar procesos de reconocimiento facial bastante bien, estas actividades siguen siendo muy desafiantes para los sistemas tecnológicos, ya que a menos que la fotografía se capture en condiciones muy controladas, el sistema puede tener dificultad para identificar al individuo o incluso detectar su rostro en la fotografía, y el sistema funciona mejor cuando factores ambientales como el ángulo de la cámara, la iluminación, la expresión facial y otros, se controlan en la mayor medida posible.
Los falsos positivos —instancias en las que el sistema identifica incorrectamente a alguien como persona de interés— plantean desafíos particulares en contextos de lucha contra el terrorismo. Los para los que la tecnología no funciona también no podrán ser verificados por los FRTs—causando sospechas y una mayor vigilancia intrusiva, y además, serán identificados con más frecuencia, lo que puede hacer que sean sospechosos como terroristas u otros criminales graves. Tales erróneidades pueden llevar a que personas inocentes sean detenidas, interrogadas o sometidas a procedimientos de seguridad invasivos, con consecuencias personales y sociales significativas.
NIST realizó recientemente un test a gran escala centrado en identificar los sesgos en FRT, con un énfasis particular en la tasa falsa positiva – es decir, la frecuencia con la que un algoritmo erróneo identifica la imagen de una persona, y los resultados mostraron que "a través de la demografía, las tasas falsas positivas a menudo varían por factores de 10 a más allá de 100 veces", dependiendo de qué algoritmos están en uso. Estas variaciones en las tasas de error entre diferentes sistemas ponen de relieve la importancia de los ensayos y validaciones rigurosos antes de implementar tecnología de reconocimiento facial en aplicaciones de seguridad de alto nivel.
Bias demográficas y equidad Algorítmica
Uno de los desafíos más graves que enfrenta la tecnología del reconocimiento facial es el sesgo demográfico—la tendencia de los sistemas a realizar resultados menos precisos en determinados grupos demográficos. Tres programas de análisis facial publicados comercialmente de las principales empresas tecnológicas demuestran tanto sesgos de tipo de piel como de género, y en los experimentos de los investigadores, los índices de error de los tres programas para determinar el género de los hombres de piel clara nunca fueron peores que 0,8 por ciento, pero para las mujeres de piel más oscura, sin embargo, los índices de error se dispararon —a más de 20 por ciento en un caso y más de 34 por ciento en los otros dos.
La tasa de error para los hombres de piel clara es del 0,8%, en comparación con el 34,7% para las mujeres de piel oscura, según un estudio de 2018 titulado "Ombres de género" de Joy Buolamwini y Timnit Gebru, publicado por el MIT Media Lab. Esta dramática disparidad en las tasas de precisión plantea serias preocupaciones acerca de la equidad y la igualdad de trato bajo la ley cuando el reconocimiento facial se utiliza en contextos de seguridad y aplicación de la ley.
El tono de la piel afecta significativamente la precisión de la verificación, con tonos de piel más claros que sobrepasan constantemente los tonos mediano-oscuros. La investigación también ha encontrado que los sujetos masculinos generalmente lograron una mejor precisión de reconocimiento que los sujetos femeninos, atribuidos a factores como la oclusión causada por el cabello más largo y alteraciones en la apariencia facial debido al maquillaje.
En agosto de 2023, una mujer negra demandó al Departamento de Policía de Detroit después de ser arrestada por agentes de policía usando software de reconocimiento facial mal calibrado, y este problema prevalece en el software de reconocimiento facial, que tiende a generar una tasa más alta de falsos positivos para personas no blancas. Tales incidentes demuestran las consecuencias reales del prejuicio algorítmico y subrayan la necesidad urgente de sistemas de reconocimiento facial más equitativos.
El estudio NIST encontró además resultados sesgos cuando se trataba de los rostros de los asiáticos orientales, nativos, indios americanos, indios de Alaska e isleños del Pacífico. La omnipresenteidad de estos sesgos entre múltiples grupos demográficos sugiere que el problema es sistémico en lugar de aislado a poblaciones o algoritmos específicos.
Causas raíz de las bias
La tecnología de reconocimiento facial ha hecho grandes avances en precisión gracias a modelos avanzados de inteligencia artificial (IA) entrenados en conjuntos de datos masivos de imágenes faciales, pero estos conjuntos de datos a menudo carecen de diversidad en términos de raza, etnia, género y otras categorías demográficas, lo que hace que los sistemas de reconocimiento facial funcionen peor en los grupos demográficos insuficientemente representados en comparación con los grupos omnipresentes en los datos de entrenamiento.
El problema de sesgo proviene de múltiples fuentes. Los conjuntos de datos históricos utilizados para entrenar algoritmos de reconocimiento facial han caracterizado predominantemente rostros de hombres blancos, reflejando la demografía de los investigadores e instituciones que los crearon. Cuando los algoritmos aprenden a reconocer rostros principalmente a partir de este conjunto de datos limitado, naturalmente se desempeñan mejor en rostros similares y luchan con rostros que difieren significativamente de sus datos de entrenamiento.
Muchos atribuyen la mayoría de estos problemas a conjuntos de datos desequilibrados. Sin embargo, el problema va más allá de la simple representación. Incluso cuando los conjuntos de datos incluyen rostros diversos, otros factores como las condiciones de iluminación, la calidad de la cámara y la resolución de imágenes pueden afectar desproporcionadamente la calidad de las imágenes para las personas con tonos de piel más oscuros, agravando aún más los problemas de precisión.
Ejercicios para mitigar los bias
Los investigadores y las empresas tecnológicas han reconocido la gravedad del problema de sesgo y están trabajando activamente en soluciones. En 2018, Microsoft anunció que su FRT comercialmente disponible había recibido actualizaciones para mejorar el rendimiento en todas las categorías de raza y género ampliando los conjuntos de datos utilizados para entrenar los algoritmos de aprendizaje automático y mejorando el clasificador de cara para una mayor precisión, y estas mejoras resultaron, según la empresa, en tasas de error 20 veces menores para tonos de piel más oscuros y 9 veces menores para las mujeres.
Los investigadores entrenaron previamente tres modelos de reconocimiento facial — ArcFace, AdaFace y ElasticFace— en un conjunto de datos sintéticos amplio y equilibrado que generaron, y el resultado no sólo aumentó la precisión global en comparación con los modelos entrenados sobre los conjuntos de datos desequilibrados existentes, sino también redujo significativamente los sesgos demográficos, con los modelos entrenados mostrando una exactitud más equitativa entre todos los grupos raciales en comparación con los modelos existentes que muestran un desempeño pobre en las minorías subrepresentadas.
En el conjunto de datos FairFace, la precisión mejoró de 92.58% a 96.47%, mientras que el Grado de Prejuicios (DoB) se redujo de 3.86 a 1.16, lo que representa una reducción de aproximadamente 70%, y en particular, se observaron aumentos significativos de rendimiento para los grupos subrepresentados, como una mejora de la precisión para las mujeres negras de 80,2% a 90.86%, manteniendo al mismo tiempo un fuerte rendimiento para los grupos ya bien representados.
La red adversaria debisiva (DebFace), utiliza un codificador de imagen a imagen, cuatro clasificadores de atributos, un clasificador de distribución y una red de agregación de funciones, y los cuatro clasificadores —género, edad, raza e identidad— convierten posibles sesgos en características informadas, mejorando así el rendimiento entre los grupos subrepresentados. Estas innovaciones arquitectónicas demuestran que la mitigación de los sesgos es técnicamente factible, aunque aún queda un trabajo significativo para implementar estas soluciones en todos los sistemas implementados.
Preocupaciones de privacidad y libertades civiles
Vigilancia de masas y derechos de privacidad
La mayoría de todo lo poderoso tiene un lado oscuro, y FRT no es excepción, ya que plantea serios problemas y preocupaciones sobre la privacidad, la ética y el impacto social general. El despliegue de la tecnología de reconocimiento facial para fines de lucha contra el terrorismo ha desencadenado intenso debate sobre el equilibrio entre seguridad y privacidad, y los críticos argumentan que la vigilancia generalizada amenaza las libertades civiles fundamentales.
Los desafíos legales, éticos y de privacidad en torno a la vigilancia masiva incluyen preocupaciones sobre la identificación errónea, el fraude y los sesgos en la base de datos. La capacidad de rastrear los movimientos de las personas a través de los espacios públicos sin su conocimiento o consentimiento plantea profundas preguntas sobre la naturaleza de la privacidad en la sociedad moderna y los límites apropiados de los poderes de vigilancia del gobierno.
Los críticos señalan riesgos significativos de privacidad y posibles infracciones de las libertades civiles, planteando preocupación por la recolección de datos no autorizados, la falta de consentimiento y el potencial de fluencia de funciones, a través del cual los datos recogidos para un propósito se utilizan para un propósito no relacionado sin el conocimiento o consentimiento del individuo. El temor es que los sistemas inicialmente implementados para luchar contra el terrorismo puedan expandirse gradualmente para supervisar a los ciudadanos comunes que participan en actividades legales, creando un estado de vigilancia que escalonea la libre expresión y asociación.
Las razones presentadas para tal prohibición son que los FRT sufren de sesgo generalizado que provoca que los beneficios y daños estén desigualmente distribuidos entre los grupos, el Estado inevitablemente utilizará estas tecnologías con fines ilegítimos, y que la existencia de FRTs enfria nuestro comportamiento (es decir, provoca que las personas se censuran por temor a la vigilancia). Este efecto de enfriamiento podría socavar la participación democrática al desencorajar a las personas a asistir a protestas, a las reuniones políticas u otras reuniones públicas donde podrían ser identificadas y rastreadas.
Respuestas y prohibiciones reglamentarias
En 2019, San Francisco se convirtió en la primera ciudad estadounidense en prohibir la tecnología del reconocimiento facial (FRT), específicamente vetando su uso por la policía y otras agencias, y desde entonces, varias otras ciudades estadounidenses han implementado sus propias prohibiciones de FRT similares, con los concejales de Boston resaltando explícitamente un tema particular: el sesgo de la tecnología. Estas prohibiciones reflejan una creciente preocupación pública acerca del potencial de abuso de la tecnología y sus problemas demostrados con exactitud y equidad.
Más de una docena de grandes ciudades han prohibido la tecnología, incluyendo Minneapolis, Boston y San Francisco. Sin embargo, estas prohibiciones locales no han impedido a las agencias federales y muchas otras jurisdicciones seguir implementando el reconocimiento facial con fines de seguridad, creando un mosaico de reglamentos que varía significativamente según la ubicación.
La Unión Europea ha adoptado un enfoque más amplio, con el uso de tecnologías de reconocimiento facial en el contexto de la protesta pacífica que aumenta el riesgo de prácticas de vigilancia masiva y las implicaciones para la protección de los derechos humanos. Los reguladores europeos han propuesto estrictas limitaciones al uso del reconocimiento facial en espacios públicos, con algunos que abogan por prohibiciones completas excepto en circunstancias restringidas que impliquen crímenes graves o amenazas inminentes.
Equilibramiento de la seguridad y la libertad
Es primordial que si el Estado puede utilizar esta tecnología para aumentar su poder para combatir el terrorismo, este poder se ve limitado de tal manera que los abusos y el comportamiento refrigerado no ocurran, y el Estado debe crear restricciones institucionales que sólo permitan que los FRT se utilicen en lugares en los que la gente no (y no debe) disfrute de una expectativa razonable de privacidad (por ejemplo, aeropuertos, cruces fronterizos).
Las cámaras equipadas con FRT deben marcarse para asegurar al público que no están siendo vigiladas en lugares que deberían tener una expectativa razonable de privacidad, y las FRT deben limitarse a encontrar criminales graves (por ejemplo, terroristas). Estas restricciones propuestas representan un intento de preservar los beneficios de seguridad del reconocimiento facial, al tiempo que limitan su potencial de abuso y protección de las libertades civiles.
FRT representa una herramienta poderosa en el arsenal antiterrorismo, que permite medidas de seguridad que antes eran inalcanzables, pero esta es una tecnología que exige un equilibrio extremadamente juicioso entre sus beneficios claros y las consideraciones éticas importantes con las que está asociada, y en este momento, podría ser que el equilibrio se inclina demasiado a favor de los beneficios claros de FRT y no suficiente a favor de la equidad, la privacidad y la integridad ética que deben guiar su despliegue.
Marcos jurídicos y éticos
Consideraciones constitucionales y de derechos humanos
Los programas de FRT utilizados por las fuerzas del orden para identificar sospechosos de crimen son sustancialmente más propensos a errores en las imágenes faciales que representan tonos de piel y mujeres más oscuros en comparación con las imágenes faciales que representan hombres caucásicos, y este sesgo puede llevar a que la policía investigue injustamente a los ciudadanos en líneas raciales y de género, y el uso de FRT por las fuerzas del orden sea incompatible con el requisito liberal clásico de que el gobierno trate a todos los ciudadanos por igual ante la ley.
La cláusula de protección igual de muchas constituciones requiere que las acciones gubernamentales no discriminan por motivos de raza, género u otras características protegidas. Cuando los sistemas de reconocimiento facial demuestran un sesgo sistemático contra determinados grupos demográficos, su uso por parte de los organismos gubernamentales puede violar estas protecciones constitucionales. Esto crea un dilema jurídico: mientras que la tecnología puede mejorar la seguridad, su desempeño sesgado podría hacer su uso inconstitucional o violando el derecho de los derechos humanos.
Los científicos de informática han expresado preocupación por el uso de FRT por las fuerzas del orden para identificar sospechosos de delito, señalando que es muy probable que ese software se utilice para identificar sospechosos, y por lo tanto, un error en la salida de un algoritmo de reconocimiento facial utilizado como entrada para otras tareas puede tener graves consecuencias, ya que alguien podría ser acusado injustamente de un delito basado en una errónea pero confiada identificación errónea del autor de la prueba de vídeo de seguridad.
Transparencia y rendición de cuentas
Recomienda una reglamentación firme, cooperación internacional y gobernanza transparente para garantizar que el uso de la tecnología de reconocimiento facial de la AI sea compatible con los derechos humanos y las libertades fundamentales. La transparencia sobre cómo funcionan los sistemas de reconocimiento facial, sus tasas de exactitud y sus limitaciones es esencial para la confianza pública y la rendición de cuentas democrática.
Establecer leyes claras y completas relacionadas con el uso de la tecnología de reconocimiento facial, alinear los estándares mundiales con los marcos nacionales para asegurar la coherencia, y ordenar auditorías regulares de los sistemas de FRT para asegurar el cumplimiento de las directrices éticas. La auditoría regular puede ayudar a identificar problemas con exactitud o parcialidad antes de que causen daños graves, mientras que los marcos jurídicos claros proporcionan orientación a las agencias de seguridad sobre los usos apropiados de la tecnología.
Los riesgos no deben conducir a moratorias sobre el uso de la AI o la prohibición en determinadas plataformas, sino que deben ser llamados a la acción para que los gobiernos exijan un mejor diseño de sus herramientas de AI/ML, lo que significa adquirir mejores datos y crear regímenes de pruebas extenuantes que limiten el riesgo y expongan las deficiencias tanto como sea posible, y una manera de ayudarlo es aplicando normas explicables de AI y políticas de transparencia que ofrezcan a los gobiernos información sobre la justificación de cada acción que un sistema adopte.
Protección y conservación de datos
El estado no debe utilizar a empresas terceras que violen las tres primeras condiciones durante la creación o el uso de su servicio, y las empresas terceras no deben poder acceder o leer los datos sensibles recogidos por el Estado. Los datos biométricos recogidos por los sistemas de reconocimiento facial son altamente sensibles y personales, lo que requiere una protección robusta contra el acceso no autorizado, el uso indebido o las violaciones de datos.
Las preguntas sobre la retención de datos son particularmente importantes. ¿Cuánto tiempo deben almacenarse los datos de reconocimiento facial? ¿Quién debe tener acceso a ellos? ¿En qué circunstancias pueden compartirse con otras agencias o países? Estas preguntas carecen de respuestas claras en muchas jurisdicciones, creando incertidumbre sobre las implicaciones a largo plazo del despliegue del reconocimiento facial.
El riesgo de violaciones de datos también es significativo. Una base de datos que contenga datos de reconocimiento facial para millones de personas sería un objetivo atractivo para los hackers, los servicios de inteligencia extranjeros u organizaciones criminales. Si esos datos se vieran comprometidos, podría ser utilizado para robo de identidad, persecución u otros fines maliciosos, con consecuencias que podrían persistir durante años o décadas.
Perspectivas y despliegue internacionales
Patrones de adopción mundiales
Aplicación de la ley: El reconocimiento facial se sitúa actualmente como la tecnología de vigilancia de la AI más ampliamente adoptada a nivel mundial, con una tasa de adopción del 64%, que supera tanto las plataformas urbanas inteligentes como las iniciativas de policía inteligente. Esta adopción generalizada refleja tanto el valor percibido de la tecnología para la seguridad como las diferentes enfoques reglamentarios adoptados por diferentes países.
Los países enfrentan diferentes amenazas de seguridad y tienen diferentes actitudes culturales hacia la privacidad y la vigilancia, lo que lleva a variaciones significativas en la forma en que se despliega el reconocimiento facial. Algunas naciones han aceptado con entusiasmo la tecnología, implementándola ampliamente en espacios públicos con restricciones mínimas. Otros han adoptado un enfoque más cauteloso, limitando su uso a contextos específicos de alta seguridad o imponiendo estrictos requisitos de supervisión.
Furl et al. (2002) encontraron que FRT desarrollado y utilizado en países occidentales era más preciso para las imágenes faciales caucásicas, mientras que en los países de Asia oriental, los algoritmos FRT eran más precisos para las imágenes faciales de Asia oriental. Esta conclusión pone de relieve la importancia de desarrollar sistemas de reconocimiento facial que estén entrenados en diversos conjuntos de datos representativos de las poblaciones donde serán implementados.
Cooperación internacional y normas
El terrorismo es una amenaza transnacional que requiere cooperación internacional para combatir eficazmente. La tecnología del reconocimiento facial puede facilitar esta cooperación permitiendo a los países compartir información sobre terroristas conocidos o sospechosos y coordinar sus esfuerzos de vigilancia. Sin embargo, esta dimensión internacional también plantea preguntas complejas sobre el intercambio de datos, la protección de la privacidad y los derechos humanos.
Diferentes países tienen diferentes normas legales para la protección de la privacidad, la conservación de datos y el debido proceso. Cuando los datos de reconocimiento facial se comparten a través de las fronteras, pueden estar sujetos a protecciones menos estrictas en el país receptor que en el país donde se recolectaron. Esto crea riesgos para que los datos recogidos bajo estrictas protecciones de la privacidad puedan ser mal utilizados por gobiernos extranjeros con salvaguardias más débiles.
Organizaciones internacionales como Interpol han desarrollado sistemas para facilitar el uso transfronterizo del reconocimiento facial para la lucha contra el terrorismo. Estos sistemas deben navegar por terreno jurídico y político complejo, equilibrando los beneficios de seguridad del intercambio de información con las preocupaciones sobre la privacidad, los derechos humanos y la soberanía nacional. El desarrollo de normas y acuerdos internacionales para el uso responsable del reconocimiento facial en la lucha contra el terrorismo sigue siendo un desafío permanente.
Percepción pública y confianza
Factores que influyen en la aceptación pública
Los defensores de FRT enfatizan su potencial en seguridad pública, prevención del delito y lucha contra el terrorismo, observando que FRT permite a las agencias y organizaciones encargadas de hacer cumplir la ley identificar sospechosos y prevenir el acceso no autorizado a áreas y espacios protegidos donde estén presentes activos valiosos o poblaciones vulnerables. El apoyo público al reconocimiento facial depende a menudo del contexto específico en el que se utilice, con mayor aceptación para aplicaciones de seguridad en entornos de alto riesgo como los aeropuertos.
La confianza en las instituciones que despliegan el reconocimiento facial es un factor crítico en la aceptación pública. Cuando las personas confían en que las agencias de seguridad utilizarán la tecnología de manera responsable y con la supervisión adecuada, son más propensos a aceptar su despliegue. Por el contrario, cuando la confianza es baja —debido a abusos pasados, falta de transparencia o preocupación por los prejuicios— la oposición pública tiende a ser más fuerte.
La adopción exitosa y generalizada de FRT depende no sólo de su velocidad y exactitud, sino también de la confianza del público en los algoritmos que potencian los dispositivos de reconocimiento facial, y esa confianza será difícil de construir mientras que los ejemplos de sesgo racial y resultados falsos positivos siguen eclipsando las mejoras que se están haciendo año tras año en la precisión y funcionalidad generales del software.
Creación de confianza pública
Fomentar el compromiso público para abordar las preocupaciones y construir la confianza. El compromiso público significativo requiere más que simplemente informar a la gente sobre el despliegue del reconocimiento facial; significa crear oportunidades para un diálogo genuino sobre los beneficios, los riesgos y los límites apropiados de la tecnología.
La transparencia sobre el desempeño del sistema es esencial para crear confianza. Las agencias de seguridad deben informar públicamente sobre las tasas de exactitud, incluyendo desgloses por grupo demográfico, tasas falsas positivas e información sobre cómo se utiliza y supervisa la tecnología. Esta transparencia permite al público emitir juicios informados sobre si los beneficios de seguridad justifican los costos de privacidad y si la tecnología se está utilizando equitativamente.
La rendición de cuentas cuando se produzcan problemas es también crucial. Cuando los sistemas de reconocimiento facial conduzcan a detenciones ilícitas u otros daños, las agencias deben reconocer estos fallos, indemnizar a las víctimas y tomar medidas concretas para evitar que se repitan. Un patrón de negar problemas o desviar la responsabilidad socavará la confianza pública y fomentará la oposición a la tecnología.
Desarrollos futuros y tecnologías emergentes
Avances en precisión y capacidad
En los últimos años, con arquitecturas avanzadas y el aumento del número de capas y parámetros, los modelos de FR han ganado una mejora sustancial en su capacidad para aprender representaciones faciales complejas, y estas arquitecturas más profundas, que a menudo comprenden más de 100 capas con millones de parámetros, han aumentado significativamente la capacidad de los sistemas de FR para generalizar entre escenarios difíciles, lo que ha dado lugar a un mayor rendimiento global de reconocimiento (así como a un menor sesgo), y además, la disponibilidad de conjuntos de datos más amplios y diversos ha contribuido a mejorar los resultados de aprendizaje, ya que estos conjuntos de datos, que incorporan variaciones sustanciales demográficas y covariables como la pose, la iluminación y la expresión (PIE), han facilitado progresos mensurables en la mejora de la exactitud y la equidad FR.
Los futuros sistemas de reconocimiento facial probablemente incorporen múltiples modalidades biométricas, combinando el reconocimiento facial con la exploración de iris, el análisis de la marcha, el reconocimiento de voz y otras técnicas. Este enfoque multimodal puede mejorar la precisión al hacer referencias cruzadas a múltiples firmas biométricas, reduciendo el impacto de errores en cualquier sistema único. También puede hacer más difícil que los terroristas eludan la detección disimulando o alterando su apariencia.
Los avances en inteligencia artificial, especialmente en el aprendizaje profundo y las redes neuronales, continúan rebasando los límites de lo que los sistemas de reconocimiento facial pueden lograr. Estos sistemas están mejorando en reconocer rostros en condiciones difíciles, como la iluminación deficiente, la oclusión parcial o ángulos extremos. También se están haciendo más rápidos, permitiendo el análisis en tiempo real de los flujos de vídeo de alta resolución de múltiples cámaras simultáneamente.
Integración con otros sistemas de inteligencia
El futuro del reconocimiento facial en la lucha contra el terrorismo no consiste sólo en mejorar la tecnología en sí, sino en integrarla con otros sistemas de inteligencia y seguridad. Cuando el reconocimiento facial se combina con análisis de comportamiento, mapeo de redes sociales, supervisión de comunicaciones y otras fuentes de inteligencia, se convierte en parte de un sistema global de detección de amenazas que es mayor que la suma de sus partes.
Por ejemplo, el reconocimiento facial podría identificar a una persona de interés en un aeropuerto, desencadenando un escrutinio adicional de sus patrones de viaje, transacciones financieras, comunicaciones y asociados conocidos. Este enfoque integrado permite a las agencias de seguridad construir una imagen más completa de las amenazas potenciales y tomar decisiones más informadas sobre cómo responder.
Sin embargo, esta integración también amplifica las preocupaciones de privacidad. Un sistema que combine el reconocimiento facial con datos extensos de otras fuentes crea capacidades de vigilancia sin precedentes que podrían ser usadas para supervisar virtualmente todos los aspectos de la vida de las personas. Asegurar que esos poderosos sistemas se utilicen sólo con fines de seguridad legítimos y con la supervisión adecuada será un desafío crítico para los responsables de la formulación de políticas.
Cocontramedidas emergentes y carrera de armamentos
A medida que la tecnología del reconocimiento facial se hace más prevalente en la lucha contra el terrorismo, los adversarios están desarrollando contramedidas para eludir la detección. Estas van desde técnicas simples como usar máscaras o gafas de sol a enfoques más sofisticados como patrones de maquillaje adversarios diseñados para confundir algoritmos de reconocimiento facial o el uso de tecnología deepfake para crear identidades falsas.
Esto crea una carrera de armamentos tecnológica continua, con agencias de seguridad trabajando para mejorar los sistemas de reconocimiento facial, mientras que los terroristas y otros adversarios desarrollan nuevas formas de derrotarlos. La eficacia del reconocimiento facial en la lucha contra el terrorismo dependerá no sólo de las capacidades intrínsecas de la tecnología, sino de cuán bien puede adaptarse a las técnicas de evasión en evolución.
Algunos investigadores están explorando formas de hacer los sistemas de reconocimiento facial más robustos contra las contramedidas, como el uso de imágenes infrarrojas para detectar rostros incluso cuando están parcialmente cubiertos, o analizar la marcha y el lenguaje corporal además de las características faciales. Otros están desarrollando sistemas de detección de vivaz que pueden distinguir entre rostros reales y fotografías, máscaras o pantallas de vídeo, evitando ataques de falseamiento.
Mejores prácticas y recomendaciones
Normas técnicas y ensayos
Los actuales ensayos de los proveedores de reconocimiento facial (FRVT) de NIST han evaluado más de 400 algoritmos de reconocimiento facial desde 2017, dando una visión de las calificaciones generales de precisión de todos los desarrolladores participantes. Es esencial realizar pruebas rigurosas e independientes de los sistemas de reconocimiento facial antes del despliegue para asegurar que cumplan los estándares mínimos de precisión y equidad.
Los ensayos deben incluir una evaluación entre diversos grupos demográficos para identificar y cuantificar cualquier sesgo en el rendimiento del sistema. Los sistemas que demuestren niveles de sesgo inaceptables no deben ser implementados hasta que estos problemas se corrijan. Los ensayos también deben evaluar el rendimiento en condiciones operacionales realistas, no sólo en entornos de laboratorio controlados.
El seguimiento y evaluación continuos después del despliegue es igualmente importante. El rendimiento del sistema puede degradarse con el tiempo a medida que los algoritmos envejecen o la población que está siendo monitoreada cambia. Los auditos regulares pueden identificar problemas emergentes y garantizar que los sistemas sigan cumpliendo los estándares de rendimiento durante toda su vida operativa.
Directrices operacionales
Las agencias de seguridad que desplieguen reconocimiento facial para el contraterrorismo deben establecer directrices operacionales claras que especifiquen cuándo y cómo se puede utilizar la tecnología. Estas directrices deben abordar preguntas tales como: ¿Qué nivel de confianza de la correspondencia se requiere antes de tomar medidas? ¿Qué verificación adicional se requiere antes de detener a alguien basado en una coincidencia de reconocimiento facial? ¿Cómo debe utilizarse el sistema en combinación con el juicio humano?
Ni los humanos ni los algoritmos son infalibles, y las debilidades similares del juicio humano pueden afectar el uso de tecnologías de reconocimiento facial, ya que los individuos podrían confiar en la salida de un algoritmo —pensando que debe ser "objetivo"— más que su propio juicio sobre si dos imágenes coinciden, a pesar de los sesgos subyacentes o las inexactitudes en la tecnología. La capacitación del personal que utiliza sistemas de reconocimiento facial debe enfatizar que la tecnología es un instrumento para ayudar a la toma de decisiones humanas, no un sustituto del juicio humano.
Los operadores deben ser entrenados para comprender las limitaciones del sistema, incluyendo su potencial de sesgos y falsos positivos. Deben ser estimulados a ejercer un juicio independiente y no confiar únicamente en salidas algorítmicas, especialmente cuando las consecuencias de errores son graves. Los protocolos claros deben especificar qué investigación o verificación adicional se requiere antes de tomar medidas basadas en una coincidencia de reconocimiento facial.
Mecanismos de supervisión y rendición de cuentas
Los mecanismos de supervisión robustos son esenciales para asegurar que la tecnología de reconocimiento facial se utilice adecuadamente y que los abusos se identifiquen y corrijan. Esta supervisión debe incluir tanto mecanismos internos dentro de las agencias de seguridad como la supervisión externa por órganos independientes como comisionados de privacidad, comités legislativos o revisión judicial.
Las agencias deben mantener registros detallados de cómo se utilizan los sistemas de reconocimiento facial, incluidas las búsquedas realizadas, quién las lleva a cabo y qué acciones resultan. Estos registros deben estar sujetos a auditoría periódica para garantizar el cumplimiento de las políticas e identificar cualquier pauta de uso indebido. Cuando se detectan problemas, deben existir mecanismos claros de rendición de cuentas para asegurar que las partes responsables afronten las consecuencias apropiadas.
Los órganos de supervisión externa deben tener la autoridad y los recursos necesarios para llevar a cabo una revisión significativa de los programas de reconocimiento facial. Esto incluye el acceso a información técnica sobre cómo funcionan los sistemas, los datos de rendimiento y los registros operativos. Los órganos de supervisión también deben tener el poder de obligar a modificar los programas que violen normas legales o éticas.
Estudios de casos y aplicaciones del mundo real
Implementaciones de seguridad en el aeropuerto y la frontera
Los aeropuertos y cruces fronterizos han sido uno de los primeros y más extensos que adoptan tecnología de reconocimiento facial con fines de lucha contra el terrorismo. Estos ambientes controlados ofrecen varios ventajas para el despliegue del reconocimiento facial: los viajeros deben pasar por los puestos de control designados, se pueden optimizar los ángulos de iluminación y cámara, y hay una clara justificación de seguridad para la verificación de identidad.
Muchos países han implementado el reconocimiento facial en los puestos de control de inmigración para verificar que los viajeros coincidan con sus fotos de pasaporte y para comprobarlas contra listas de vigilancia de terroristas conocidos o sospechosos. Estos sistemas han procesado millones de viajeros, con algunos aeropuertos informando que el reconocimiento facial les ha permitido identificar a las personas que intentan viajar con documentos fraudulentos o usando identidades robadas.
La tecnología también se ha implementado para acelerar el procesamiento para viajeros de confianza a través de programas que permiten a los individuos preseleccionados utilizar puertas automáticas que verifican su identidad mediante el reconocimiento facial. Este doble uso, que ha contribuido a la aceptación pública de la tecnología en contextos de aeropuertos, tanto para mejorar la seguridad como para facilitar su conveniencia.
Redes de vigilancia urbana
Algunas ciudades han implementado amplias redes de cámaras equipadas con capacidades de reconocimiento facial para vigilar los espacios públicos para las amenazas de seguridad. Estos sistemas pueden rastrear los movimientos de las personas por toda la ciudad, identificando potencialmente a terroristas que llevan a cabo la vigilancia de posibles objetivos o que se reúnen con co-conspiradores.
Sin embargo, las redes de vigilancia urbana también han generado controversias significativas debido a su potencial de vigilancia masiva de los ciudadanos comunes. Los críticos argumentan que estos sistemas crean un efecto escalofriante sobre la libre expresión y asociación, ya que las personas pueden evitar determinados lugares o actividades si saben que están siendo rastreados. El equilibrio entre los beneficios de seguridad y los costos de privacidad es particularmente difícil de alcanzar en estas aplicaciones.
Algunas jurisdicciones han intentado abordar estas preocupaciones limitando el uso del reconocimiento facial en espacios públicos a circunstancias específicas, como investigar crímenes graves o responder a amenazas inminentes. Otras han exigido que las cámaras estén claramente marcadas y que se informe al público sobre dónde se aplica el reconocimiento facial. Estos enfoques intentan preservar algunos beneficios de seguridad, al tiempo que limitan los aspectos más intrusivos de la vigilancia en masa.
Seguridad del evento y vigilancia de la multitud
Los principales eventos públicos —como convenciones políticas, cumbres internacionales o grandes acontecimientos deportivos— presentan objetivos atractivos para los terroristas y requieren medidas de seguridad intensivas. En tales eventos se ha desplegado reconocimiento facial para vigilar a las multitudes e identificar posibles amenazas entre los asistentes.
Estos despliegues temporales ofrecen algunos beneficios sobre las redes de vigilancia permanentes. Son limitados en el tiempo y el alcance, centrados en eventos específicos de alto riesgo en lugar de un monitoreo continuo de los espacios públicos. Pueden justificarse por la elevada amenaza de seguridad asociada a eventos importantes que atraen a grandes multitudes y objetivos de alto perfil.
Sin embargo, las aplicaciones de seguridad de eventos también plantean preocupación, especialmente cuando el reconocimiento facial se utiliza para vigilar las protestas políticas o las manifestaciones. La tecnología podría ser usada para identificar y seguir a los activistas políticos, potencialmente escalofriando la expresión política legítima. Directrices claras sobre cuándo y cómo el reconocimiento facial puede ser utilizado en los eventos públicos son esenciales para prevenir el abuso.
El camino hacia adelante: equilibrar la seguridad y los derechos
Desarrollo de marcos de uso responsable
El futuro del reconocimiento facial en la lucha contra el terrorismo depende del desarrollo de marcos que permitan que la tecnología se utilice eficazmente con fines de seguridad legítimos, protegiendo al mismo tiempo las libertades civiles y garantizando la equidad. Esto requiere un diálogo continuo entre los profesionales de la seguridad, los tecnólogos, los encargados de formular políticas, los defensores de las libertades civiles y el público.
Tales marcos deben basarse en principios claros: el reconocimiento facial debe utilizarse sólo cuando sea necesario y proporcional a la amenaza de seguridad; debe ser implementado con las debidas salvaguardias contra el abuso; debe estar sujeto a supervisión y rendición de cuentas significativas; y debe ser evaluado y mejorado continuamente para abordar problemas con exactitud y sesgo.
Los diferentes contextos pueden requerir enfoques diferentes. El uso del reconocimiento facial en los cruces fronterizos, cuando hay una clara justificación de seguridad y una expectativa limitada de privacidad, puede ser más aceptable que su uso para la vigilancia continua de los espacios públicos. Los marcos específicos del contexto pueden proporcionar una orientación más matizada que las reglas de tamaño único.
Inversión en Investigación y Desarrollo
Es esencial continuar el inversión en investigación para mejorar la tecnología del reconocimiento facial. Esto incluye no sólo mejorar la precisión y la velocidad, sino específicamente abordar los problemas con sesgo y equidad. Estudios a gran escala y normalizados como la ayuda de NIST para descubrir defectos comunes en FRT, y como científicos y empleados, los ingenieros que desarrollan FRT se encargan de mejorar los resultados del software en el reconocimiento de imágenes con tonos de piel más oscuros, así como reducir el desfase de género en tasas falsamente positivas, y cuando los conjuntos de datos y los resultados se ponen a un análisis riguroso y minucioso, los científicos tienen la capacidad de mejorar el algoritmo y, por lo tanto, abordar el problema de sesgo en futuras iteraciones del software.
La investigación también debe explorar enfoques alternativos que puedan ofrecer mejores protecciones de la privacidad manteniendo los beneficios de seguridad. Por ejemplo, los sistemas que analizan patrones de comportamiento o detectan anomalías sin identificar a individuos específicos podrían proporcionar información de seguridad útil con menos intrusión de privacidad que el reconocimiento facial tradicional.
La investigación interdisciplinaria que reúna a científicos informáticos, científicos sociales, eticos y estudiosos jurídicos puede ayudar a identificar y abordar los complejos desafíos que plantea la tecnología del reconocimiento facial. La comprensión no sólo de las capacidades técnicas, sino también de las implicaciones sociales, éticas y jurídicas es esencial para el desarrollo y el despliegue responsables.
Cooperación internacional y normas
Dada la naturaleza transnacional del terrorismo, la cooperación internacional en las normas y prácticas de reconocimiento facial es importante. Los países deben trabajar juntos para desarrollar normas comunes para la exactitud, la equidad y la protección de la privacidad, respetando al mismo tiempo diferentes tradiciones jurídicas y valores culturales.
Los acuerdos internacionales podrían establecer normas mínimas para los sistemas de reconocimiento facial utilizados en la lucha contra el terrorismo, asegurando que los datos compartidos a través de las fronteras cumplan los requisitos básicos de precisión y fiabilidad. También podrían establecer protocolos para el intercambio de datos que protejan la privacidad y los derechos humanos, al tiempo que permitan una cooperación eficaz contra las amenazas terroristas.
Sin embargo, la cooperación internacional debe ser equilibrada con las preocupaciones acerca de permitir a los regímenes autoritarios utilizar el reconocimiento facial para la represión política. Los países democráticos deben tener cuidado al compartir tecnología o datos de reconocimiento facial con gobiernos que carecen de fuertes protecciones de derechos humanos y estado de derecho. Las normas internacionales deben incluir salvaguardias para evitar que la tecnología se utilice con fines illegitítimos.
Conclusión: Navegando por el paisaje complejo
La tecnología de reconocimiento facial representa una herramienta poderosa en la lucha contra el terrorismo, ofreciendo capacidades de identificación, vigilancia e investigación que no eran imaginables hace tan sólo unas pocas décadas. La nueva tecnología ha dado al Estado un nuevo poder para automatizar la identificación de terroristas anteriormente conocidos que están organizando ataques contra los ciudadanos que el Estado se supone que debe proteger, y el poder de hacerlo, si funciona eficazmente, ayudaría a combatir el terrorismo.
Sin embargo, la tecnología también plantea retos significativos relacionados con la precisión, el sesgo, la privacidad y las libertades civiles. Este problema prevalece en el software de reconocimiento facial, que tiende a generar una tasa más alta de falsos positivos para personas no blancas, y a diferencia del software de reconocimiento facial utilizado para arrestar a alguien, un algoritmo de TC mal entrenado puede matar a civiles, una acción que no puede ser deshecha. Los riesgos en las aplicaciones de contraterrorismo son particularmente elevados, donde los errores pueden llevar a que personas inocentes sean detenidas injustamente o, inversamente, a personas peligrosas que evaden la detección.
El camino a seguir requiere equilibrar estas consideraciones competitivas mediante el desarrollo de políticas cuidadosas, una supervisión robusta, una mejora técnica continua y un diálogo público continuo. Ni las prohibiciones generales que impidan cualquier uso del reconocimiento facial con fines de seguridad ni el despliegue sin restricciones sin salvaguardias representan un enfoque responsable. En cambio, los marcos específicos del contexto que permiten usos beneficiosos mientras que evitan el abuso ofrecen la mejor esperanza para realizar los beneficios de seguridad del reconocimiento facial al tiempo que protegen los derechos fundamentales.
A medida que la tecnología siga evolucionando y se vuelva más capaz, la necesidad de una gobernanza reflexiva se vuelve más urgente. Las decisiones tomadas hoy sobre cómo se desarrolla, desplega y regula el reconocimiento facial moldearán el equilibrio entre seguridad y libertad durante años por venir. Garantizar que estas decisiones estén informadas por pruebas, guiadas por principios éticos y sujetas a la rendición de cuentas democrática es esencial para mantener la seguridad y la libertad en un entorno de amenaza cada vez más complejo.
Para más información sobre las tecnologías de seguridad biométrica, visite el National Institute of Standards and Technology's Face Recognition Vendor Test program. Para aprender sobre consideraciones de privacidad en la tecnología de vigilancia, explore recursos de la Electronic Frontier Foundation. Para las perspectivas internacionales sobre la regulación del reconocimiento facial, consulte el La labor del Parlamento Europeo sobre la regulación de la AI.