Table of Contents
Comprender la tecnología del reconocimiento facial y su papel en la seguridad moderna
La tecnología del reconocimiento facial ha emergido como uno de los instrumentos más transformadores en la lucha mundial contra el terrorismo. Esta poderosa tecnología permite la identificación rápida y precisa de las personas y ayuda para prevenir las actividades terroristas y hacer más seguros los espacios públicos. A medida que las amenazas a la seguridad siguen evolucionando en complejidad y escala, los gobiernos y las agencias encargadas de hacer cumplir la ley en todo el mundo están recurriendo cada vez más a sistemas biométricos avanzados para proteger a sus ciudadanos e infraestructura.
Según la investigación de Mercados y Mercados, el mercado del reconocimiento facial está listo para alcanzar 8,5 millones de dólares en 2025, más que duplicar de 3,8 millones de dólares en 2020. Este crecimiento explosivo refleja no sólo la capacidad de expansión de la tecnología, sino también su importancia crítica en los marcos de seguridad nacional. Desde los aeropuertos y los cruces fronterizos hasta las redes de vigilancia urbana y los procesos de investigación, el reconocimiento facial se ha convertido en un componente indispensable de las estrategias modernas de lucha contra el terrorismo.
En su núcleo, la tecnología de reconocimiento facial representa un matrimonio sofisticado de visión informática, inteligencia artificial y análisis biométrico. La tecnología digitaliza las características faciales humanas en representaciones matemáticas que los ordenadores pueden procesar y comparar, analizando las características faciales claves tales como la distancia entre los ojos de la persona, la anchura del puente del nariz, los contornos de la mandíbula y la estructura del pómulo, y luego crea modelos biométricos únicos para comprobar identidades en bases de datos que contienen millones de rostros. Esta capacidad de procesar y coincidir rostros a una velocidad y escala sin precedentes ha cambiado fundamentalmente la manera en que las agencias de seguridad abordan la detección y prevención de amenazas.
La evolución de la tecnología de reconocimiento facial
Desde principios tempranos a sistemas con AI
La tecnología se remonta a los años 1960 cuando un tipo llamado Woodrow Wilson Bledsoe primero se le ocurrió un sistema para ordenar fotos de rostros usando una tableta especial. Estos sistemas tempranos eran rudimentarios según los estándares actuales, requiriendo entrada manual y operando en condiciones altamente controladas. En los años 70, algunas personas inteligentes usaron 21 marcadores específicos, como el color del cabello y el espesor del labio, para automatizar el reconocimiento facial, y los años 80/90 vieron un nuevo enfoque llamado Eigenface, que se convirtió en una base para sistemas modernos.
El verdadero cambio de juego llegó en los años 2000 con redes sociales, ya que de repente hubo millones de fotos etiquetadas en línea, dando a estos sistemas una base de datos masiva de la que aprender. Esta abundancia de datos de entrenamiento, combinados con avances en algoritmos de aprendizaje automático, permitieron a los sistemas de reconocimiento facial alcanzar tasas de precisión que antes eran inimaginables. Hoy, con IA y aprendizaje profundo, los sistemas de reconocimiento de rostro para las empresas se han vuelto increíblemente precisos y rápidos.
Cómo funcionan los sistemas modernos de reconocimiento facial
Los sistemas modernos de reconocimiento facial funcionan a través de un proceso multiestadio que ocurre en milisegundos. La primera etapa consiste en la detección facial, donde el sistema identifica y localiza un rostro dentro de una imagen o un marco de vídeo. Esto es seguido por el alineamiento facial, donde el sistema normaliza la posición, el tamaño y la orientación del rostro para asegurar un análisis coherente independientemente del ángulo o la distancia de la cámara.
A continuación viene la extracción de funciones, donde el sistema identifica y mide características faciales distintivos. Estas mediciones se convierten en una representación matemática llamada modelo facial o firma biométrica. Finalmente, el sistema realiza la correspondencia comparando este modelo con los modelos almacenados en una base de datos, generando una puntuación de similitud que indica la probabilidad de una coincidencia.
Los modernos sistemas de reconocimiento facial capturan y analizan imágenes de personas en las condiciones más difíciles de visión y movimiento. Esta capacidad es crucial para las aplicaciones de lucha contra el terrorismo, donde los sospechosos pueden ser capturados en las imágenes de vigilancia en condiciones menos que ideales, incluyendo una iluminación deficiente, una oclusión parcial o en ángulos oblíquos.
Aplicaciones estratégicas en las operaciones de lucha contra el terrorismo
Vigilancia en tiempo real y detección de amenazas
La tecnología de reconocimiento facial ha emergido como un instrumento transformador en la lucha contra el terrorismo, ofreciendo capacidades avanzadas para identificar, vigilar y aprehender a personas de interés, con enfoque en tres aplicaciones específicas: vigilancia en tiempo real, control fronterizo y procesos de investigación. En espacios públicos llenos, centros de transporte y durante eventos importantes, los sistemas de reconocimiento facial pueden escanear continuamente a multitudes y alertar instantáneamente al personal de seguridad cuando se detecta una persona de interés.
La AI permite la alerta automática y la verificación de identidad de vastos grupos de personas a una escala y ritmo no posible antes. Esta capacidad es particularmente valiosa durante eventos de alto perfil en los que se reúnen grandes multitudes, como rallyes políticos, eventos deportivos o festivales culturales. Las agencias de seguridad pueden implementar sistemas de reconocimiento facial para vigilar los puntos de entrada y los movimientos de la multitud, identificando posibles amenazas antes de que puedan materializarse en ataques.
La mejora de la seguridad proporciona un monitoreo continuo en zonas de alta tráfico, identifica a las personas de interés y localiza a los desaparecidos con eficiencia sin precedentes. La capacidad de la tecnología de operar continuamente sin fatiga hace que sea un complemento inestimable para el personal de seguridad humana, que puede entonces centrar su atención en investigar las alertas y responder a las amenazas potenciales.
Seguridad fronteriza e control de inmigración
Los cruces fronterizos y los aeropuertos representan puntos de estrangulación críticos en los esfuerzos contra el terrorismo. Si una persona (incluyendo un terrorista) viene a los Estados Unidos desde el extranjero, probablemente pasa por un puesto de control de inmigración en el puerto de entrada, y desde la perspectiva de la lucha contra el terrorismo, este punto de control es un punto de estrangulación donde el potencial terrorista es más vulnerable. La tecnología del reconocimiento facial se ha convertido en un instrumento esencial en estos momentos críticos.
Los FRTs se desplegan para verificar que una persona que pasa por el control fronterizo es efectivamente la persona representada en un documento de identificación (por ejemplo, un pasaporte), e Interpol ha desplegado su sistema Proyecto PRIMER para ayudar a las autoridades estatales a identificar combatientes terroristas extranjeros (FTFs). Estos sistemas pueden procesar a los viajeros rápidamente mientras que al mismo tiempo controlan sus identidades contra listas de vigilancia de terroristas conocidos o sospechosos, mejorando significativamente la seguridad sin crear grandes cuellos de botella en el flujo de pasajeros.
La biométrica puede prevenir el robo de identidad y la fraude migratoria en el uso de documentos de viaje, ya que un modelo biométrico de la huella dactilar de uno estaría adjunto al documento, como un pasaporte o un visado, en un código de barras, chip o tira magnética, lo que dificultaría que alguien asuma la identidad de otro. Combinado con el reconocimiento facial, este enfoque biométrico de múltiples capas crea una defensa sólida contra los terroristas que intentan entrar en países usando documentos fraudulentos o identidades robadas.
Aplicaciones investigativas y forenses
Los sistemas biométricos podrían identificar a terroristas conocidos o sospechosos utilizando el reconocimiento facial biométrico o el método FaceCheck cuando una fotografía está disponible del terrorista sospechoso, y esto se busca contra una lista de vigilancia o base de datos de los modelos de terroristas sospechosos. Esta capacidad ha demostrado ser inestimable en investigaciones posteriores a incidentes, donde las agencias de seguridad analizan las imágenes de vigilancia para identificar a los autores y sus asociados.
La eficiencia de las fuerzas del orden acelera la identificación y resolución de casos de sospechosos mediante la correspondencia automática con los registros existentes. En lugar de revisar manualmente horas de grabación y comparar rostros por ojo, los investigadores pueden utilizar el reconocimiento facial para buscar rápidamente a través de vastos archivos de vídeo de vigilancia, identificar a los sospechosos y seguir sus movimientos a través de múltiples lugares y períodos de tiempo.
El ejército estadounidense también ha reconocido el valor estratégico del reconocimiento facial en las operaciones de lucha contra el terrorismo. El Comando de Operaciones Especiales de los Estados Unidos (USSOCOM) está preparando las bases para una expansión significativa de sus capacidades de inteligencia y explotación de identidad, esbozando una visión amplia y técnicamente ambiciosa de cómo las Fuerzas de Operaciones Especiales recopilan, analizan y explotan datos relacionados con la identidad durante las misiones, buscando información sobre cinco áreas de tecnología primaria: reconocimiento facial, identificación de hablantes y correspondencia de voz, un ecosistema de aplicación de explotación de sitios SOF totalmente integrado, análisis rápido de ADN y análisis de inteligencia artificial y aprendizaje automático.
Ventajas operacionales en la prevención del terrorismo
Velocidad y escala de identificación
Una de las ventajas más significativas de la tecnología del reconocimiento facial en la lucha contra el terrorismo es su capacidad de procesar y analizar rostros a velocidades que exceden considerablemente las capacidades humanas. La nueva tecnología ha dado al Estado un nuevo poder para automatizar la identificación de terroristas anteriormente conocidos que están organizando ataques contra los ciudadanos que el Estado se supone que debe proteger, y el poder de hacerlo, si funciona eficazmente, ayudaría a combatir el terrorismo, ya que las tecnologías del reconocimiento facial prometen dar al Estado precisamente ese poder.
Los métodos tradicionales de identificación de sospechosos dependían mucho de la memoria humana y la comparación manual de fotografías, procesos que consumían tiempo y eran propensos a error. Un oficial de seguridad que supervisaba un aeropuerto abarrotado sólo podía observar activamente a un número limitado de personas de una vez, e incluso el personal más experimentado podría perder a un sospechoso en un mar de rostros. Los sistemas de reconocimiento facial, por el contrario, pueden monitorizar simultáneamente cientos o miles de rostros, comparando cada uno con bases de datos extensas en tiempo real.
Esta capacidad es particularmente crucial en situaciones sensibles al tiempo en las que cada segundo cuenta. Cuando las agencias de inteligencia reciben información sobre una amenaza inminente, los sistemas de reconocimiento facial pueden ser rápidamente implementados para escanear redes de vigilancia en ciudades enteras, potencialmente localizando sospechosos en minutos en lugar de horas o días.
Capacidades de vigilancia mejoradas
Mediante el reconocimiento biométrico, el algoritmo de aprendizaje profundo y la analítica de los Big Data, la exactitud y eficiencia del trabajo de inteligencia se mejoran y el trabajo de seguimiento tradicional se convierte en una lucha defensiva y orientada al futuro. El reconocimiento facial transforma la vigilancia de un instrumento reactivo utilizado principalmente para la investigación post-incidente en un sistema proactivo capaz de prevenir ataques antes de que ocurran.
La tecnología permite a las agencias de seguridad crear redes completas de cámaras de vigilancia que funcionan como un sistema integrado en lugar de puntos de observación aislados. Cuando se detecta a una persona de interés en un lugar, el sistema puede seguir sus movimientos a través de la red, proporcionando al personal de seguridad información en tiempo real sobre sus actividades y asociaciones. Esta capacidad es inestimable para comprender las redes terroristas e identificar a miembros anteriormente desconocidos de organizaciones extremistas.
Además, los sistemas de reconocimiento facial pueden funcionar continuamente sin las limitaciones de la atención y la fatiga humanas. Mientras que los operadores humanos pueden perderse detalles críticos durante largos turnos o períodos de baja actividad, los sistemas automatizados mantienen una vigilancia constante, asegurando que ninguna amenaza potencial pase desapercibida.
Efecto de distancia
La presencia de sistemas de reconocimiento facial puede servir como un poderoso elemento disuasorio para las actividades terroristas. Cuando los potenciales atacantes saben que sus rostros serán capturados y analizados por sistemas biométricos sofisticados, se enfrentan a riesgos significativamente más elevados de identificación y aprehensión. Esta conciencia puede perturbar los procesos de planificación, forzar a los terroristas a adoptar tácticas menos eficaces, o desalentar los ataques por completo.
El efecto disuasorio se extiende más allá de la amenaza inmediata de identificación. Los sistemas de reconocimiento facial crean un registro digital permanente que puede analizarse mucho después de que ocurra un incidente. Esto significa que, incluso si los terroristas logran eludir la detección inmediata, dejan atrás pruebas que pueden utilizarse para identificarlos más tarde, seguir sus movimientos y descubrir sus redes. Esta rendición de cuentas a largo plazo añade otro nivel de riesgo que los terroristas deben considerar al planificar operaciones.
Optimización de recursos
La tecnología de reconocimiento facial permite a las agencias de seguridad optimizar sus limitados recursos automatizando tareas de identificación rutinaria y centrando la experiencia humana donde sea más necesario. En lugar de asignar personal para supervisar manualmente los feeds de vigilancia o verificar documentos en los cruces fronterizos, las agencias pueden implementar sistemas de reconocimiento facial para manejar estas tareas mientras los operadores humanos se centran en investigar alertas, realizar entrevistas y tomar decisiones críticas.
Esta optimización es particularmente importante dada la escala de los modernos desafíos de seguridad. Con millones de viajeros que pasan por los aeropuertos diariamente y innumerables horas de vídeos de vigilancia generados en las zonas urbanas, sería imposible revisar manualmente toda esta información. Los sistemas de reconocimiento facial pueden procesar esta gran cantidad de datos automáticamente, marcando sólo la pequeña fracción que requiere atención humana.
Desafíos críticos y limitaciones técnicas
Precisión y falsos positivos
A pesar de los avances significativos en la tecnología de reconocimiento facial, la exactitud sigue siendo una preocupación crítica, especialmente en las aplicaciones de lucha contra el terrorismo donde las consecuencias de los errores pueden ser graves. El método de reconocimiento facial ha sido identificado con imperfecciones y debilidades tecnológicas, pero puede ser utilizado operacionalmente para minimizar sus debilidades. La comprensión de estas limitaciones es esencial para el despliegue responsable y eficaz de la tecnología.
Aunque los seres humanos generalmente pueden realizar procesos de reconocimiento facial bastante bien, estas actividades siguen siendo muy desafiantes para los sistemas tecnológicos, ya que a menos que la fotografía se capture en condiciones muy controladas, el sistema puede tener dificultad para identificar al individuo o incluso detectar su rostro en la fotografía, y el sistema funciona mejor cuando factores ambientales como el ángulo de la cámara, la iluminación, la expresión facial y otros, se controlan en la mayor medida posible.
Los falsos positivos —instancias en las que el sistema identifica incorrectamente a alguien como persona de interés— plantean desafíos particulares en contextos de lucha contra el terrorismo. Los para los que la tecnología no funciona también no podrán ser verificados por los FRTs—causando sospechas y una mayor vigilancia intrusiva, y además, serán identificados con más frecuencia, lo que puede hacer que se sospeche que son terroristas u otros criminales graves. Tales erróneas identificaciones pueden llevar a que personas inocentes sean detenidas, interrogadas o sometidas a procedimientos de seguridad invasivos, con consecuencias personales y sociales significativas.
NIST recientemente realizó un test a gran escala centrado en identificar los sesgos en FRT, con un énfasis particular en la tasa falsa positiva – es decir, la frecuencia con la que un algoritmo erróneo identifica la imagen de una persona, y los resultados mostraron que "a través de la demografía, las tasas falsas positivas suelen variar por factores de 10 a más allá de 100 veces", dependiendo de qué algoritmos están en uso. Estas variaciones en las tasas de error entre diferentes sistemas ponen de relieve la importancia de un ensayo y validación rigurosos antes de implementar tecnología de reconocimiento facial en aplicaciones de seguridad de alto nivel.
Bias demográficas y equidad Algorítmica
Uno de los desafíos más graves que enfrenta la tecnología del reconocimiento facial es el sesgo demográfico — la tendencia de los sistemas a realizar resultados menos precisos en determinados grupos demográficos. Tres programas de análisis facial comercialmente publicados de las principales empresas tecnológicas demuestran tanto sesgos de tipo de piel como de género, y en los experimentos de los investigadores, los índices de error de los tres programas para determinar el género de los hombres de piel clara nunca fueron peores que 0,8 por ciento, pero para las mujeres de piel más oscura, sin embargo, los índices de error se dispararon — a más de 20 por ciento en un caso y más de 34 por ciento en los otros dos.
El índice de error para los hombres de piel clara es 0,8%, en comparación con el 34,7% para las mujeres de piel oscura, según un estudio de 2018 titulado "Ombres de género" de Joy Buolamwini y Timnit Gebru, publicado por MIT Media Lab. Esta dramática disparidad en los índices de precisión suscita serias preocupaciones acerca de la equidad y la igualdad de trato bajo la ley cuando el reconocimiento facial se utiliza en contextos de seguridad y aplicación de la ley.
El tono de la piel afecta significativamente la precisión de la verificación, con tonos de piel más claros que sobrepasan constantemente los tonos medianos y oscuros. La investigación también ha encontrado que los sujetos masculinos generalmente lograron una mejor precisión de reconocimiento que los sujetos femeninos, atribuidos a factores como la oclusión causada por el cabello más largo y alteraciones en la apariencia facial debido al maquillaje.
En agosto de 2023, una mujer negra demandó al Departamento de Policía de Detroit después de ser arrestada por agentes de policía usando software de reconocimiento facial mal calibrado, y este problema prevalece en el software de reconocimiento facial, que tiende a generar una tasa más alta de falsos positivos para las personas no blancas. Tales incidentes demuestran las consecuencias reales del prejuicio algorítmico y subrayan la necesidad urgente de sistemas de reconocimiento facial más equitativos.
El estudio NIST encontró además resultados sesgos cuando se trataba de los rostros de los asiáticos orientales, los indígenas nativos, los indios americanos, los indígenas de Alaska y los isleños del Pacífico. La omnipresenteidad de estos sesgos entre varios grupos demográficos sugiere que el problema es sistémico en lugar de aislado a poblaciones o algoritmos específicos.
Causas raíz de las bias
La tecnología de reconocimiento facial ha hecho grandes avances en precisión gracias a modelos avanzados de inteligencia artificial (IA) entrenados en conjuntos de datos masivos de imágenes faciales, pero estos conjuntos de datos a menudo carecen de diversidad en términos de raza, etnia, género y otras categorías demográficas, lo que hace que los sistemas de reconocimiento facial funcionen peor en los grupos demográficos insuficientemente representados en comparación con los grupos omnipresentes en los datos de entrenamiento.
El problema de sesgo proviene de múltiples fuentes. Los conjuntos de datos históricos utilizados para entrenar algoritmos de reconocimiento facial han caracterizado predominantemente rostros de hombres blancos, reflejando la demografía de los investigadores e instituciones que los crearon. Cuando los algoritmos aprenden a reconocer rostros principalmente a partir de este conjunto de datos limitado, naturalmente funcionan mejor en rostros similares y luchan con rostros que difieren significativamente de sus datos de entrenamiento.
Muchos atribuyen la mayoría de estos problemas a conjuntos de datos desequilibrados. Sin embargo, el problema va más allá de la simple representación. Incluso cuando los conjuntos de datos incluyen rostros diversos, otros factores como las condiciones de iluminación, la calidad de la cámara y la resolución de imágenes pueden afectar de manera desproporcionada la calidad de las imágenes para las personas con tonos de piel más oscuros, agravando aún más los problemas de precisión.
Esfuerzos para mitigar los bias
Investigadores y empresas tecnológicas han reconocido la gravedad del problema de sesgos y están trabajando activamente en soluciones. En 2018, Microsoft anunció que su FRT comercialmente disponible había sufrido actualizaciones para mejorar el rendimiento entre las categorías de raza y género ampliando los conjuntos de datos utilizados para entrenar los algoritmos de aprendizaje automático y mejorando el clasificador de caras para mayor precisión, y estas mejoras resultaron, según la empresa, en tasas de error 20 veces menores para tonos de piel más oscuros y 9 veces menores para las mujeres.
Los investigadores entrenaron previamente tres modelos de reconocimiento facial — ArcFace, AdaFace y ElasticFace— en un conjunto de datos sintéticos amplio y equilibrado que generaron, y el resultado no sólo aumentó la precisión global en comparación con los modelos entrenados sobre los conjuntos de datos desequilibrados existentes, sino también redujo significativamente los sesgos demográficos, con los modelos entrenados mostrando una exactitud más equitativa entre todos los grupos raciales en comparación con los modelos existentes que muestran un desempeño pobre en las minorías subrepresentadas.
En el conjunto de datos FairFace, la precisión mejoró de 92.58% a 96.47%, mientras que el Grado de Prejuicios (DoB) se redujo de 3.86 a 1.16, lo que representa una reducción de aproximadamente 70%, y en particular, se observaron aumentos significativos del rendimiento para los grupos subrepresentados, como una mejora de la precisión para las mujeres negras de 80,2% a 90.86%, manteniendo al mismo tiempo un fuerte rendimiento para los grupos ya bien representados.
La red adversaria debisiva (DebFace), utiliza un codificador de imagen a imagen, cuatro clasificadores de atributos, un clasificador de distribución y una red de agregación de funciones, y los cuatro clasificadores —género, edad, raza e identidad— transforman posibles sesgos en características informadas, mejorando así el rendimiento entre los grupos subrepresentados. Estas innovaciones arquitectónicas demuestran que la mitigación de sesgos es técnicamente factible, aunque aún queda un trabajo significativo para implementar estas soluciones en todos los sistemas implementados.
Preocupaciones de privacidad y libertades civiles
Vigilancia de masas y derechos de privacidad
La mayoría de todo lo poderoso tiene un lado oscuro, y FRT no es excepción, ya que plantea graves cuestiones y preocupaciones acerca de la privacidad, la ética y el impacto social general. El despliegue de la tecnología de reconocimiento facial para los fines de la lucha contra el terrorismo ha desencadenado un intenso debate sobre el equilibrio entre seguridad y privacidad, y los críticos argumentan que la vigilancia generalizada amenaza las libertades civiles fundamentales.
Los desafíos legales, éticos y de privacidad en torno a la vigilancia en masa incluyen preocupaciones sobre la identificación errónea, el fraude y los sesgos en la base de datos. La capacidad de rastrear los movimientos de las personas a través de los espacios públicos sin su conocimiento o consentimiento plantea profundas preguntas acerca de la naturaleza de la privacidad en la sociedad moderna y los límites apropiados de los poderes de vigilancia del gobierno.
Los críticos señalan riesgos significativos de privacidad y posibles infracciones de las libertades civiles, planteando preocupaciones acerca de la recolección de datos no autorizados, la falta de consentimiento y el potencial de fluición de funciones, a través del cual los datos recopilados para un propósito se utilizan para un propósito no relacionado sin el conocimiento o consentimiento del individuo. El temor es que los sistemas inicialmente implementados para contraterrorismo podrían expandirse gradualmente para supervisar a los ciudadanos comunes que participan en actividades lícitas, creando un estado de vigilancia que escalonea la libertad de expresión y asociación.
Las razones expuestas para tal prohibición son que los FRT sufren de un sesgo generalizado que provoca que los beneficios y daños se distribuyan desigualmente entre los grupos, el Estado inevitablemente utilizará estas tecnologías con fines ilegítimos, y que la existencia de FRTs enfria nuestro comportamiento (es decir, provoca que las personas se censuran por temor a la vigilancia). Este efecto de enfriamiento podría socavar la participación democrática al desencorajar a las personas a asistir a protestas, a las reuniones políticas u otras reuniones públicas en las que podrían ser identificadas y rastreadas.
Respuestas y prohibiciones reglamentarias
En 2019, San Francisco se convirtió en la primera ciudad estadounidense en prohibir la tecnología de reconocimiento facial (FRT), específicamente vetando su uso por la policía y otras agencias, y desde entonces, varias otras ciudades estadounidenses han implementado sus propias prohibiciones de FRT similares, con los concejales de Boston resaltando explícitamente un tema particular: el sesgo de la tecnología. Estas prohibiciones reflejan una creciente preocupación pública acerca del potencial de abuso de la tecnología y sus problemas demostrados con exactitud y equidad.
Más de una docena de grandes ciudades han prohibido la tecnología, incluyendo Minneapolis, Boston y San Francisco. Sin embargo, estas prohibiciones locales no han impedido a las agencias federales y muchas otras jurisdicciones seguir implementando el reconocimiento facial con fines de seguridad, creando un mosaico de reglamentos que varía significativamente según la ubicación.
La Unión Europea ha adoptado un enfoque más amplio, con el uso de tecnologías de reconocimiento facial en el contexto de protesta pacífica que aumenta el riesgo de prácticas de vigilancia masiva y las implicaciones para la protección de los derechos humanos. Las autoridades reguladoras europeas han propuesto estrictas limitaciones al uso del reconocimiento facial en los espacios públicos, con algunos que abogan por prohibiciones completas excepto en circunstancias restringidas que impliquen crímenes graves o amenazas inminentes.
Equilibramiento de la seguridad y la libertad
Es primordial que si el Estado puede utilizar esta tecnología para aumentar su poder para combatir el terrorismo, este poder se vea limitado de tal manera que los abusos y el comportamiento refrigerado no ocurran, y el Estado debe crear restricciones institucionales que sólo permitan que los FRT se utilicen en lugares en los que la gente no disfrute (y no deba) de una expectativa razonable de privacidad (por ejemplo, aeropuertos, cruces fronterizos).
Las cámaras equipadas con FRT deben marcarse para asegurar al público que no están siendo vigiladas en lugares que deberían tener una expectativa razonable de privacidad, y las FRTs deben limitarse a encontrar criminales graves (por ejemplo, terroristas). Estas restricciones propuestas representan un intento de preservar los beneficios de seguridad del reconocimiento facial, al tiempo que limitan su potencial de abuso y protección de las libertades civiles.
FRT representa una herramienta poderosa en el arsenal antiterrorismo, que permite medidas de seguridad que antes no eran alcanzables, pero esta es una tecnología que exige un equilibrio extremadamente juicioso entre sus beneficios claros y las consideraciones éticas importantes con las que está asociada, y en este momento, podría ser el caso que el equilibrio se inclina demasiado a favor de los beneficios claros de FRT y no suficiente a favor de la equidad, la privacidad y la integridad ética que deben guiar su despliegue.
Marcos jurídicos y éticos
Consideraciones constitucionales y de derechos humanos
Los programas de FRT utilizados por las fuerzas del orden para identificar sospechosos de crimen son sustancialmente más propensos a errores en las imágenes faciales que representan tonos de piel y mujeres más oscuros en comparación con las imágenes faciales que representan a hombres caucásicos, y este sesgo puede llevar a que la policía investigue injustamente a los ciudadanos según líneas raciales y de género, y el uso de FRT parcial es incompatible con el requisito liberal clásico de que el gobierno trate a todos los ciudadanos por igual ante la ley.
La cláusula de protección igual de muchas constituciones requiere que las acciones gubernamentales no discriminan por motivos de raza, género u otras características protegidas. Cuando los sistemas de reconocimiento facial demuestren un sesgo sistemático contra determinados grupos demográficos, su uso por parte de los organismos gubernamentales puede violar estas protecciones constitucionales. Esto crea un dilema legal: mientras que la tecnología puede mejorar la seguridad, su desempeño sesgado podría hacer su uso inconstitucional o violando el derecho de los derechos humanos.
Los científicos de informática han expresado preocupación por el uso de FRT por las fuerzas del orden para identificar sospechosos de delito, observando que es muy probable que ese software se utilice para identificar sospechosos, y por lo tanto, un error en la salida de un algoritmo de reconocimiento facial utilizado como entrada para otras tareas puede tener graves consecuencias, ya que alguien podría ser acusado injustamente de un delito basado en una errónea pero confiada identificación errónea del autor de la prueba de vídeo de seguridad.
Transparencia y rendición de cuentas
Recomienda una reglamentación firme, cooperación internacional y gobernanza transparente para garantizar que el uso de la tecnología de reconocimiento facial de la AI sea compatible con los derechos humanos y las libertades fundamentales. La transparencia sobre cómo funcionan los sistemas de reconocimiento facial, sus tasas de exactitud y sus limitaciones es esencial para la confianza pública y la rendición de cuentas democrática.
Establecer leyes que sean claras y completas relacionadas con el uso de la tecnología de reconocimiento facial, alinear las normas mundiales con los marcos nacionales para garantizar la coherencia, y ordenar auditorías regulares de los sistemas de FRT para asegurar el cumplimiento de las directrices éticas. La auditoría regular puede ayudar a identificar problemas con exactitud o sesgo antes de que causen daños graves, mientras que los marcos jurídicos claros proporcionan orientación a las agencias de seguridad sobre los usos apropiados de la tecnología.
Los riesgos no deben conducir a moratorias sobre el uso de la AI o la prohibición en determinadas plataformas, sino que deben ser llamados a la acción para que los gobiernos exijan un mejor diseño de sus instrumentos de AI/ML, lo que significa adquirir mejores datos y crear regímenes de pruebas extenuantes que limiten el riesgo y expongan las deficiencias tanto como sea posible, y una manera de ayudarlo es aplicando normas explicables de AI y políticas de transparencia que den a los gobiernos una visión de la razón de cada acción que un sistema adopte.
Protección y conservación de datos
El estado no debe utilizar compañías de terceros que violen las tres primeras condiciones durante la creación o el uso de su servicio, y las empresas de terceros no deben ser capaces de acceder o leer los datos sensibles recogidos por el Estado. Los datos biométricos recogidos por los sistemas de reconocimiento facial son altamente sensibles y personales, lo que requiere una protección robusta contra el acceso no autorizado, el uso indebido o las violaciones de datos.
Las preguntas sobre la retención de datos son particularmente importantes. ¿Cuánto tiempo deben almacenarse los datos de reconocimiento facial? ¿Quién debe tener acceso a ellos? ¿En qué circunstancias pueden compartirse con otras agencias o países? Estas preguntas carecen de respuestas claras en muchas jurisdicciones, creando incertidumbre sobre las implicaciones a largo plazo del despliegue del reconocimiento facial.
El riesgo de violaciones de datos también es significativo. Una base de datos que contenga datos de reconocimiento facial para millones de personas sería un objetivo atractivo para los hackers, los servicios de inteligencia extranjeros u organizaciones criminales. Si esos datos se vieran comprometidos, podría ser utilizado para robar identidad, acosar u otros fines maliciosos, con consecuencias que podrían persistir durante años o décadas.
Perspectivas y despliegue internacionales
Patrones de adopción mundiales
Aplicación de la ley: El reconocimiento facial se clasifica actualmente como la tecnología de vigilancia de la inteligencia artificial más ampliamente adoptada a nivel mundial, con un índice de adopción del 64%, que supera tanto las plataformas urbanas inteligentes como las iniciativas policiales inteligentes. Esta adopción generalizada refleja tanto el valor percibido de la tecnología para la seguridad como las diferentes enfoques reglamentarios adoptados por diferentes países.
Los países enfrentan diferentes amenazas de seguridad y tienen diferentes actitudes culturales hacia la privacidad y la vigilancia, lo que lleva a variaciones significativas en la forma en que se despliega el reconocimiento facial. Algunas naciones han abrazado la tecnología con entusiasmo, implementándola ampliamente en espacios públicos con restricciones mínimas. Otros han adoptado un enfoque más cauteloso, limitando su uso a contextos específicos de alta seguridad o imponiendo estrictos requisitos de supervisión.
Furl et al. (2002) encontraron que FRT desarrollado y utilizado en países occidentales era más preciso para las imágenes faciales caucásicas, mientras que en los países de Asia oriental, los algoritmos FRT eran más precisos para las imágenes faciales de Asia oriental. Este hallazgo pone de relieve la importancia de desarrollar sistemas de reconocimiento facial que estén entrenados en diversos conjuntos de datos representativos de las poblaciones donde serán implementados.
Cooperación internacional y normas
El terrorismo es una amenaza transnacional que requiere cooperación internacional para combatir eficazmente. La tecnología del reconocimiento facial puede facilitar esta cooperación permitiendo a los países compartir información sobre terroristas conocidos o sospechosos y coordinar sus esfuerzos de vigilancia. Sin embargo, esta dimensión internacional también plantea preguntas complejas sobre el intercambio de datos, la protección de la privacidad y los derechos humanos.
Diferentes países tienen diferentes normas legales para la protección de la privacidad, la conservación de datos y el debido proceso. Cuando los datos de reconocimiento facial se comparten a través de las fronteras, pueden estar sujetos a protecciones menos estrictas en el país receptor que en el país donde se recolectaron. Esto crea riesgos para que los datos recogidos bajo estrictas protecciones de la privacidad puedan ser utilizados indebidamente por gobiernos extranjeros con salvaguardias más débiles.
Organizaciones internacionales como Interpol han desarrollado sistemas para facilitar el uso transfronterizo del reconocimiento facial para la lucha contra el terrorismo. Estos sistemas deben navegar por terreno jurídico y político complejo, equilibrando los beneficios de seguridad del intercambio de información con preocupaciones sobre la privacidad, los derechos humanos y la soberanía nacional. El desarrollo de normas y acuerdos internacionales para el uso responsable del reconocimiento facial en la lucha contra el terrorismo sigue siendo un desafío permanente.
Percepción y confianza públicas
Factores que influyen en la aceptación pública
Los defensores de FRT enfatizan su potencial en seguridad pública, prevención del delito y lucha contra el terrorismo, observando que FRT permite a las agencias y organizaciones encargadas de hacer cumplir la ley identificar sospechosos y prevenir el acceso no autorizado a áreas y espacios protegidos donde estén presentes activos valiosos o poblaciones vulnerables. El apoyo público al reconocimiento facial depende a menudo del contexto específico en el que se utilice, con mayor aceptación para aplicaciones de seguridad en entornos de alto riesgo como los aeropuertos.
La confianza en las instituciones que despliegan el reconocimiento facial es un factor crítico en la aceptación pública. Cuando las personas confían en que las agencias de seguridad utilizarán la tecnología de manera responsable y con la supervisión apropiada, son más propensos a aceptar su despliegue. Por el contrario, cuando la confianza es baja —debido a abusos pasados, falta de transparencia o preocupación por los prejuicios— la oposición pública tiende a ser más fuerte.
La adopción exitosa y generalizada de FRT depende no sólo de su velocidad y exactitud, sino también de la confianza del público en los algoritmos que potencian los dispositivos de reconocimiento facial, y esa confianza será difícil de construir mientras que los ejemplos de sesgo racial y los resultados falsos positivos siguen eclipsando las mejoras que se están haciendo año tras año en la precisión y funcionalidad generales del software.
Creación de confianza pública
Fomentar el compromiso público para abordar las preocupaciones y construir confianza. El compromiso público significativo requiere más que simplemente informar a la gente sobre el despliegue del reconocimiento facial; significa crear oportunidades para un diálogo genuino sobre los beneficios, los riesgos y los límites apropiados de la tecnología.
La transparencia sobre el desempeño del sistema es esencial para crear confianza. Las agencias de seguridad deben informar públicamente sobre las tasas de exactitud, incluyendo desgloses por grupo demográfico, tasas falsas positivas e información sobre cómo se utiliza y supervisa la tecnología. Esta transparencia permite al público emitir juicios informados sobre si los beneficios de seguridad justifican los costos de privacidad y si la tecnología se está utilizando equitativamente.
La rendición de cuentas cuando se produzcan problemas es también crucial. Cuando los sistemas de reconocimiento facial lleven a detenciones ilícitas u otros daños, las agencias deben reconocer estos fallos, indemnizar a las víctimas y tomar medidas concretas para evitar que se repitan. Un patrón de negar problemas o desviar la responsabilidad socavará la confianza pública y fomentará la oposición a la tecnología.
Desarrollos futuros y tecnologías emergentes
Avances en precisión y capacidad
En los últimos años, con arquitecturas avanzadas y el aumento del número de capas y parámetros, los modelos de FR han ganado una mejora sustancial en su capacidad para aprender representaciones faciales complejas, y estas arquitecturas más profundas, que a menudo comprenden más de 100 capas con millones de parámetros, han aumentado significativamente la capacidad de los sistemas de FR para generalizarse en escenarios difíciles, lo que ha dado lugar a un mayor rendimiento global de reconocimiento (así como a un menor sesgo), y además, la disponibilidad de conjuntos de datos más amplios y más diversos ha contribuido a mejorar los resultados de aprendizaje, ya que estos conjuntos de datos, que incorporan variaciones sustanciales demográficas y covariables como la pose, la iluminación y la expresión (PIE), han facilitado progresos mensurables en la mejora de la exactitud y la equidad FR.
Los futuros sistemas de reconocimiento facial probablemente incorporarán múltiples modalidades biométricas, combinando el reconocimiento facial con la exploración de iris, el análisis de la marcha, el reconocimiento de voz y otras técnicas. Este enfoque multimodal puede mejorar la precisión al hacer referencias cruzadas a múltiples firmas biométricas, reduciendo el impacto de errores en cualquier sistema único. También puede hacer más difícil que los terroristas eludan la detección disimulando o alterando su apariencia.
Los avances en inteligencia artificial, especialmente en el aprendizaje profundo y las redes neuronales, continúan rebasando los límites de lo que los sistemas de reconocimiento facial pueden lograr. Estos sistemas están mejorando en reconocer rostros bajo condiciones desafiantes, como la iluminación deficiente, la oclusión parcial o ángulos extremos. También se están haciendo más rápidos, permitiendo el análisis en tiempo real de los flujos de vídeo de alta resolución de múltiples cámaras simultáneamente.
Integración con otros sistemas de inteligencia
El futuro del reconocimiento facial en la lucha contra el terrorismo no sólo consiste en mejorar la tecnología en sí, sino en integrarla con otros sistemas de inteligencia y seguridad. Cuando el reconocimiento facial se combina con análisis de comportamiento, mapeo de redes sociales, monitoreo de comunicaciones y otras fuentes de inteligencia, se convierte en parte de un sistema global de detección de amenazas que es mayor que la suma de sus partes.
Por ejemplo, el reconocimiento facial podría identificar a una persona de interés en un aeropuerto, desencadenando un escrutinio adicional de sus patrones de viaje, transacciones financieras, comunicaciones y asociados conocidos. Este enfoque integrado permite a las agencias de seguridad construir un cuadro más completo de las amenazas potenciales y tomar decisiones más informadas sobre cómo responder.
Sin embargo, esta integración también amplifica las preocupaciones de privacidad. Un sistema que combine el reconocimiento facial con datos extensos de otras fuentes crea capacidades de vigilancia sin precedentes que podrían ser usadas para supervisar virtualmente todos los aspectos de la vida de las personas. Garantizar que esos sistemas poderosos se utilicen sólo con fines de seguridad legítimos y con la supervisión adecuada será un desafío crítico para los responsables de la formulación de políticas.
Contramedidas emergentes y carrera de armamentos
A medida que la tecnología de reconocimiento facial se hace más prevalente en la lucha contra el terrorismo, los adversarios están desarrollando contramedidas para eludir la detección. Estas van desde técnicas simples como usar máscaras o gafas de sol a enfoques más sofisticados como patrones de maquillaje adversarios diseñados para confundir algoritmos de reconocimiento facial o el uso de tecnología deepfake para crear identidades falsas.
Esto crea una carrera de armamentos tecnológica continua, con agencias de seguridad trabajando para mejorar los sistemas de reconocimiento facial, mientras que los terroristas y otros adversarios desarrollan nuevas maneras de derrotarlos. La eficacia del reconocimiento facial en la lucha contra el terrorismo dependerá no sólo de las capacidades intrínsecas de la tecnología, sino de cuán bien puede adaptarse a las técnicas de evasión en evolución.
Algunos investigadores están explorando formas de hacer los sistemas de reconocimiento facial más robustos contra las contramedidas, como el uso de imágenes infrarrojas para detectar rostros incluso cuando están parcialmente cubiertos, o analizar la marcha y el lenguaje corporal además de las características faciales. Otros están desarrollando sistemas de detección de vivaz que pueden distinguir entre rostros reales y fotografías, máscaras o pantallas de vídeo, evitando ataques de falseado.
Mejores prácticas y recomendaciones
Normas técnicas y ensayos
Los actuales ensayos de los proveedores de reconocimiento facial (FRVT) de NIST han evaluado más de 400 algoritmos de reconocimiento facial desde 2017, dando una visión de las calificaciones generales de precisión de todos los desarrolladores participantes. Es esencial realizar pruebas rigurosas e independientes de los sistemas de reconocimiento facial antes del despliegue para asegurar que cumplan los estándares mínimos de precisión y equidad.
Los ensayos deben incluir una evaluación entre diversos grupos demográficos para identificar y cuantificar cualquier sesgo en el rendimiento del sistema. Los sistemas que demuestren niveles de sesgo inaceptables no deben ser implementados hasta que estos problemas se corrijan. Los ensayos también deben evaluar el rendimiento en condiciones operacionales realistas, no sólo en entornos de laboratorio controlados.
El seguimiento y la evaluación continuos después del despliegue son igualmente importantes. El rendimiento del sistema puede degradarse con el tiempo a medida que los algoritmos envejecen o cuando la población está siendo monitoreada cambia. Los auditorías periódicas pueden identificar problemas emergentes y garantizar que los sistemas sigan cumpliendo los estándares de rendimiento durante toda su vida operativa.
Directrices operacionales
Las agencias de seguridad que desplieguen reconocimiento facial para el contraterrorismo deben establecer directrices operacionales claras que especifiquen cuándo y cómo puede utilizarse la tecnología. Estas directrices deben abordar preguntas como: ¿Qué nivel de confianza de la correspondencia se requiere antes de tomar medidas? ¿Qué verificación adicional se requiere antes de detener a alguien basado en una coincidencia de reconocimiento facial? ¿Cómo debe utilizarse el sistema en combinación con el juicio humano?
Ni los humanos ni los algoritmos son infalibles, y las debilidades similares del juicio humano pueden afectar al uso de las tecnologías de reconocimiento facial, ya que los individuos podrían confiar en la salida de un algoritmo —pensando que debe ser "objetivo"— más que su propio juicio acerca de si dos imágenes coinciden, a pesar de los sesgos subyacentes o las inexactitudes en la tecnología. La capacitación para el personal que utiliza sistemas de reconocimiento facial debe enfatizar que la tecnología es un instrumento para ayudar a la toma de decisiones humanas, no un sustituto del juicio humano.
Los operadores deben ser entrenados para comprender las limitaciones del sistema, incluyendo su potencial de sesgos y falsos positivos. Deben ser estimulados a ejercer un juicio independiente y no confiar únicamente en salidas algorítmicas, especialmente cuando las consecuencias de errores son graves. Los protocolos claros deben especificar qué investigación o verificación adicional se requiere antes de tomar medidas basadas en una coincidencia de reconocimiento facial.
Mecanismos de Supervisión y Rendición de Cuentas
Los mecanismos de supervisión robustos son esenciales para asegurar que la tecnología de reconocimiento facial se utilice adecuadamente y que los abusos se identifiquen y corrijan. Esta supervisión debe incluir tanto mecanismos internos dentro de las agencias de seguridad como la supervisión externa por órganos independientes, como comisionados de privacidad, comités legislativos o revisión judicial.
Los organismos deben mantener registros detallados de cómo se utilizan los sistemas de reconocimiento facial, incluidas las búsquedas realizadas, quién las lleva a cabo y qué acciones resultan. Estos registros deben estar sujetos a auditoría periódica para garantizar el cumplimiento de las políticas e identificar cualquier patrón de mal uso. Cuando se detectan problemas, deben existir mecanismos claros de rendición de cuentas para asegurar que las partes responsables afronten las consecuencias apropiadas.
Los órganos de supervisión externa deben tener la autoridad y los recursos necesarios para llevar a cabo una revisión significativa de los programas de reconocimiento facial. Esto incluye el acceso a información técnica sobre cómo funcionan los sistemas, los datos de rendimiento y los registros operativos. Los órganos de supervisión también deben tener el poder de obligar a cambios en programas que violen normas legales o éticas.
Estudios de casos y aplicaciones del mundo real
Implementaciones de seguridad en el aeropuerto y la frontera
Los aeropuertos y cruces fronterizos han estado entre los primeros y más extensos adoptantes de la tecnología del reconocimiento facial con fines de contraterrorismo. Estos ambientes controlados ofrecen varios ventajas para el despliegue del reconocimiento facial: los viajeros deben pasar por los puestos de control designados, se pueden optimizar los ángulos de iluminación y cámara, y hay una clara justificación de seguridad para la verificación de identidad.
Muchos países han implementado el reconocimiento facial en los puestos de control de inmigración para verificar que los viajeros coincidan con sus fotos de pasaporte y para comprobarlas contra listas de vigilancia de terroristas conocidos o sospechosos. Estos sistemas han procesado millones de viajeros, con algunos aeropuertos informando que el reconocimiento facial les ha permitido identificar a las personas que intentan viajar con documentos fraudulentos o usando identidades robadas.
La tecnología también se ha implementado para acelerar el procesamiento para viajeros de confianza a través de programas que permiten a los individuos preseleccionados utilizar puertas automáticas que verifican su identidad mediante el reconocimiento facial. Este doble uso, que ha contribuido a la aceptación pública de la tecnología en contextos aeroportuarios, tanto para mejorar la seguridad como para facilitar su conveniencia.
Redes de vigilancia urbana
Algunas ciudades han implementado extensas redes de cámaras equipadas con capacidades de reconocimiento facial para monitorear espacios públicos para las amenazas de seguridad. Estos sistemas pueden seguir los movimientos de las personas por toda la ciudad, potencialmente identificando terroristas que llevan a cabo la vigilancia de posibles objetivos o reuniéndose con co-conspiradores.
Sin embargo, las redes de vigilancia urbana también han generado controversias significativas debido a su potencial de vigilancia masiva de los ciudadanos comunes. Los críticos argumentan que estos sistemas crean un efecto escalofriante sobre la libre expresión y asociación, ya que las personas pueden evitar determinados lugares o actividades si saben que están siendo rastreados. El equilibrio entre los beneficios de seguridad y los costos de privacidad es particularmente difícil de alcanzar en estas aplicaciones.
Algunas jurisdicciones han intentado abordar estas preocupaciones limitando el uso del reconocimiento facial en espacios públicos a circunstancias específicas, como investigar crímenes graves o responder a amenazas inminentes. Otras han exigido que las cámaras estén claramente marcadas y que se informe al público sobre dónde se aplica el reconocimiento facial. Estos enfoques intentan preservar algunos beneficios de seguridad, al tiempo que limitan los aspectos más intrusivos de la vigilancia en masa.
Seguridad del evento y vigilancia de la multitud
Los eventos públicos principales —como convenciones políticas, cumbres internacionales o grandes acontecimientos deportivos— presentan objetivos atractivos para los terroristas y requieren medidas de seguridad intensivas. En tales eventos se ha desplegado reconocimiento facial para vigilar a las multitudes e identificar posibles amenazas entre los asistentes.
Estos despliegues temporales ofrecen algunos ventajas sobre las redes de vigilancia permanentes. Son limitados en el tiempo y el alcance, centrados en eventos específicos de alto riesgo en lugar de un seguimiento continuo de los espacios públicos. Pueden justificarse por la elevada amenaza de seguridad asociada a eventos importantes que atraen grandes multitudes y objetivos de alto perfil.
Sin embargo, las aplicaciones de seguridad de eventos también plantean preocupación, especialmente cuando se utiliza el reconocimiento facial para monitorear protestas o manifestaciones políticas. La tecnología podría ser usada para identificar y seguir a los activistas políticos, potencialmente escalofriando la expresión política legítima. Directrices claras sobre cuándo y cómo el reconocimiento facial puede ser utilizado en los eventos públicos son esenciales para prevenir el abuso.
El camino hacia adelante: equilibrar la seguridad y los derechos
Desarrollo de marcos de uso responsable
El futuro del reconocimiento facial en la lucha contra el terrorismo depende del desarrollo de marcos que permitan que la tecnología se utilice eficazmente con fines de seguridad legítimos, protegiendo al mismo tiempo las libertades civiles y garantizando la equidad. Esto requiere un diálogo continuo entre los profesionales de la seguridad, los tecnólogos, los encargados de formular políticas, los defensores de las libertades civiles y el público.
Tales marcos deben basarse en principios claros: el reconocimiento facial debe utilizarse sólo cuando sea necesario y proporcional a la amenaza de seguridad; debe ser implementado con las salvaguardias apropiadas contra el abuso; debe estar sujeto a supervisión y rendición de cuentas significativas; y debe ser evaluado y mejorado continuamente para abordar los problemas con exactitud y sesgo.
Los diferentes contextos pueden requerir enfoques diferentes. El uso del reconocimiento facial en los cruces fronterizos, cuando hay una justificación clara de seguridad y una expectativa limitada de privacidad, puede ser más aceptable que su uso para la vigilancia continua de los espacios públicos. Los marcos específicos del contexto pueden proporcionar una orientación más matizada que las reglas de tamaño único-adecuadas a todas.
Inversión en Investigación y Desarrollo
Es esencial continuar el inversión en investigación para mejorar la tecnología del reconocimiento facial. Esto incluye no sólo mejorar la precisión y la velocidad, sino específicamente abordar los problemas con sesgo y equidad. Estudios a gran escala y normalizados como la ayuda de NIST para descubrir defectos comunes en FRT, y como científicos y empleados, los ingenieros que desarrollan FRT tienen la tarea de mejorar los resultados del software en el reconocimiento de imágenes con tonos de piel más oscuros, así como reducir el desfase entre los géneros en tasas falsamente positivas, y cuando los conjuntos de datos y los resultados se ponen a un análisis riguroso y minucioso, los científicos tienen la capacidad de mejorar el algoritmo y, por lo tanto, abordar el problema del sesgo en futuras iteraciones del software.
La investigación también debe explorar enfoques alternativos que puedan ofrecer mejores protecciones de la privacidad manteniendo los beneficios de seguridad. Por ejemplo, los sistemas que analizan patrones de comportamiento o detectan anomalías sin identificar a individuos específicos podrían proporcionar información de seguridad útil con menos intrusión de privacidad que el reconocimiento facial tradicional.
La investigación interdisciplinaria que reúna a científicos informáticos, científicos sociales, eticos y estudiosos jurídicos puede ayudar a identificar y abordar los complejos desafíos que plantea la tecnología del reconocimiento facial. La comprensión no sólo de las capacidades técnicas, sino también de las implicaciones sociales, éticas y jurídicas es esencial para el desarrollo y el despliegue responsables.
Cooperación internacional y normas
Dada la naturaleza transnacional del terrorismo, la cooperación internacional sobre las normas y prácticas de reconocimiento facial es importante. Los países deben trabajar juntos para desarrollar normas comunes para la exactitud, la equidad y la protección de la privacidad, respetando al mismo tiempo diferentes tradiciones jurídicas y valores culturales.
Los acuerdos internacionales podrían establecer normas mínimas para los sistemas de reconocimiento facial utilizados en la lucha contra el terrorismo, asegurando que los datos compartidos a través de las fronteras cumplan los requisitos básicos de precisión y fiabilidad. También podrían establecer protocolos para el intercambio de datos que protejan la privacidad y los derechos humanos, al tiempo que permitan una cooperación eficaz contra las amenazas terroristas.
Sin embargo, la cooperación internacional debe ser equilibrada con las preocupaciones acerca de permitir que los regímenes autoritarios utilicen el reconocimiento facial para la represión política. Los países democráticos deben tener cuidado acerca del intercambio de tecnología o datos de reconocimiento facial con gobiernos que carecen de fuertes protecciones de derechos humanos y estado de derecho. Las normas internacionales deben incluir salvaguardias para impedir que la tecnología se utilice con fines ilegítimos.
Conclusión: Navegar por el paisaje complejo
La tecnología de reconocimiento facial representa una herramienta poderosa en la lucha contra el terrorismo, ofreciendo capacidades de identificación, vigilancia e investigación que no eran imaginables hace tan sólo unas pocas décadas. La nueva tecnología ha dado al Estado un nuevo poder para automatizar la identificación de terroristas anteriormente conocidos que están organizando ataques contra los ciudadanos que el Estado se supone que debe proteger, y el poder de hacerlo, si funciona eficazmente, ayudaría a combatir el terrorismo.
Sin embargo, la tecnología también plantea retos significativos relacionados con la precisión, el sesgo, la privacidad y las libertades civiles. Este problema prevalece en el software de reconocimiento facial, que tiende a generar un mayor índice de falsos positivos para las personas no blancas, y a diferencia del software de reconocimiento facial utilizado para arrestar a alguien, un algoritmo de TC mal entrenado puede matar a civiles, una acción que no puede ser deshecha. Los riesgos en las aplicaciones de contraterrorismo son particularmente elevados, donde los errores pueden llevar a que personas inocentes sean detenidas injustamente o, inversamente, a personas peligrosas que evaden la detección.
El camino a seguir requiere equilibrar estas consideraciones concurrentes mediante el desarrollo de políticas cuidadosas, una supervisión robusta, una mejora técnica continua y un diálogo público continuo. Ni las prohibiciones generales que impidan cualquier uso del reconocimiento facial con fines de seguridad ni el despliegue sin restricciones sin salvaguardias representan un enfoque responsable. En cambio, los marcos específicos del contexto que permiten usos beneficiosos mientras evitan el abuso ofrecen la mejor esperanza de realizar los beneficios de seguridad del reconocimiento facial protegiendo los derechos fundamentales.
A medida que la tecnología siga evolucionando y se vuelva más capaz, la necesidad de una gobernanza reflexiva se vuelve más urgente. Las decisiones tomadas hoy sobre cómo se desarrolla, desplega y regula el reconocimiento facial moldearán el equilibrio entre seguridad y libertad durante años venideros. Garantizar que estas decisiones estén informadas por pruebas, guiadas por principios éticos y sujetas a responsabilidad democrática es esencial para mantener la seguridad y la libertad en un entorno de amenaza cada vez más complejo.
Para más información sobre las tecnologías de seguridad biométrica, visite el Programa de prueba del proveedor de reconocimiento facial del Instituto Nacional de Normas y Tecnología. Para aprender sobre consideraciones de privacidad en la tecnología de vigilancia, explore recursos de la Electronic Frontier Foundation. Para las perspectivas internacionales sobre la regulación del reconocimiento facial, vea el Trabajo del Parlamento Europeo sobre la regulación de la AI.