Table of Contents

Tecnoloxía de recoñecemento facial e o seu papel na seguridade moderna

A tecnoloxía de recoñecemento facial xurdiu como unha das ferramentas máis transformadoras na loita mundial contra o terrorismo. Esta poderosa tecnoloxía permite a identificación rápida e precisa de individuos e axudas para previr as actividades terroristas e facer que os espazos públicos sexan máis seguros.

Segundo a investigación de Mercados e Mercados, o mercado de recoñecemento facial está preparado para alcanzar os 8,5 billóns de dólares en 2025, máis que dobrar a partir de 3.800 millóns de dólares en 2020. Este crecemento explosivo reflicte non só as capacidades de expansión da tecnoloxía, senón tamén a súa importancia crítica nos marcos de seguridade nacionais.

No seu núcleo, a tecnoloxía de recoñecemento facial representa un sofisticado matrimonio de visión artificial, intelixencia artificial e análise biométrica. A tecnoloxía dixitaliza as características faciais humanas en representacións matemáticas que os ordenadores poden procesar e comparar, analizando características faciais clave como a distancia entre os ollos da persoa, ancho de ponte nariz, contornos mandibulares e estrutura de ósos das meixelas, e logo crea modelos biométricos únicos para comprobar identidades a través de bases de datos que conteñen millóns de rostros.

A evolución da tecnoloxía de recoñecemento facial

Dende os inicios ata os sistemas AI-Powered

A tecnoloxía remóntase á década de 1960 cando un tipo chamado Woodrow Wilson Bledsoe creou un sistema para ordenar fotos de caras usando unha tableta especial. Estes primeiros sistemas eran rudimentarios polos estándares actuais, requirindo a entrada manual e operando baixo condicións moi controladas.

O verdadeiro cambio de xogo veu na década de 2000 con medios sociais, como de súpeto había millóns de fotos etiquetadas en liña, dando a estes sistemas unha base de datos masiva para aprender. Esta abundancia de datos de adestramento, combinado con avances en algoritmos de aprendizaxe automática, permitiu aos sistemas de recoñecemento facial acadar taxas de precisión que antes eran inimaxinables.

Como funcionan os sistemas de recoñecemento facial

Os sistemas de recoñecemento facial modernos operan a través dun proceso multietapa que ocorre en milisegundos.A primeira etapa implica a detección de cara, onde o sistema identifica e localiza unha cara dentro dunha imaxe ou cadro de vídeo.

A continuación, a extracción de recursos, onde o sistema identifica e mide características faciais distintivas. Estas medidas son convertidos nunha representación matemática chamada molde facial ou sinatura biométrica. Finalmente, o sistema realiza correspondencia comparando este modelo contra os moldes almacenados nunha base de datos, xerando unha puntuación de semellanza que indica a probabilidade dun encontro.

Os sistemas modernos de recoñecemento facial capturan e analizan imaxes de persoas nas condicións máis difíciles de visión e movemento. Esta capacidade é crucial para aplicacións contraterroristas, onde os sospeitosos poden ser capturados en imaxes de vixilancia baixo condicións menos ideais, incluíndo iluminación baixa, oclusión parcial ou en ángulos oblicuos.

Aplicacións estratéxicas en operacións de loita contra o terrorismo

Vixilancia en tempo real e detección de ameazas

A tecnoloxía de recoñecemento facial xurdiu como unha ferramenta transformadora en contra do terrorismo, ofrecendo capacidades avanzadas para identificar, monitorizar e captar individuos de interese, con foco en tres aplicacións específicas: vixilancia en tempo real, control de fronteiras e procesos de investigación.En espazos públicos abarrotados, centros de transporte e durante os principais eventos, os sistemas de recoñecemento facial poden escanear continuamente multitudes e alertar inmediatamente ao persoal de seguridade cando se detecta unha persoa de interese.

A intelixencia artificial permite alertas automáticas e controis de identidade de grandes grupos de persoas a unha escala e ritmos non posibles antes. Esta capacidade é especialmente valiosa durante eventos de alto nivel onde se reúnen grandes multitudes, como rallys políticos, eventos deportivos ou festivais culturais. axencias de seguridade poden implementar sistemas de recoñecemento facial para supervisar puntos de entrada e movementos de multitude, identificando ameazas potenciais antes de que poidan materializarse en ataques.

A seguridade mellorada proporciona un seguimento continuo en áreas de alto tráfico, identifica persoas de interese e localiza persoas desaparecidas cunha eficiencia sen precedentes.

Seguridade fronteiriza e control de inmigración

Os pasos fronteirizos e os aeroportos representan puntos críticos en esforzos contra o terrorismo.Se unha persoa (incluído un terrorista) chega aos Estados Unidos desde o exterior, probablemente pasa por un punto de control de inmigración no porto de entrada, e desde a perspectiva de contraterrorismo, este punto de control é un punto de choque onde o terrorista sería máis vulnerable.

Os FRTs despregáronse para comprobar que unha persoa que pasa polo control fronteirizo é realmente a persoa que se fotografou nun documento de identificación (p.ex. un pasaporte), e Interpol despregou o seu sistema de Proxecto FIRST para axudar ás autoridades estatais a identificar combatentes terroristas estranxeiros (FPS). Estes sistemas poden procesar aos viaxeiros rapidamente mentres revisan as súas identidades contra os lista de vixilancia de terroristas coñecidos ou sospeitosos, mellorando significativamente a seguridade sen crear grandes pescozos de botella no fluxo de pasaxeiros.

A biometría pode previr o roubo de identidade e a fraude de inmigración no uso de documentos de viaxe, xa que un modelo biométrico da pegada dixital sería adxunto ao documento, como un pasaporte ou un visado, nun código de barra, chip ou tira magnética, o que dificultaría que alguén asumira a identidade doutra persoa.

Aplicacións de investigación e forense

Os sistemas biométricos poderían identificar terroristas coñecidos ou sospeitosos usando recoñecemento facial biométrico ou o método Facecheck cando unha fotografía está dispoñible para o sospeitoso terrorista, e isto é buscado contra unha lista de vixilancia ou base de datos de supostos modelos terroristas.

A eficiencia da aplicación da lei acelera a identificación sospeitosa e a resolución de casos por medio da correspondencia automatizada contra rexistros existentes.En vez de revisar manualmente horas de imaxes e comparar caras por ollo, os investigadores poden usar o recoñecemento facial para buscar rapidamente a través de arquivos de vídeo de vixilancia, identificar sospeitosos e rastrexar os seus movementos en varios lugares e períodos de tempo.

O USSOCOM tamén recoñeceu o valor estratéxico do recoñecemento facial nas operacións antiterroristas.O US Special Operations Command (USSOCOM) está a establecer o traballo fundamental para unha expansión significativa das súas capacidades de intelixencia e explotación de identidade, desliñando unha visión ampla e tecnicamente ambiciosa para como as Forzas de Operacións Especiais recollen, analizan e explotan datos relacionados coa identidade durante as misións, buscando unha visión en cinco áreas tecnolóxicas primarias: recoñecemento facial, identificación de falantes e voz, un ecosistema de aplicación de exploración do sitio SOF totalmente integrado, análise rápida do ADN e análise de máquinas e IA.

Beneficios operativos na prevención do terrorismo

Velocidade e escala de identificación

Unha das vantaxes máis significativas da tecnoloxía de recoñecemento facial en contraterrorismo é a súa capacidade para procesar e analizar as caras a velocidades que exceden as capacidades humanas. novas tecnoloxías deron novo poder ao estado para automatizar a identificación de terroristas previamente coñecidos que están a organizar ataques contra os cidadáns que se supón que o Estado protexe e o poder para facelo, se funciona de forma eficaz, axudaría a contrarrestar o terrorismo, como tecnoloxías de recoñecemento facial prometen dar ao estado exactamente ese poder.

Os métodos tradicionais de identificar sospeitosos dependían en gran medida da memoria humana e a comparación manual de fotografías, procesos que eran lentos e propensos a erro. Un oficial de seguridade que monitorizaba un aeroporto ateigado só podía asistir activamente a un número limitado de persoas á vez, e mesmo o persoal máis experimentado podería perder a un sospeitoso nun mar de caras. sistemas de recoñecemento facial, pola contra, poden controlar simultaneamente centos ou miles de caras, comparando cada unha contra amplas bases de datos en tempo real.

Esta capacidade é particularmente crucial en situacións sensibles ao tempo onde cada segundo conta.Cando as axencias de intelixencia reciben información sobre unha ameaza inminente, os sistemas de recoñecemento facial poden ser rapidamente implantados para explorar redes de vixilancia en cidades enteiras, localizar a sospeitosos en cuestión de horas ou días.

Potencialidade de vixilancia

A través do recoñecemento biométrico, o algoritmo de aprendizaxe profundo e a análise de datos grandes, a precisión e eficiencia do traballo de intelixencia son melloradas e o traballo de monitorización tradicional convértese nunha loita de visión avanzada e defensiva.

A tecnoloxía permite ás axencias de seguridade crear redes completas de cámaras de vixilancia que funcionen como un sistema integrado en lugar de puntos de observación illados.Cando unha persoa de interese é detectada nun só lugar, o sistema pode rastrexar os seus movementos a través da rede, proporcionando ao persoal de seguridade información en tempo real sobre as súas actividades e asociacións.

Ademais, os sistemas de recoñecemento facial poden funcionar de forma continua sen limitacións de atención e fatiga humana.Mentres que os operadores humanos poden perder detalles críticos durante longos desprazamentos ou períodos de baixa actividade, os sistemas automatizados manteñen unha vixilancia constante, asegurando que ningunha ameaza potencial pasa desapercibido.

Efecto deterrence

A presenza de sistemas de recoñecemento facial pode servir como un poderoso disuasorio para as actividades terroristas.Cando potenciais atacantes saben que as súas caras serán capturadas e analizadas por sistemas biométricos sofisticados, enfróntanse a riscos significativamente maiores de identificación e aprehensión.

O efecto de disuasión esténdese máis aló da ameaza inmediata de identificación.Os sistemas de recoñecemento facial crean un rexistro dixital permanente que pode ser analizado moito despois de que se produza un incidente.Isto significa que aínda que os terroristas logran evadir a detección inmediata, deixan evidencias que poden ser usadas para identificalos máis tarde, rastrexar os seus movementos e descubrir as súas redes.

Optimización de recursos

A tecnoloxía de recoñecemento facial permite ás axencias de seguridade optimizar os seus recursos limitados automatizando tarefas de identificación rutineira e centrando a experiencia humana onde é máis necesario.En vez de asignar ao persoal para supervisar manualmente os feeds de vixilancia ou comprobar os documentos nos pasos fronteirizos, as axencias poden implementar sistemas de recoñecemento facial para xestionar estas tarefas mentres que os operadores humanos se centran en investigar alertas, realizar entrevistas e tomar decisións críticas.

Esta optimización é especialmente importante tendo en conta a escala dos retos de seguridade modernos.Con millóns de viaxeiros pasando a través de aeroportos diarios e incontables horas de metraxe de vixilancia xerada en áreas urbanas, sería imposible revisar manualmente toda esta información.

Retos críticos e limitacións técnicas

Precisión e falsos positivos

A pesar dos avances significativos na tecnoloxía de recoñecemento facial, a precisión segue sendo unha preocupación fundamental, especialmente nas aplicacións antiterroristas onde as consecuencias dos erros poden ser graves.O método de recoñecemento facial foi identificado con imperfeccións e debilidades tecnolóxicas, pero pode ser usado operacionalmente para minimizar as súas debilidades.

Aínda que os seres humanos xeralmente poden realizar procesos de recoñecemento facial de forma bastante boa, estas actividades aínda son moi difíciles para os sistemas tecnolóxicos, xa que a menos que a fotografía sexa capturada en condicións moi controladas, o sistema pode ter dificultade para identificar ao individuo ou mesmo detectar o seu rostro na fotografía, e o sistema funciona mellor cando factores ambientais como o ángulo de cámara, a iluminación, a expresión facial e outros, son controlados na máxima medida posible.

Os falsos positivos, sempre que o sistema identifica incorrectamente a alguén como persoa de interese, poñen en risco determinados desafíos en contextos de loita contra o terrorismo. Aqueles para os que a tecnoloxía non funciona ben, non serán capaces de ser verificados por FRTs, causando sospeitas e máis vixilancia intrusiva, e ademais, serán identificados con máis frecuencia, o que pode facer que se lles sospeite como un terrorista ou outro criminal serio.

O NIST realizou recentemente unha proba a grande escala centrada na identificación de nesgo no FRT, cunha énfase particular na falsa taxa positiva, é dicir, a frecuencia coa que un algoritmo identifica mal a imaxe dunha persoa, e os resultados mostraron que "a través da demografía, as taxas falsas positivas a miúdo varían por factores de 10 a máis de 100 veces", dependendo de cales son os algoritmos que se usan. Estas variacións nas taxas de erro en diferentes sistemas salientan a importancia das probas e validacións rigorosas antes de implantar a tecnoloxía de recoñecemento en aplicacións de seguridade facial de alto nivel.

Bias demográficos e equidade algorítmica

Un dos retos máis serios que enfronta a tecnoloxía de recoñecemento facial é o nesgo demográfico, a tendencia dos sistemas a realizar con menos precisión en certos grupos demográficos. Tres programas de análise facial liberados comercialmente de grandes compañías tecnolóxicas demostran tanto os prexuízos de tipo de pel como de xénero, e nos experimentos dos investigadores, as taxas de erro dos tres programas na determinación do xénero dos homes pelados pola luz nunca foron peores do 0,8%, pero para as mulleres peladas máis escuras, con todo, as taxas de erro a máis do 20% nun caso e máis do 34% no outro dous.

A taxa de erro para homes con pel clara é 0,8%, comparado co 34,7% para mulleres con pel escura, segundo un estudo 2018 titulado "Gender Shades" por Joy Buolamwini e Timnit Gebru, publicado polo MIT Media Lab.

O ton da pel afecta significativamente á precisión da verificación, con tons de pel máis claros que superan constantemente os tons medio escuro. Investigacións tamén atoparon que os suxeitos masculinos xeralmente alcanzaron unha maior precisión de recoñecemento que as mulleres, atribuídos a factores como a oclusión causada por pelos máis longos e alteracións na aparencia facial debido á maquillaxe.

En agosto de 2023, unha muller negra demandou ao Departamento de Policía de Detroit despois de ser arrestada por axentes policiais usando software de recoñecemento facial mal calibrado, e este problema é prevalente no software de recoñecemento facial, que tende a xerar unha maior taxa de falsos positivos para persoas non brancas.

O estudo NIST tamén atopou resultados nesgados cando se chegou ao leste de Asia, Nativo Americano, Indio Americano, Indio Alascano e Insular do Pacífico. A xeralización destes prexuízos en varios grupos demográficos suxire que o problema é sistémico en vez de illado a poboacións ou algoritmos específicos.

Causas de Bias

A tecnoloxía de recoñecemento facial fixo grandes avances en precisión grazas aos modelos avanzados de intelixencia artificial (AI) formados en conxuntos masivos de imaxes de cara, pero estes conxuntos de datos a miúdo carecen de diversidade en termos de raza, etnia, xénero e outras categorías demográficas, causando que os sistemas de recoñecemento facial se empeoren en grupos demográficos pouco representados en comparación cos grupos ubicuas nos datos de adestramento.

O problema do sesgo provén de múltiples fontes.Os conxuntos de datos históricos utilizados para adestrar algoritmos de recoñecemento facial teñen predominantemente caras de homes brancos, que reflicten a demografía dos investigadores e institucións que os crearon.Cando os algoritmos aprenden a recoñecer caras principalmente deste conxunto de datos limitado, eles naturalmente realizar mellor en caras similares e loitar con caras que difiren significativamente dos seus datos de adestramento.

Moitos atribúen a maioría destes problemas a conxuntos de datos non balanceados. Con todo, o problema esténdese máis aló da representación simple. Mesmo cando os conxuntos de datos inclúen caras diversas, outros factores como as condicións de iluminación, calidade da cámara e resolución de imaxe poden afectar desproporcionadamente a calidade das imaxes para persoas con tons de pel máis escuros, agravando aínda máis os problemas de precisión.

← Mitigate Bias

En 2018, Microsoft anunciou que a súa FRT dispoñible comercialmente sufrira actualizacións para mellorar o rendemento en categorías de raza e xénero, expandindo os conxuntos de datos utilizados para adestrar os algoritmos de aprendizaxe de máquina e mellorando o clasificador de cara para maior precisión, e estas melloras deron como resultado, segundo a compañía, 20 veces menores taxas de erro para tons de pel máis escuros e 9 veces menores taxas de erro para as mulleres.

Os investigadores pre-adestraron tres modelos de recoñecemento facial - ArcFace, AdaFace e ElasticFace- nun conxunto de datos sintéticos amplo e equilibrado que xeraron, e o resultado non só aumentou a precisión global en comparación cos modelos adestrados en conxuntos de datos desaxustados existentes, pero tamén reduciu significativamente o nesgo demográfico, cos modelos adestrados que mostran unha precisión máis equitativa en todos os grupos raciais en comparación cos modelos existentes que mostran un rendemento pobre en minorías menos representadas.

No conxunto de datos FairFace, a precisión mellorou do 92.58% ao 96,47%, mentres que o Grao de Bias (DoB) reduciuse do 3,86 ao 1.16, o que representa unha redución de aproximadamente o 70%, e notablemente, consideráronse ganancias significativas para grupos menos representados, como unha mellora na precisión das mulleres negras do 80,2% ao 90,86%, mantendo un forte rendemento para grupos xa ben representados.

A rede adversaria debiasing (DebFace), usa un codificador de imaxe a imaxe, catro clasificadores de atributos, un clasificador de distribución e unha rede de agregación de características, e os catro clasificadores -xénero, idade, raza e identidade- converten os posibles prexuízos en características informadas, mellorando así o rendemento en grupos subrepresentados. Estas innovacións arquitectónicas demostran que a mitigación do nesgo é técnicamente factible, aínda que o traballo significativo permanece para implementar estas solucións en todos os sistemas implantados.

Preocupacións de privacidade e liberdades civís

Vixilancia masiva e dereitos de privacidade

A maioría de todo o poderoso ten un lado escuro, e a FRT non é unha excepción, xa que expón serios problemas e preocupacións sobre a privacidade, ética e impacto social global.O despregamento da tecnoloxía de recoñecemento facial con fins de loita contra o terrorismo provocou un intenso debate sobre o equilibrio entre seguridade e privacidade, e os críticos argumentan que a vixilancia xeneralizada ameaza as liberdades civís fundamentais.

Os desafíos legais, éticos e de privacidade en torno á vixilancia masiva inclúen preocupacións sobre a identificación errónea, fraude e nesgo na base de datos.A capacidade de rastrexar os movementos dos individuos a través dos espazos públicos sen o seu coñecemento ou consentimento suscita profundas cuestións sobre a natureza da privacidade na sociedade moderna e os límites apropiados dos poderes de vixilancia gobernamental.

Os críticos apuntan a riscos significativos de privacidade e posibles infraccións das liberdades civís, suscitando preocupacións sobre a recollida de datos non autorizados, a falta de consentimento e o potencial de funcionamento, a través do cal os datos recollidos para un propósito non relacionado son utilizados para un propósito non relacionado sen o coñecemento ou consentimento do individuo.O medo é que os sistemas inicialmente implantados para o terrorismo poderían gradualmente ampliarse para supervisar os cidadáns comúns implicados en actividades legais, creando un estado de vixilancia que frea a liberdade de expresión e asociación.

As razóns que se propoñen para tal prohibición son que as FRTs sofren de prexuízos xeneralizados que resultan nos beneficios e danos que se distribúen de forma desigual entre grupos, o Estado utilizará inevitablemente estas tecnoloxías para fins ilexítimos, e que a existencia de FRTs arrefría o noso comportamento (é dicir, fai que a xente se censurase por medo á vixilancia).

Respostas normativas e prohibicións

En 2019, San Francisco converteuse na primeira cidade estadounidense en prohibir a tecnoloxía de recoñecemento facial (FRT), vetar especificamente o seu uso pola policía e outras axencias, e desde entón, varias cidades estadounidenses puxeron en práctica as súas propias prohibicións de FRT similares, con conselleiros da cidade de Boston destacando explicitamente un tema particular: o nesgo da tecnoloxía.

Máis dunha ducia de grandes cidades prohibiron a tecnoloxía, incluíndo Minneapolis, Boston e San Francisco.

A Unión Europea adoptou un enfoque máis exhaustivo, co uso de tecnoloxías de recoñecemento facial no contexto de protestas pacíficas que aumentan o risco de prácticas de vixilancia masiva e as implicacións para a protección dos dereitos humanos.Os reguladores europeos propuxeron limitacións estritas sobre o uso do recoñecemento facial nos espazos públicos, e algúns avogan por prohibicións completas, agás en circunstancias estritamente definidas que impliquen graves delitos ou ameazas inminentes.

Balanzar a seguridade e a liberdade

É fundamental que se o Estado pode usar esta tecnoloxía para aumentar o seu poder para combater o terrorismo, esta potencia está constrinxido de tal forma que os abusos e o comportamento frío non se producen, e o Estado debe crear restricións institucionais que só permiten que as FRTs sexan utilizadas en lugares onde a xente non (e non debe) gozar dunha expectativa razoable de privacidade (por exemplo, aeroportos, cruces de fronteiras).

As cámaras equipadas con FRT deben estar marcadas para asegurar ao público que non están sendo atendidas en lugares que deberían ter unha expectativa razoable de privacidade, e as FRTs deben restrinxirse a atopar criminais graves (por exemplo, terroristas).

FRT representa unha poderosa ferramenta no arsenal contra o terrorismo, que permite medidas de seguridade que antes eran inalcanzables, pero esta é unha tecnoloxía que esixe un equilibrio moi juicioso entre os seus beneficios claros e as consideracións éticas importantes coas que está asociado, e na actualidade, pode ser o caso de que o equilibrio estea demasiado lonxe en favor dos beneficios claros da FRT e non suficiente en favor da equidade, privacidade e integridade ética que debe orientar o seu despregamento.

Consideracións constitucionais e de dereitos humanos

Os programas de FRT usados pola policía para identificar sospeitosos de delito son substancialmente máis propensos a erros nas imaxes faciais que representan tons e femias máis escuros da pel en comparación coas imaxes faciais que representan machos caucásicos, e este nesgo pode levar a que os cidadáns sexan inxustamente investigados pola policía ao longo das liñas raciais e de xénero, co uso da FRT nesgada é inconsistente coa esixencia liberal clásica de que o goberno trata a todos os cidadáns por igual que a lei.

A cláusula de igualdade de protección de moitas constitucións require que as accións gobernamentais non discriminen en función de raza, xénero ou outras características protexidas. Cando os sistemas de recoñecemento facial demostran un nesgo sistemático contra certos grupos demográficos, o seu uso por parte das axencias gobernamentais pode violar estas proteccións constitucionais.

Os científicos de computadoras expresaron a súa preocupación polo uso da FRT para identificar sospeitosos de delitos, sinalando que é moi probable que este software se utilice para identificar sospeitosos, e así, un erro na saída dun algoritmo de recoñecemento facial usado como entrada para outras tarefas pode ter consecuencias graves, xa que alguén podería ser inxustamente acusado dun delito baseado na identificación errónea pero segura do autor da análise de imaxes de seguridade.

Transparencia e responsabilidade

A Comisión recomenda unha regulación forte, cooperación internacional e gobernanza transparente para garantir que o uso da tecnoloxía de recoñecemento facial sexa compatible cos dereitos humanos e as liberdades fundamentais.

Establecer leis que sexan claras e exhaustivas relacionadas co uso da tecnoloxía de recoñecemento facial, aliñar estándares globais con marcos nacionais para garantir a consistencia, e ordenar auditorías regulares dos sistemas FRT para garantir o cumprimento das directrices éticas. auditar regular pode axudar a identificar problemas con precisión ou nesgo antes de que leven a serios danos, mentres que marcos legais claros proporcionan orientación ás axencias de seguridade sobre os usos apropiados da tecnoloxía.

Os riscos non deben levar a moratorias sobre o uso da IA ou a prohibición de determinadas plataformas, senón que deben ser chamados a medidas para que os gobernos esixan un mellor deseño para as súas ferramentas de IA / ML, o que significa adquirir mellores datos e crear réximes de proba extenuantes que limiten o risco e expoñan as deficiencias na medida do posible, e unha forma de axudar a isto é mediante a aplicación de normas de IA explicables e políticas de transparencia que dan aos gobernos unha visión racional para cada acción que un sistema toma.

Protección de datos e retención

O Estado non debe utilizar empresas de terceiros que violen as tres primeiras condicións durante a creación ou utilización do seu servizo, e as empresas de terceiros non deben poder acceder ou ler os datos sensibles recollidos polo Estado.

Canto tempo deben almacenarse os datos de recoñecemento facial?En que circunstancias poden ser compartidos con outras axencias ou países?Estas preguntas carecen de respostas claras en moitas xurisdicións, creando incerteza sobre as implicacións a longo prazo do despregamento de recoñecemento facial.

Unha base de datos que contén datos de recoñecemento facial para millóns de persoas sería un obxectivo atractivo para hackers, servizos de intelixencia estranxeira ou organizacións criminais.

Perspectivas e Despegue Internacional

Adopción global

O recoñecemento facial actualmente é a tecnoloxía de vixilancia de intelixencia artificial máis amplamente adoptada do mundo, cunha taxa de adopción do 64%, superando tanto as plataformas de cidades intelixentes como as iniciativas de policía intelixente.

Os países enfróntanse a diferentes ameazas de seguridade e teñen diferentes actitudes culturais cara á privacidade e a vixilancia, o que leva a variacións significativas no modo en que se implanta o recoñecemento facial. Algúns países abrazaron a tecnoloxía con entusiasmo, despregándoa extensamente en espazos públicos con mínimas restricións.

Furl et al. (2002) encontraron que o FRT desenvolvido e usado nos países occidentais era máis preciso para as imaxes faciais caucásicas, mentres que nos países do leste de Asia, os algoritmos FRT eran máis precisos para as imaxes faciais de Asia Oriental.

Cooperación e estándares internacionais

A tecnoloxía de recoñecemento facial pode facilitar esta cooperación, permitindo aos países compartir información sobre terroristas coñecidos ou sospeitosos e coordinar os seus esforzos de vixilancia.

Diferentes países teñen diferentes estándares legais para a protección da privacidade, retención de datos e proceso debido.Cando os datos de recoñecemento facial son compartidos a través das fronteiras, pode estar suxeito a proteccións menos rigorosas no país receptor que no país onde foi recollido.

Organizacións internacionais como Interpol desenvolveron sistemas para facilitar o uso transfronteirizo do recoñecemento facial contra o terrorismo.Estes sistemas deben navegar por complexos terreos legais e políticos, equilibrando os beneficios de seguridade da información sobre a privacidade, os dereitos humanos e a soberanía nacional.O desenvolvemento de normas e acordos internacionais para o uso responsable do recoñecemento facial no terrorismo segue sendo un desafío en curso.

Percepción e confianza pública

Factores que influen na aceptación pública

Os defensores do FRT destacan o seu potencial en seguridade pública, prevención de delitos e antiterrorismo, sinalando que o FRT permite ás axencias e organizacións policiais identificar sospeitosos e evitar o acceso non autorizado a zonas protexidas e espazos onde activos valiosos ou poboacións vulnerables están presentes.O apoio público para o recoñecemento facial a miúdo depende do contexto específico no que se usa, con maior aceptación para aplicacións de seguridade en ambientes de alto risco como os aeroportos.

A confianza nas institucións que implementan o recoñecemento facial é un factor crítico na aceptación pública.Cando a xente confía en que as axencias de seguridade usarán a tecnoloxía de forma responsable e coa adecuada supervisión, é máis probable que acepten o seu despregamento de forma inversa, cando a confianza é baixa, debido a abusos pasados, falta de transparencia ou preocupacións sobre o nesgo, a oposición pública tende a ser máis forte.

A adopción exitosa e xeneralizada de FRT non só depende da súa velocidade e precisión, pero tamén da confianza do público sobre os algoritmos que potencian os dispositivos de recoñecemento facial, e esa confianza será difícil de construír mentres exemplos de sesgo racial e falsos resultados positivos continúan eclipsando as melloras ano a ano na precisión e funcionalidade do software.

Construíndo confianza pública

Fomentar o compromiso público para abordar as preocupacións e construír a confianza.O compromiso público significativo require máis que simplemente informar ás persoas sobre o despregamento de recoñecemento facial, isto significa crear oportunidades para un diálogo xenuíno sobre os beneficios, riscos e límites apropiados da tecnoloxía.

As axencias de seguridade deben informar publicamente sobre as taxas de precisión, incluíndo as avarías por grupo demográfico, as falsas taxas positivas e información sobre como se usa e supervisa a tecnoloxía.

Cando os sistemas de recoñecemento facial levan a detencións erróneas ou outros danos, as axencias deben recoñecer estes fallos, compensar ás vítimas e tomar medidas concretas para previr a recorrencia.

Desenvolvementos futuros e tecnoloxías emerxentes

Avances en precisión e capacidade

Nos últimos anos, con arquitecturas avanzadas e aumento no número de capas e parámetros, os modelos FR gañaron unha mellora substancial na súa capacidade para aprender representacións faciais complexas, e estas arquitecturas máis profundas, a miúdo abarcando máis dun centenar de capas con millóns de parámetros, melloraron significativamente a capacidade dos sistemas FR de xeneralizar en escenarios desafiantes, resultando nun maior recoñecemento xeral (e tamén un menor nesgo), e ademais, a dispoñibilidade de conxuntos de datos máis grandes e diversos contribuíu a conseguir mellores resultados de aprendizaxe, xa que estes conxuntos de datos, que incorporan variacións demográficas e covariais significativas facilitan a precisión, a mellora da exactitude e a mellora da exactitude (episumación).

Os futuros sistemas de recoñecemento facial probablemente incorporarán múltiples modalidades biométricas, combinando o recoñecemento facial con escaneo do iris, análise de gait, recoñecemento de voz e outras técnicas. Este enfoque multimodal pode mellorar a precisión mediante a transferencia de múltiples sinaturas biométricas, reducindo o impacto dos erros en calquera sistema.

Os avances na intelixencia artificial, especialmente nas redes neuronais e de aprendizaxe profunda, continúan a empurrar os límites do que poden alcanzar os sistemas de recoñecemento facial.Estes sistemas están a ser mellores para recoñecer caras en condicións difíciles, como a iluminación deficiente, oclusión parcial ou ángulos extremos.

Integración con outros sistemas de intelixencia

O futuro do recoñecemento facial en contraterrorismo non se basea só na mellora da tecnoloxía en si, senón na integración con outros sistemas de intelixencia e seguridade. Cando o recoñecemento facial se combina coa análise de comportamento, o mapa de redes sociais, o seguimento das comunicacións e outras fontes de intelixencia, convértese en parte dun sistema de detección de ameazas que é maior que a suma das súas partes.

Por exemplo, o recoñecemento facial podería identificar a unha persoa de interese nun aeroporto, provocando un escrutinio adicional dos seus patróns de viaxe, transaccións financeiras, comunicacións e asociados coñecidos.

Un sistema que combina recoñecemento facial con datos extensos doutras fontes crea capacidades de vixilancia sen precedentes que poderían ser utilizadas para supervisar virtualmente todos os aspectos da vida das persoas. asegurándose de que estes sistemas tan potentes só se utilicen para fins lexítimos de seguridade e coa adecuada supervisión será un desafío crítico para os responsables políticos.

Contramedidas e carreira armamentística

A medida que a tecnoloxía de recoñecemento facial se fai máis frecuente en contraterrorismo, os adversarios están a desenvolver contramedidas para evadir a detección. Estas técnicas simples como usar máscaras ou lentes de sol a enfoques máis sofisticados como patróns de maquillaxe adversario deseñados para confundir algoritmos de recoñecemento facial ou o uso de tecnoloxía de profundospregue para crear identidades falsas.

Isto crea unha carreira armamentística tecnolóxica en curso, con axencias de seguridade traballando para mellorar os sistemas de recoñecemento facial mentres que terroristas e outros adversarios desenvolven novas formas de derrotalos.

Algúns investigadores están a explorar formas de facer os sistemas de recoñecemento facial máis robustos contra contra as contramedidas, como o uso de imaxes infravermellas para detectar caras incluso cando están parcialmente cubertas, ou analizando a linguaxe gait e corporal ademais de características faciais. Outros están desenvolvendo sistemas de detección de liveness que poden distinguir entre rostros reais e fotografías, máscaras ou visualizacións de vídeo, impedindo ataques de espionaxe.

Boas prácticas e recomendacións

Normas técnicas e probas

Os ensaios de recoñecemento facial en curso do NIST (FRVTs) avaliaron máis de 400 algoritmos de recoñecemento facial desde 2017, dando información sobre as cualificacións globais de precisión de todos os desenvolvedores participantes. probas independentes e rigorosas de sistemas de recoñecemento facial antes de ser implantado é esencial para garantir que cumpran os estándares mínimos de precisión e equidade.

As probas deben incluír avaliación en diversos grupos demográficos para identificar e cuantificar calquera nesgo no rendemento do sistema. Sistemas que demostran niveis inaceptábeis de nesgo non deben ser implantados ata que estes problemas sexan corrixidos.

O rendemento do sistema pode degradarse co tempo como algoritmos de idade ou como a poboación está a ser monitorizada.As auditorías regulares poden identificar problemas emerxentes e asegurar que os sistemas sigan cumprindo os estándares de rendemento ao longo da súa vida operativa.

Directrices operativas

As axencias de seguridade que implantan o recoñecemento facial para o antiterrorismo deben establecer directrices operativas claras que especifican cando e como se pode usar a tecnoloxía. Estas directrices deben abordar cuestións como: Que nivel de confianza dos partidos é necesario antes de tomar medidas?Que verificación adicional é necesaria antes de de deducir a alguén baseado nun encontro de recoñecemento facial?Como debe ser usado o sistema en conxunto co xuízo humano?

Nin os humanos nin os algoritmos son infalíbeis, e as debilidades similares do xuízo humano poden afectar ao uso de tecnoloxías de recoñecemento facial, xa que os individuos poden confiar na saída dun algoritmo, pensando que debe ser "obxectivo", máis que o seu propio xuízo sobre se dúas imaxes corresponden, a pesar dos prexuízos subxacentes ou imprecisións na tecnoloxía.

Os operadores deben ser adestrados para comprender as limitacións do sistema, incluíndo o seu potencial de nesgo e falsos positivos. deben ser alentados a exercer xuízo independente e non depender só de saídas algorítmicas, especialmente cando as consecuencias dos erros son graves. protocolos claros deben especificar que investigación ou verificación adicional é necesaria antes de tomar medidas baseadas nun encontro de recoñecemento facial.

Mecanismos de supervisión e responsabilidade

Os mecanismos de control robustos son esenciais para asegurar que a tecnoloxía de recoñecemento facial se utilice adecuadamente e que se identifiquen e corrixan os abusos. Esta supervisión debe incluír tanto mecanismos internos dentro das axencias de seguridade como a supervisión externa de organismos independentes como comisarios de privacidade, comités lexislativos ou revisión xudicial.

As axencias deben manter rexistros detallados de como se utilizan os sistemas de recoñecemento facial, incluíndo o que se realizan as buscas, quen as realiza e que as accións resultan.Estes rexistros deben estar suxeitos a auditorías regulares para asegurar o cumprimento das políticas e identificar calquera patrón de uso indebido.

Os organismos de control externos deben ter a autoridade e os recursos para realizar unha revisión significativa dos programas de recoñecemento facial. Isto inclúe o acceso á información técnica sobre como funcionan os sistemas, os datos de rendemento e os rexistros operativos.

Estudos de casos e aplicacións do mundo real

Aeronaves e seguridade fronteiriza

Os aeroportos e os cruces fronteirizos foron os primeiros e máis extensos adoptantes da tecnoloxía de recoñecemento facial para fins antiterroristas.Estes ambientes controlados ofrecen varias vantaxes para o despregue de recoñecemento facial: os viaxeiros deben pasar a través de puntos de control designados, ángulos de iluminación e cámara poden ser optimizados, e hai unha clara xustificación de seguridade para a verificación de identidade.

Moitos países puxeron en práctica o recoñecemento facial nos puntos de control de inmigración para comprobar que os viaxeiros corresponden ás súas fotos de pasaporte e para comprobar-los contra lista de vixilancia de terroristas coñecidos ou sospeitosos.

A tecnoloxía tamén foi despregada para facilitar o procesamento de viaxeiros de confianza a través de programas que permiten que os individuos pre-screenados usen portas automatizadas que verifican a súa identidade a través do recoñecemento facial. Este dobre uso, tanto de seguridade como de comodidade, contribuíu á aceptación pública da tecnoloxía nos contextos aeroportuarios.

Rede de Vixilancia Urbana

Algunhas cidades despregaron amplas redes de cámaras equipadas con capacidades de recoñecemento facial para controlar os espazos públicos de protección para ameazas de seguridade.

Con todo, as redes de vixilancia urbana tamén xeraron unha controversia significativa debido ao seu potencial de vixilancia masiva de cidadáns comúns.Os críticos argumentan que estes sistemas crean un efecto arrepiante sobre a liberdade de expresión e asociación, xa que a xente pode evitar certas localizacións ou actividades se saben que están sendo rastrexados.

Algunhas xurisdicións intentaron abordar estas preocupacións limitando o uso do recoñecemento facial nos espazos públicos a circunstancias específicas, como investigar crimes graves ou responder a ameazas inminentes. Outros esixiron que as cámaras estean claramente marcadas e que o público sexa informado sobre onde se despregue o recoñecemento facial.

Seguridade e seguimento de multitudes

Os principais eventos públicos, como convencións políticas, cumes internacionais ou grandes eventos deportivos, representan obxectivos atractivos para os terroristas e requiren medidas de seguridade intensiva.

Estas implantacións temporais ofrecen algunhas vantaxes sobre redes de vixilancia permanentes.Estas instalacións están limitadas en tempo e alcance, centradas en eventos específicos de alto risco en lugar de monitorización continua de espazos públicos.

Con todo, as aplicacións de seguridade dos eventos tamén suscitan preocupacións, especialmente cando o recoñecemento facial é usado para supervisar protestas políticas ou manifestacións.A tecnoloxía pode ser utilizada para identificar e rastrexar activistas políticos, potencialmente para arrefriar a expresión política lexítima.

O camiño a seguir: a loita contra a seguridade e os dereitos

Desenvolvemento de marcos de uso responsables

O futuro do recoñecemento facial na loita contra o terrorismo depende do desenvolvemento de marcos que permitan que a tecnoloxía sexa utilizada con efectividade para fins lexítimos de seguridade, á vez que se protexe as liberdades civís e se asegura a xustiza.

Estes cadros deben basearse en principios claros: o recoñecemento facial debe ser usado só cando sexa necesario e proporcional á ameaza de seguridade; debe ser implantado con garantías adecuadas contra o abuso; debe ser sometido a unha supervisión e responsabilidade significativa; e debe ser continuamente avaliado e mellorado para tratar problemas con precisión e nesgo.

O uso do recoñecemento facial nos pasos fronteirizos, onde hai unha clara xustificación de seguridade e unha limitada expectativa de privacidade, pode ser máis aceptable que o seu uso para a vixilancia continua dos espazos públicos.

Investir en investigación e desenvolvemento

O investimento continuado na investigación para mellorar a tecnoloxía de recoñecemento facial é esencial.Isto inclúe non só mellorar a precisión e velocidade, senón abordar especificamente os problemas co nesgo e a equidade. estudos a escala ampla e estandarizados como a axuda do NIST para descubrir defectos comúns na FRT, e como científicos e empregados, os enxeñeiros que desenvolven FRT están encargados de mellorar os resultados do software no recoñecemento de imaxes con tons máis escuros da pel, así como reducir a brecha de xénero en falsas taxas positivas, e cando os conxuntos de datos e resultados son expostos a rigorosas, análise de minutos, os científicos teñen a capacidade de abordar o algoritmo para así mellorar o problema do futuro.

A investigación tamén debe explorar enfoques alternativos que poden ofrecer mellores proteccións de privacidade mentres manteñen os beneficios de seguridade. Por exemplo, sistemas que analizan patróns de comportamento ou detectan anomalías sen identificar individuos específicos poden proporcionar información de seguridade útil con menos intrusións de privacidade que recoñecemento facial tradicional.

A investigación interdisciplinar que reúne a científicos informáticos, científicos sociais, eticistas e académicos legais pode axudar a identificar e abordar os complexos retos que expón a tecnoloxía de recoñecemento facial.

Cooperación e estándares internacionais

Dada a natureza transnacional do terrorismo, é importante a cooperación internacional en materia de estándares e prácticas de recoñecemento facial, e os países deben traballar xuntos para desenvolver estándares comúns de precisión, equidade e protección da privacidade, respectando as diferentes tradicións legais e os valores culturais.

Os acordos internacionais poden establecer estándares mínimos para os sistemas de recoñecemento facial utilizados en loita contra o terrorismo, asegurando que os datos compartidos a través das fronteiras cumpran cos requisitos básicos de exactitude e fiabilidade.

Con todo, a cooperación internacional debe ser equilibrada contra as preocupacións sobre a posibilidade de que os réximes autoritarios utilicen o recoñecemento facial para a represión política.Os países democráticos deben ser cautelosos en compartir a tecnoloxía de recoñecemento facial ou os datos con gobernos que carecen de fortes proteccións e regras de dereito.

Obxectivo: Navegar pola complexa paisaxe

A tecnoloxía de recoñecemento facial representa unha ferramenta poderosa na loita contra o terrorismo, ofrecendo capacidades para a identificación, vixilancia e investigación que non eran imaxinables hai só unhas décadas.

Con todo, a tecnoloxía tamén expón desafíos significativos relacionados coa precisión, o sesgo, a privacidade e as liberdades civís. Este problema é prevalente no software de recoñecemento facial, que tende a xerar unha maior taxa de falsos positivos para persoas non brancas, e a diferenza do software de recoñecemento facial usado para arrestar a alguén, un algoritmo de CT mal adestrado pode matar civís, unha acción que non pode ser desmentida.

O camiño a seguir require equilibrar estas consideracións competitivas mediante un desenvolvemento coidadoso de políticas, unha supervisión robusta, unha mellora técnica continuada e un diálogo público en curso.Non se recomenda ningunha utilización do recoñecemento facial para fins de seguridade nin un despregue sen restricións representa un enfoque responsable. En vez diso, marcos específicos de contexto que permiten usos beneficiosos mentres que a prevención do abuso ofrece a mellor esperanza para realizar os beneficios de seguridade do recoñecemento facial á vez que protexe os dereitos fundamentais.

A medida que a tecnoloxía segue evolucionando e facéndose máis capaz, a necesidade dun goberno reflexivo faise máis urxente.As decisións adoptadas hoxe sobre como se desenvolve, despregue e regula o recoñecemento facial darán forma ao equilibrio entre seguridade e liberdade durante anos.Asegurando que estas decisións sexan informadas por probas, guiadas por principios éticos, e suxeitas á responsabilidade democrática, é esencial para manter a seguridade e a liberdade nun ambiente cada vez máis complexo.

Para obter máis información sobre tecnoloxías de seguridade biométrica, visite o National Institute of Standards and Technology's Face Vendor Test Program Para coñecer as consideracións de privacidade na tecnoloxía de vixilancia, explorar recursos da Fundación Fronte eléctrica Para perspectivas internacionais sobre regulación de recoñecemento facial, consulte o traballo do Parlamento Europeo sobre a regulación AI .