Table of Contents

Entendendo a tecnologia de reconhecimento facial e seu papel na segurança moderna

A tecnologia de reconhecimento facial surgiu como uma das ferramentas mais transformadoras na luta global contra o terrorismo, esta poderosa tecnologia permite a identificação rápida e precisa de indivíduos e aids na prevenção de atividades terroristas e tornar os espaços públicos mais seguros, à medida que as ameaças de segurança continuam evoluindo em complexidade e escala, governos e agências policiais em todo o mundo estão cada vez mais voltados para sistemas biométricos avançados para proteger seus cidadãos e infraestrutura.

De acordo com a pesquisa Markets and Markets, o mercado de reconhecimento facial está pronto para atingir US$ 8,5 bilhões em 2025, mais do que dobrando de US$ 3,8 bilhões em 2020, esse crescimento explosivo reflete não só a expansão tecnológica, mas também sua importância crítica nos marcos de segurança nacional, desde aeroportos e fronteiras até redes de vigilância urbana e processos investigativos, o reconhecimento facial tornou-se um componente indispensável das modernas estratégias de contraterrorismo.

A tecnologia digitaliza as características faciais humanas em representações matemáticas que os computadores podem processar e comparar, analisando as principais características faciais, como a distância entre os olhos da pessoa, largura da ponte do nariz, contornos da mandíbula e estrutura da maçã do rosto, e então cria modelos biométricos únicos para verificar identidades em bancos de dados contendo milhões de rostos, essa capacidade de processar e combinar rostos em velocidade e escala sem precedentes mudou fundamentalmente como as agências de segurança abordam a detecção e prevenção de ameaças.

A Evolução da Tecnologia de Reconhecimento Facial

Desde o início até os sistemas de energia artificial.

A tecnologia remonta aos anos 60 quando um cara chamado Woodrow Wilson Bledsoe surgiu com um sistema para classificar fotos de rostos usando um tablet especial, esses sistemas iniciais eram rudimentares pelos padrões atuais, exigindo entrada manual e operando sob condições altamente controladas, nos anos 70, algumas pessoas inteligentes usaram 21 marcadores específicos, como cor do cabelo e espessura dos lábios, para automatizar o reconhecimento facial, e os anos 80/90 viram uma nova abordagem chamada Eigenface, que se tornou uma base para sistemas modernos.

O verdadeiro jogador veio nos anos 2000 com as redes sociais, pois de repente havia milhões de fotos marcadas online, dando a esses sistemas um enorme banco de dados para aprender com essa abundância de dados de treinamento, combinados com avanços em algoritmos de aprendizado de máquina, permitindo que sistemas de reconhecimento facial alcançassem taxas de precisão que antes eram inimagináveis.

Como os sistemas modernos de reconhecimento facial funcionam

Os sistemas modernos de reconhecimento facial operam através de um processo multi-estágio que acontece em milissegundos, a primeira fase envolve detecção de faces, onde o sistema identifica e localiza uma face dentro de uma imagem ou imagem de vídeo, seguida de alinhamento facial, onde o sistema normaliza a posição, tamanho e orientação do rosto para garantir uma análise consistente, independentemente do ângulo ou distância da câmera.

Em seguida, vem a extração de características, onde o sistema identifica e mede características faciais distintas, estas medidas são convertidas em uma representação matemática chamada modelo facial ou assinatura biométrica, finalmente, o sistema realiza correspondência comparando este modelo com modelos armazenados em um banco de dados, gerando uma pontuação de similaridade que indica a probabilidade de uma correspondência.

Os sistemas modernos de reconhecimento facial capturam e analisam imagens de pessoas nas condições mais difíceis de visão e movimento, essa capacidade é crucial para aplicações de contraterrorismo, onde suspeitos podem ser capturados em imagens de vigilância sob condições menos ideais, incluindo iluminação ruim, oclusão parcial, ou em ângulos oblíquos.

Aplicações Estratégicas em Operações Contraterrorismo

Vigilância em tempo real e detecção de ameaças

A tecnologia de reconhecimento facial surgiu como uma ferramenta transformadora no contraterrorismo, oferecendo capacidades avançadas para identificar, monitorar e apreender indivíduos de interesse, com foco em três aplicações específicas: vigilância em tempo real, controle de fronteiras e processos investigativos, em espaços públicos lotados, centros de transporte, e durante grandes eventos, sistemas de reconhecimento facial podem continuamente escanear multidões e alertar instantaneamente o pessoal de segurança quando uma pessoa de interesse é detectada.

A IA permite o alerta automático e a verificação de identidade de grandes grupos de pessoas em uma escala e ritmo não possíveis antes.

A segurança reforçada fornece monitoramento contínuo em áreas de alto tráfego, identifica pessoas de interesse e localiza indivíduos desaparecidos com eficiência sem precedentes, a capacidade da tecnologia de operar continuamente sem fadiga torna isso um complemento inestimável para o pessoal de segurança humana, que pode então focar sua atenção em investigar alertas e responder a ameaças potenciais.

Segurança Fronteiriça e Controle de Imigração

Se uma pessoa (incluindo um terrorista) está vindo dos EUA do exterior, ele ou ela provavelmente passa por um ponto de controle de imigração no porto de entrada, e da perspectiva do contraterrorismo, este ponto de controle é um ponto de estrangulamento onde o suposto terrorista é mais vulnerável.

Os FRTs são enviados para verificar que uma pessoa que passa pelo controle de fronteira é de fato a pessoa que está representada em um documento de identificação (por exemplo, um passaporte), e a Interpol implantou seu sistema Projeto FIRST para ajudar as autoridades estaduais a identificar combatentes terroristas estrangeiros (FTFs), estes sistemas podem processar os viajantes rapidamente, enquanto simultaneamente verificam suas identidades contra listas de terroristas conhecidos ou suspeitos, aumentando significativamente a segurança sem criar grandes gargalos no fluxo de passageiros.

A biometria pode evitar roubo de identidade e fraude de imigração no uso de documentos de viagem, pois um modelo biométrico da impressão digital de alguém seria anexado ao documento, como passaporte ou visto, em um código de barras, chip ou tira magnética, o que dificultaria para alguém assumir a identidade de outro, quando combinado com reconhecimento facial, essa abordagem biométrica multicamadas cria uma defesa robusta contra terroristas que tentam entrar em países usando documentos fraudulentos ou identidades roubadas.

Aplicações Investigativas e Forenses

Sistemas biométricos podem identificar terroristas conhecidos ou suspeitos usando reconhecimento facial biométrico ou o método FaceCheck quando uma fotografia está disponível do suspeito terrorista, e isso é pesquisado contra uma lista de vigilância ou banco de dados de modelos de suspeitos de terroristas, essa capacidade tem se mostrado inestimável em investigações pós-incidentes, onde agências de segurança analisam imagens de vigilância para identificar criminosos e seus associados.

A eficiência da aplicação da lei acelera a identificação e resolução de casos por meio de correspondência automatizada com registros existentes, em vez de revisar manualmente horas de filmagem e comparar rostos por olho, os investigadores podem usar o reconhecimento facial para rapidamente pesquisar através de vastos arquivos de vídeo de vigilância, identificar suspeitos e rastrear seus movimentos em vários locais e períodos de tempo.

O Comando de Operações Especiais dos EUA (USSOCOM) está preparando o terreno para uma expansão significativa de suas capacidades de inteligência e exploração de identidade, delineando uma visão ampla e tecnicamente ambiciosa de como as Forças de Operações Especiais coletam, analisam e exploram dados relacionados a identidade durante missões, buscando informações sobre cinco áreas de tecnologia primária: reconhecimento facial, identificação de falantes e correspondência de voz, um ecossistema de aplicações de exploração de site SOF totalmente integrado, análise rápida de DNA, e análise de DNA e análise de aprendizado de máquina.

Vantagens Operacionais na Prevenção do Terrorismo

Velocidade e Escala de Identificação

Uma das vantagens mais significativas da tecnologia de reconhecimento facial no contraterrorismo é sua capacidade de processar e analisar rostos em velocidades muito superiores às capacidades humanas.

Os métodos tradicionais de identificação dos suspeitos dependiam fortemente da memória humana e da comparação manual de fotografias, processos que consumiam tempo e eram propensos a erros, um oficial de segurança monitorando um aeroporto lotado só podia observar ativamente um número limitado de pessoas ao mesmo tempo, e até mesmo o pessoal mais experiente poderia perder um suspeito em um mar de rostos, sistemas de reconhecimento facial, por contraste, podem simultaneamente monitorar centenas ou milhares de rostos, comparando cada um contra extensos bancos de dados em tempo real.

Esta capacidade é particularmente crucial em situações sensíveis ao tempo onde cada segundo conta, quando agências de inteligência recebem informações sobre uma ameaça iminente, sistemas de reconhecimento facial podem ser rapidamente implantados para escanear redes de vigilância em cidades inteiras, potencialmente localizando suspeitos em minutos ao invés de horas ou dias.

Capacidades de Vigilância aprimoradas

Através do reconhecimento biométrico, do algoritmo de aprendizagem profunda e da análise de dados grandes, a precisão e eficiência do trabalho de inteligência são melhoradas e o trabalho de monitoramento tradicional se torna uma luta defensiva e voltada para o futuro.

A tecnologia permite que as agências de segurança criem redes abrangentes de câmeras de vigilância que funcionem como um sistema integrado em vez de pontos de observação isolados, quando uma pessoa de interesse é detectada em um local, o sistema pode rastrear seus movimentos através da rede, fornecendo ao pessoal de segurança informações em tempo real sobre suas atividades e associações, essa capacidade é inestimável para entender redes terroristas e identificar membros desconhecidos de organizações extremistas.

Além disso, sistemas de reconhecimento facial podem operar continuamente sem as limitações da atenção humana e fadiga, enquanto operadores humanos podem perder detalhes críticos durante longos turnos ou períodos de baixa atividade, sistemas automatizados mantêm vigilância consistente, garantindo que nenhuma ameaça potencial passe despercebida.

Efeito de Deterrência

A presença de sistemas de reconhecimento facial pode servir como um poderoso dissuasor para atividades terroristas, quando potenciais atacantes sabem que seus rostos serão capturados e analisados por sofisticados sistemas biométricos, eles enfrentam riscos significativamente maiores de identificação e apreensão, essa consciência pode interromper processos de planejamento, forçar terroristas a adotar táticas menos eficazes ou desencorajar ataques completamente.

O efeito dissuasão se estende além da ameaça imediata de identificação, sistemas de reconhecimento facial criam um registro digital permanente que pode ser analisado muito tempo após um incidente, o que significa que mesmo que terroristas consigam fugir da detecção imediata, eles deixam para trás evidências que podem ser usadas para identificá-los mais tarde, rastrear seus movimentos e descobrir suas redes, essa responsabilidade a longo prazo acrescenta outra camada de risco que os terroristas devem considerar ao planejar operações.

Otimização de recursos

A tecnologia de reconhecimento facial permite que as agências de segurança otimizem seus recursos limitados automatizando tarefas de identificação de rotina e focando a perícia humana onde é mais necessário, em vez de designar pessoal para monitorar manualmente os feeds de vigilância ou verificar documentos em passagens de fronteira, agências podem implantar sistemas de reconhecimento facial para lidar com essas tarefas enquanto operadores humanos se concentram em investigar alertas, realizar entrevistas e tomar decisões críticas.

Com milhões de viajantes passando por aeroportos diariamente e inúmeras horas de filmagem de vigilância geradas em áreas urbanas, seria impossível rever manualmente todas essas informações.

Desafios críticos e limitações técnicas

Precisão e falso positivo

Apesar dos avanços significativos na tecnologia de reconhecimento facial, a precisão continua sendo uma preocupação crítica, particularmente em aplicações de contraterrorismo onde as consequências dos erros podem ser graves.

Embora os seres humanos geralmente possam realizar processos de reconhecimento facial bastante bem, essas atividades ainda são muito desafiadoras para sistemas tecnológicos, pois a menos que a fotografia seja capturada sob condições muito controladas, o sistema pode ter dificuldade em identificar o indivíduo ou até mesmo detectar seu rosto na fotografia, e o sistema funciona melhor quando fatores ambientais como ângulo de câmera, iluminação, expressão facial e outros, são controlados na medida do possível.

Os falsos positivos, por exemplo, quando o sistema identifica incorretamente alguém como uma pessoa de interesse, colocam desafios particulares em contextos de contraterrorismo, para aqueles para quem a tecnologia não funciona tão bem, não serão capazes de ser verificados por FRTs, causando suspeita e vigilância intrusiva, e além disso, serão identificados com mais frequência, o que pode fazer com que sejam suspeitos como terroristas ou outros criminosos graves, tais erros podem levar a pessoas inocentes a serem detidas, questionadas ou submetidas a procedimentos de segurança invasivos, com consequências pessoais e sociais significativas.

NIST recentemente realizou um teste em larga escala focado na identificação de viés na TRF, com uma ênfase particular na taxa de falso positivo - ou seja, a frequência com que um algoritmo identifica mal a imagem de uma pessoa, e os resultados mostraram que "através de dados demográficos, taxas de falso positivo muitas vezes variam por fatores de 10 a mais de 100 vezes", dependendo de quais algoritmos estão em uso.

Bias Demográficas e Equidade Algorítmica

Três programas de análise facial de grandes empresas de tecnologia demonstram vieses de pele e gênero, e nos experimentos dos pesquisadores, as taxas de erro dos três programas na determinação do gênero de homens de pele clara nunca foram piores que 0,8 por cento, mas para mulheres de pele escura, no entanto, as taxas de erro foram mais de 20% em um caso e mais de 34% nos outros dois.

A taxa de erro para homens de pele clara é de 0,8%, comparado a 34,7% para mulheres de pele escura, de acordo com um estudo de 2018 intitulado "O Sol dos Gêneros" de Joy Buolamwini e Timnit Gebru, publicado pelo MIT Media Lab, essa dramática disparidade nas taxas de precisão levanta sérias preocupações sobre justiça e igualdade de tratamento sob a lei quando o reconhecimento facial é usado em contextos de segurança e aplicação da lei.

O tom da pele afeta significativamente a precisão de verificação, com tons mais leves, superando os tons médios e escuros, e também descobriu que os indivíduos masculinos geralmente obtiveram melhor precisão de reconhecimento do que as mulheres, atribuídos a fatores como oclusão causada por cabelos longos e alterações na aparência facial devido à maquiagem.

Em agosto de 2023, uma mulher negra processou o Departamento de Polícia de Detroit depois de ser presa por policiais usando software de reconhecimento facial mal calibrado, e esse problema é prevalente no software de reconhecimento facial, que tende a gerar maior taxa de falsos positivos para pessoas não brancas.

O estudo NIST também encontrou resultados tendenciosos quando se tratava de asiáticos, nativos americanos, indianos americanos, indianos do Alasca e ilhéus do Pacífico, e a permeabilidade desses vieses em vários grupos demográficos sugere que o problema é sistêmico em vez de isolado para populações ou algoritmos específicos.

Causas da Bia

A tecnologia de reconhecimento facial tem feito grandes avanços na precisão graças aos modelos avançados de inteligência artificial (IA) treinados em grandes conjuntos de dados de imagens faciais, mas esses conjuntos de dados muitas vezes carecem de diversidade em termos de raça, etnia, gênero e outras categorias demográficas, fazendo com que os sistemas de reconhecimento facial se apresentem pior em grupos demográficos sub-representados em comparação com grupos onipresentes nos dados de treinamento.

Os dados históricos usados para treinar algoritmos de reconhecimento facial têm predominantemente rostos de homens brancos, refletindo a demografia dos pesquisadores e instituições que os criaram, quando algoritmos aprendem a reconhecer rostos principalmente a partir deste conjunto de dados limitado, eles naturalmente se saem melhor em rostos semelhantes e lutam com rostos que diferem significativamente de seus dados de treinamento.

Muitos atribuem a maioria desses problemas a conjuntos de dados desequilibrados, mas o problema se estende além da simples representação, mesmo quando conjuntos de dados incluem diferentes rostos, outros fatores como condições de iluminação, qualidade da câmera e resolução de imagens podem afetar desproporcionalmente a qualidade das imagens para pessoas com tons de pele mais escura, agravando ainda mais problemas de precisão.

Esforços para atenuar as bias

Em 2018, a Microsoft anunciou que o FRT comercialmente disponível tinha sido atualizado para melhorar o desempenho em categorias de raça e gênero, ampliando os conjuntos de dados usados para treinar algoritmos de aprendizado de máquina e melhorando o classificador facial para maior precisão, e essas melhorias resultaram, de acordo com a empresa, em taxas de erro 20 vezes menores para tons de pele mais escura e 9 vezes menores para as mulheres.

Pesquisadores pré-treinaram três modelos de reconhecimento facial — ArcFace, AdaFace e ElasticFace — em um conjunto de dados sintéticos grande e equilibrado que geraram, e o resultado não só aumentou a precisão geral em comparação com modelos treinados em conjuntos de dados desequilíbrios existentes, mas também reduziu significativamente o viés demográfico, com os modelos treinados mostrando maior precisão equitativa em todos os grupos raciais em comparação com modelos existentes que exibem desempenho ruim em minorias sub-representadas.

No conjunto de dados FairFace, a precisão melhorou de 92,58% para 96,47%, enquanto o Grau de Bias (DoB) foi reduzido de 3,86 para 1,16, representando uma redução de aproximadamente 70%, e notavelmente, ganhos de desempenho significativos foram observados para grupos sub-representados, como uma melhoria na precisão para as mulheres negras de 80,2% para 90,86%, mantendo um desempenho forte para grupos já bem representados.

A rede desajustada de adversários (DebFace), usa um codificador de imagem a imagem, quatro classificadores de atributos, um classificador de distribuição e uma rede de agregação de características, e os quatro classificadores, gênero, idade, raça e identidade, transformam potenciais vieses em recursos informados, melhorando o desempenho em grupos sub-representados.

Preocupações de privacidade e Liberdades Civis

Vigilância em massa e direitos de privacidade

A implantação da tecnologia de reconhecimento facial para fins de combate ao terrorismo tem suscitado intenso debate sobre o equilíbrio entre segurança e privacidade, com críticos argumentando que a vigilância generalizada ameaça as liberdades civis fundamentais.

Os desafios legais, éticos e de privacidade em torno da vigilância em massa incluem preocupações sobre a identificação errada, fraude e viés no banco de dados, a capacidade de rastrear movimentos de indivíduos em espaços públicos sem seu conhecimento ou consentimento levanta questões profundas sobre a natureza da privacidade na sociedade moderna e os limites apropriados dos poderes de vigilância do governo.

Os críticos apontam para riscos significativos de privacidade e potenciais violações das liberdades civis, levantando preocupações sobre coleta de dados não autorizados, falta de consentimento e o potencial de fluência de funções, através do qual os dados coletados para um propósito são usados para um propósito não relacionado sem o conhecimento ou consentimento do indivíduo.

As razões apresentadas para tal proibição são que os FRTs sofrem de parcialidade generalizada resultando em benefícios e danos que são desigualmente distribuídos entre grupos, o Estado inevitavelmente usará essas tecnologias para fins ilegítimos, e que a existência de FRTs arrepiam nosso comportamento (ou seja, faz com que as pessoas se censurem por medo de vigilância), esse efeito de calafrios poderia prejudicar a participação democrática por desencorajar as pessoas de assistir a protestos, comícios políticos, ou outras reuniões públicas onde podem ser identificadas e rastreadas.

Respostas Regulatórias e Proibições

Em 2019, São Francisco tornou-se a primeira cidade dos EUA a proibir a tecnologia de reconhecimento facial (TF), vetando especificamente seu uso pela polícia e outras agências, e desde então, várias outras cidades americanas implementaram suas próprias proibições de FRT semelhantes, com vereadores de Boston explicitamente destacando uma questão particular: o viés da tecnologia.

Mais de uma dúzia de grandes cidades baniram a tecnologia, incluindo Minneapolis, Boston e São Francisco, no entanto, essas proibições locais não impediram agências federais e muitas outras jurisdições de continuarem a implantar reconhecimento facial para fins de segurança, criando uma patchwork de regulamentos que varia significativamente pela localização.

A União Europeia tomou uma abordagem mais abrangente, com o uso de tecnologias de reconhecimento facial no contexto de protesto pacífico, aumentando o risco de práticas de vigilância em massa e as implicações para a proteção dos direitos humanos.

Balanceamento Segurança e Liberdade

É fundamental que se o Estado pode usar esta tecnologia para aumentar seu poder para combater o terrorismo, este poder é restringido de tal forma que os abusos e o comportamento frio não ocorrem, e o Estado deve criar restrições institucionais que só permitem que os FRTs sejam usados em lugares onde as pessoas não (e não devem) desfrutar de uma expectativa razoável de privacidade (por exemplo, aeroportos, passagens de fronteira).

As câmeras equipadas com FRT devem ser marcadas para garantir ao público que não estão sendo vigiadas em lugares que devem ter uma expectativa razoável de privacidade, e FRTs devem ser restritas a encontrar criminosos graves (por exemplo, terroristas). Essas restrições propostas representam uma tentativa de preservar os benefícios de segurança do reconhecimento facial, ao mesmo tempo que limitam seu potencial de abuso e proteção das liberdades civis.

A FRT representa uma ferramenta poderosa no arsenal contraterrorismo, permitindo medidas de segurança que antes eram inatingíveis, mas esta é uma tecnologia que exige um equilíbrio extremamente criterioso entre seus benefícios claros e as importantes considerações éticas com que está associada, e no momento, pode ser que o equilíbrio seja inclinado demais em favor dos benefícios claros da FRT e não o suficiente em favor da justiça, privacidade e integridade ética que devem orientar sua implantação.

Considerações Constitucionais e dos Direitos Humanos

Programas de TRF usados pela polícia na identificação de suspeitos de crimes são substancialmente mais propensos a erros em imagens faciais que retratam tons de pele mais escura e mulheres em comparação com imagens faciais que retratam homens caucasianos, e esse viés pode levar a cidadãos serem investigados injustamente pela polícia em linhas raciais e de gênero, com o uso de TRF tendenciosa sendo inconsistente com a exigência liberal clássica de que o governo trate todos os cidadãos igualmente antes da lei.

A cláusula de proteção igual de muitas constituições requer que as ações do governo não discriminam com base em raça, gênero ou outras características protegidas, quando sistemas de reconhecimento facial demonstram viés sistemático contra certos grupos demográficos, seu uso por agências governamentais pode violar essas proteções constitucionais, o que cria um dilema legal, enquanto a tecnologia pode aumentar a segurança, seu desempenho tendenciosa pode tornar seu uso inconstitucional ou em violação da lei de direitos humanos.

Cientistas da computação expressaram preocupação com o uso da lei da FRT para identificar suspeitos de crimes, observando que é muito provável que tal software seja usado para identificar suspeitos, e assim, um erro na saída de um algoritmo de reconhecimento de rosto usado como entrada para outras tarefas pode ter consequências graves, como alguém poderia ser injustamente acusado de um crime baseado em erros de identificação do criminoso, mas confiante, a partir da análise de vídeo de segurança.

Transparência e responsabilidade

Recomenda uma regulação forte, cooperação internacional e governança transparente para garantir que o uso da tecnologia de reconhecimento facial de IA seja compatível com os direitos humanos e liberdades fundamentais, transparência sobre como os sistemas de reconhecimento facial funcionam, suas taxas de precisão e suas limitações são essenciais para a confiança pública e a responsabilidade democrática.

Estabelecer leis claras e abrangentes relacionadas ao uso da tecnologia de reconhecimento facial, alinhar padrões globais com os quadros nacionais para garantir consistência e exigir auditorias regulares de sistemas de TRF para garantir o cumprimento das diretrizes éticas, auditoria regular pode ajudar a identificar problemas com precisão ou viés antes que causem sérios danos, enquanto quadros legais claros fornecem orientações para agências de segurança sobre usos apropriados da tecnologia.

Riscos não devem levar a moratórias sobre o uso de IA ou proibição em certas plataformas, mas sim, eles devem ser chamados para a ação para que os governos exijam um melhor design para suas ferramentas IA/ML, o que significa adquirir melhores dados e criar regimes de testes extenuantes que limitem o risco e exponham falhas o máximo possível, e uma maneira de ajudar isso é aplicando padrões de IA e políticas de transparência que dão aos governos insights sobre a lógica de cada ação que um sistema toma.

Proteção e retenção de dados

O Estado não deve usar empresas terceiras que violem as três primeiras condições durante a criação ou uso de seu serviço, e as empresas terceiras não devem ser capazes de acessar ou ler os dados confidenciais coletados pelo Estado.

As perguntas sobre retenção de dados são particularmente importantes, quanto tempo devem ser armazenadas, quem deve ter acesso a isso, em que circunstâncias pode ser compartilhada com outras agências ou países, essas perguntas não têm respostas claras em muitas jurisdições, criando incertezas sobre as implicações a longo prazo da implantação do reconhecimento facial.

Um banco de dados contendo dados de reconhecimento facial para milhões de pessoas seria um alvo atraente para hackers, serviços de inteligência estrangeira ou organizações criminosas, se esses dados fossem comprometidos, poderia ser usado para roubo de identidade, perseguição ou outros propósitos maliciosos, com consequências que poderiam persistir por anos ou décadas.

Perspectivas Internacionais e Implantação

Padrões de adoção globais

A tecnologia de vigilância de IA mais adotada mundialmente, com uma taxa de adoção de 64%, superando plataformas de cidades inteligentes e iniciativas de policiamento inteligente, essa adoção generalizada reflete tanto o valor percebido pela tecnologia para segurança quanto as diferentes abordagens regulatórias tomadas por diferentes países.

Países enfrentam diferentes ameaças de segurança e têm diferentes atitudes culturais em relação à privacidade e vigilância, levando a variações significativas na forma como o reconhecimento facial é implantado, algumas nações têm abraçado a tecnologia com entusiasmo, implantando-a extensivamente em espaços públicos com restrições mínimas, outras têm tomado uma abordagem mais cautelosa, limitando seu uso a contextos específicos de alta segurança ou impondo requisitos rigorosos de supervisão.

Furl et al. (2002) descobriram que a FRT desenvolvida e usada em países ocidentais era mais precisa para imagens faciais caucasianas, enquanto nos países da Ásia Oriental, os algoritmos da FRT eram mais precisos para imagens faciais da Ásia Oriental, o que destaca a importância de desenvolver sistemas de reconhecimento facial que são treinados em diversos conjuntos de dados representativos das populações onde serão implantados.

Cooperação Internacional e Normas

O terrorismo é uma ameaça transnacional que requer cooperação internacional para combater eficazmente... a tecnologia de reconhecimento facial pode facilitar essa cooperação... permitindo que países compartilhem informações sobre terroristas conhecidos ou suspeitos... e coordenem seus esforços de vigilância... mas essa dimensão internacional também levanta questões complexas sobre compartilhamento de dados, proteção de privacidade e direitos humanos.

Diferentes países têm diferentes padrões legais para proteção da privacidade, retenção de dados e processo devido, quando dados de reconhecimento facial são compartilhados além fronteiras, podem estar sujeitos a proteções menos rigorosas no país receptor do que no país onde foram coletados, o que cria riscos de que dados coletados sob estrita proteção de privacidade possam ser usados por governos estrangeiros com mais proteção.

Organizações internacionais como a Interpol desenvolveram sistemas para facilitar o reconhecimento facial para o contraterrorismo, que devem navegar por terrenos políticos e legais complexos, equilibrando os benefícios da segurança da partilha de informações contra preocupações com privacidade, direitos humanos e soberania nacional, desenvolvendo padrões e acordos internacionais para o uso responsável do reconhecimento facial no contraterrorismo continua sendo um desafio em curso.

Percepção e Confiança Públicas

Fatores que Influenciam a aceitação pública

Advogados da FRT enfatizam seu potencial em segurança pública, prevenção de crimes e contraterrorismo, observando que a FRT permite que agências e organizações de aplicação da lei identifiquem suspeitos e impeçam o acesso não autorizado a áreas protegidas e espaços onde ativos valiosos ou populações vulneráveis estão presentes, o apoio público ao reconhecimento facial muitas vezes depende do contexto específico em que é usado, com maior aceitação para aplicações de segurança em ambientes de alto risco como aeroportos.

A confiança nas instituições que utilizam o reconhecimento facial é um fator crítico na aceitação pública, quando as pessoas confiam que as agências de segurança usarão a tecnologia de forma responsável e com supervisão adequada, elas são mais propensas a aceitar sua implantação, e quando a confiança é baixa, devido a abusos passados, falta de transparência ou preocupações com preconceitos, a oposição pública tende a ser mais forte.

A adoção bem sucedida e generalizada do TRF depende não só da sua velocidade e precisão, mas também da confiança do público nos algoritmos que alimentam os dispositivos de reconhecimento facial, e essa confiança será difícil de construir enquanto exemplos de viés racial e resultados falsos positivos continuam a ofuscar as melhorias anuais que estão sendo feitas na precisão e funcionalidade geral do software.

Construindo Confiança Pública

Promover o engajamento público para enfrentar preocupações e construir confiança, o engajamento público significativo requer mais do que simplesmente informar as pessoas sobre a implantação do reconhecimento facial, significa criar oportunidades para um diálogo genuíno sobre os benefícios, riscos e limites apropriados da tecnologia.

As agências de segurança devem relatar publicamente taxas de precisão, incluindo desagregações por grupo demográfico, taxas de falsos positivos e informações sobre como a tecnologia é usada e supervisionada, e essa transparência permite ao público fazer julgamentos informados sobre se os benefícios de segurança justificam os custos de privacidade e se a tecnologia está sendo usada de forma justa.

Demonstrar a responsabilidade quando os problemas ocorrem também é crucial... quando sistemas de reconhecimento facial levam a detenções injustas ou outros danos... as agências devem reconhecer essas falhas, compensar as vítimas... e tomar medidas concretas para evitar a recorrência... um padrão de negar problemas ou desviar a responsabilidade... vai acabar com a confiança do público e a oposição ao combustível...

Desenvolvimentos futuros e tecnologias emergentes

Avanços na precisão e capacidade

Nos últimos anos, com arquiteturas avançadas e aumento no número de camadas e parâmetros, os modelos de FR ganharam uma melhora substancial na sua capacidade de aprender representações faciais complexas, e essas arquiteturas mais profundas, muitas vezes compreendendo mais de cem camadas com milhões de parâmetros, têm aumentado significativamente a capacidade dos sistemas de FR de generalizar em cenários desafiadores, resultando em maior desempenho de reconhecimento global (assim como em vieses reduzido), e, adicionalmente, a disponibilidade de conjuntos de dados maiores e mais diversos tem contribuído para melhores resultados de aprendizagem, uma vez que esses conjuntos de dados, que incorporam variações substanciais demográficas e covariáveis, como poses, iluminação e expressão (PIE), têm facilitado o progresso mensurável na melhoria da precisão e equidade FR.

Os futuros sistemas de reconhecimento facial provavelmente incorporarão múltiplas modalidades biométricas, combinando reconhecimento facial com varredura de íris, análise de marcha, reconhecimento de voz e outras técnicas, esta abordagem multimodal pode melhorar a precisão cruzando referências múltiplas assinaturas biométricas, reduzindo o impacto de erros em qualquer sistema único, e também dificultando que terroristas escapem da detecção disfarçando ou alterando sua aparência.

Avanços na inteligência artificial, particularmente em redes neurais e de aprendizagem profunda, continuam a ultrapassar os limites do que os sistemas de reconhecimento facial podem alcançar, estes sistemas estão se tornando melhores em reconhecer rostos sob condições desafiadoras, como iluminação fraca, oclusão parcial ou ângulos extremos, e também estão se tornando mais rápidos, permitindo a análise em tempo real de fluxos de vídeo de alta resolução de várias câmeras simultaneamente.

Integração com outros sistemas de inteligência

O futuro do reconhecimento facial no contraterrorismo não está apenas em melhorar a tecnologia em si, mas em integrá-la com outros sistemas de inteligência e segurança, quando o reconhecimento facial é combinado com análise comportamental, mapeamento de redes sociais, monitoramento de comunicações e outras fontes de inteligência, torna-se parte de um sistema abrangente de detecção de ameaças que é maior do que a soma de suas partes.

Por exemplo, o reconhecimento facial pode identificar uma pessoa de interesse em um aeroporto, desencadeando um escrutínio adicional de seus padrões de viagem, transações financeiras, comunicações e associados conhecidos, esta abordagem integrada permite que as agências de segurança construam uma imagem mais completa de potenciais ameaças e tomem decisões mais informadas sobre como responder.

No entanto, esta integração também amplia as preocupações de privacidade, um sistema que combina reconhecimento facial com dados extensivos de outras fontes cria capacidades de vigilância sem precedentes que poderiam ser usadas para monitorar praticamente todos os aspectos da vida das pessoas, garantindo que tais sistemas poderosos sejam usados apenas para fins de segurança legítimos e com supervisão adequada será um desafio crítico para os formuladores de políticas.

Contramedidas emergentes e corrida de armas

Como a tecnologia de reconhecimento facial se torna mais prevalente no contraterrorismo, adversários estão desenvolvendo contramedidas para evitar a detecção, essas variam de técnicas simples como usar máscaras ou óculos de sol a abordagens mais sofisticadas como padrões de maquiagem adversas projetados para confundir algoritmos de reconhecimento facial ou o uso de tecnologia deepfake para criar identidades falsas.

Isto cria uma corrida tecnológica de armas, com agências de segurança trabalhando para melhorar os sistemas de reconhecimento facial enquanto terroristas e outros adversários desenvolvem novas maneiras de derrotá-los.

Alguns pesquisadores estão explorando formas de tornar os sistemas de reconhecimento facial mais robustos contra contramedidas, como usar imagens de infravermelho para detectar rostos mesmo quando estão parcialmente cobertos, ou analisar a linguagem corporal e a marcha além das características faciais, outros estão desenvolvendo sistemas de detecção de vida que podem distinguir entre rostos reais e fotografias, máscaras ou vídeos, impedindo ataques de spoofing.

Melhores Práticas e Recomendações

Padrões Técnicos e Testes

Testes de Fornecedor de Reconhecimento de Rosto (FRVTs) da NIST avaliaram mais de 400 algoritmos de reconhecimento facial desde 2017, dando uma visão geral da precisão de todos os desenvolvedores participantes.

Testes devem incluir avaliação em diversos grupos demográficos para identificar e quantificar qualquer viés no desempenho do sistema, sistemas que demonstrem níveis inaceitáveis de viés não devem ser implantados até que esses problemas sejam corrigidos, e testes também devem avaliar o desempenho em condições operacionais realistas, não apenas em ambientes de laboratório controlados.

O desempenho do sistema pode se degradar com o tempo, com o tempo, com o tempo, ou com a população sendo monitorada, as auditorias regulares podem identificar problemas emergentes e garantir que os sistemas continuem a atender os padrões de desempenho ao longo de sua vida operacional.

Orientações operacionais

As agências de segurança que usam reconhecimento facial para o contraterrorismo devem estabelecer diretrizes operacionais claras que especifiquem quando e como a tecnologia pode ser usada, e que tipo de regras devem abordar questões como: qual nível de confiança é necessário antes de agir, que verificação adicional é necessária antes de deter alguém baseado em um reconhecimento facial, como o sistema deve ser usado em conjunto com o julgamento humano?

Nem humanos nem algoritmos são infalíveis, e fraquezas semelhantes do julgamento humano podem afetar o uso de tecnologias de reconhecimento facial, pois indivíduos podem confiar na saída de um algoritmo, pensando que deve ser "objetivo" mais do que seu próprio julgamento sobre se duas imagens combinam, apesar de vieses subjacentes ou imprecisões na tecnologia.

Os operadores devem ser treinados para entender as limitações do sistema, incluindo seu potencial para viés e falsos positivos, devem ser encorajados a exercer julgamento independente e não depender apenas de saídas algorítmicas, particularmente quando as consequências de erros são graves, protocolos claros devem especificar o que é necessário para investigar ou verificar antes de tomar medidas baseadas em uma combinação de reconhecimento facial.

Mecanismos de Supervisão e Responsabilidade

Mecanismos robustos de supervisão são essenciais para garantir que a tecnologia de reconhecimento facial seja usada adequadamente e que os abusos sejam identificados e corrigidos, que devem incluir mecanismos internos dentro das agências de segurança e supervisão externa por órgãos independentes, como comissários de privacidade, comitês legislativos ou revisão judicial.

Agências devem manter registros detalhados de como sistemas de reconhecimento facial são usados, incluindo quais buscas são conduzidas, quem os conduz e quais ações resultam.

Os órgãos externos de supervisão devem ter autoridade e recursos para realizar uma revisão significativa dos programas de reconhecimento facial, incluindo acesso a informações técnicas sobre como os sistemas funcionam, dados de desempenho e registros operacionais, e órgãos de supervisão também devem ter o poder de obrigar mudanças em programas que violem padrões legais ou éticos.

Estudos de caso e aplicações do mundo real

Implementação de Segurança do Aeroporto e Fronteiras

Aeroportos e fronteiras têm sido um dos mais antigos e extensos adotadores de tecnologia de reconhecimento facial para fins de contraterrorismo, esses ambientes controlados oferecem várias vantagens para implantação de reconhecimento facial, viajantes devem passar por postos de controle designados, iluminação e ângulos de câmera podem ser otimizados, e há uma clara justificativa de segurança para verificação de identidade.

Muitos países implementaram reconhecimento facial em postos de controle de imigração para verificar se os viajantes combinam com suas fotos de passaporte e para verificá-las contra listas de terroristas conhecidos ou suspeitos, esses sistemas processaram milhões de viajantes, com alguns aeroportos relatando que o reconhecimento facial permitiu identificar indivíduos que tentavam viajar em documentos fraudulentos ou usando identidades roubadas.

A tecnologia também foi implantada para acelerar o processamento de viajantes confiáveis através de programas que permitem que indivíduos pré-selecionados usem portões automatizados que verificam sua identidade através do reconhecimento facial.

Redes de Vigilância Urbana

Algumas cidades implantaram extensas redes de câmeras equipadas com reconhecimento facial para monitorar espaços públicos por ameaças de segurança, esses sistemas podem rastrear movimentos de indivíduos pela cidade, potencialmente identificando terroristas conduzindo vigilância de alvos potenciais ou se encontrando com co-conspiradores.

Os críticos argumentam que esses sistemas criam um efeito de arrepio na liberdade de expressão e associação, pois as pessoas podem evitar certos locais ou atividades se souberem que estão sendo rastreados, o equilíbrio entre benefícios de segurança e custos de privacidade é particularmente difícil de atingir nessas aplicações.

Algumas jurisdições tentaram resolver essas preocupações limitando o uso do reconhecimento facial em espaços públicos a circunstâncias específicas, como investigar crimes graves ou responder a ameaças iminentes, outras exigiram que as câmeras fossem claramente marcadas e que o público fosse informado sobre onde o reconhecimento facial é implantado, essas abordagens tentam preservar alguns benefícios de segurança, limitando os aspectos mais intrusivos da vigilância em massa.

Segurança de eventos e monitoramento de multidões

Grandes eventos públicos, como convenções políticas, cúpulas internacionais ou grandes eventos esportivos, apresentam alvos atraentes para terroristas e requerem medidas de segurança intensivas.

Essas implantações temporárias oferecem algumas vantagens sobre as redes de vigilância permanentes, limitadas no tempo e escopo, focadas em eventos específicos de alto risco, em vez de monitoramento contínuo de espaços públicos, que podem ser justificados pela elevada ameaça de segurança associada a eventos importantes que atraem grandes multidões e alvos de alto perfil.

No entanto, os pedidos de segurança de eventos também suscitam preocupações, particularmente quando o reconhecimento facial é usado para monitorar protestos políticos ou manifestações, a tecnologia pode ser usada para identificar e rastrear ativistas políticos, potencialmente arrepiando a expressão política legítima, orientações claras sobre quando e como o reconhecimento facial pode ser usado em eventos públicos são essenciais para prevenir abusos.

O Caminho Avançar: Balanceamento de Segurança e Direitos

Desenvolvendo quadros de uso responsável

O futuro do reconhecimento facial no combate ao terrorismo depende do desenvolvimento de estruturas que permitam que a tecnologia seja usada de forma eficaz para fins de segurança legítimos, protegendo as liberdades civis e garantindo a justiça, o que requer diálogo contínuo entre profissionais de segurança, tecnologistas, formuladores de políticas, defensores das liberdades civis e o público.

Tais estruturas devem ser baseadas em princípios claros: reconhecimento facial deve ser usado apenas quando necessário e proporcional à ameaça de segurança; deve ser implantado com salvaguardas adequadas contra abuso; deve ser sujeito a supervisão e responsabilização significativas; e deve ser continuamente avaliado e melhorado para lidar com problemas com precisão e viés.

Diferentes contextos podem exigir diferentes abordagens, o uso do reconhecimento facial em passagens de fronteira, onde há uma clara justificativa de segurança e expectativa limitada de privacidade, pode ser mais aceitável do que o uso para vigilância contínua de espaços públicos, estruturas específicas de contexto podem fornecer mais orientações nuances do que regras de tamanho único.

Investindo em Pesquisa e Desenvolvimento

O investimento contínuo em pesquisas para melhorar a tecnologia de reconhecimento facial é essencial, que inclui não só melhorar a precisão e a velocidade, mas especificamente abordar problemas com viés e justiça, estudos em larga escala e padronizados como a ajuda do NIST para descobrir falhas comuns na FRT, e como cientistas e funcionários, os engenheiros que desenvolvem a FRT são encarregados de melhorar os resultados do software em reconhecer imagens com tons de pele mais escura, bem como reduzir a diferença de gênero em taxas falsas positivas, e quando os conjuntos de dados e resultados são colocados em análises rigorosas e minutas, os cientistas têm a capacidade de melhorar o algoritmo e, assim, abordar a questão do viés em futuras iterações do software.

Pesquisas também devem explorar abordagens alternativas que possam oferecer melhores proteções de privacidade, mantendo benefícios de segurança, por exemplo, sistemas que analisam padrões comportamentais ou detectam anomalias sem identificar indivíduos específicos, podem fornecer informações de segurança úteis com menos intrusão de privacidade do que o reconhecimento facial tradicional.

Pesquisas interdisciplinares que reúnem cientistas da computação, cientistas sociais, eticistas e estudiosos legais podem ajudar a identificar e enfrentar os desafios complexos colocados pela tecnologia de reconhecimento facial, entendendo não apenas as capacidades técnicas, mas também as implicações sociais, éticas e legais, é essencial para o desenvolvimento e implantação responsáveis.

Cooperação Internacional e Normas

Dada a natureza transnacional do terrorismo, a cooperação internacional em padrões e práticas de reconhecimento facial é importante.

Acordos internacionais podem estabelecer padrões mínimos para sistemas de reconhecimento facial usados no contraterrorismo, garantindo que dados compartilhados além fronteiras atendam aos requisitos básicos de precisão e confiabilidade, e também estabelecer protocolos para compartilhamento de dados que protejam a privacidade e os direitos humanos, ao mesmo tempo que permitam uma cooperação eficaz contra ameaças terroristas.

Os países democráticos devem ser cautelosos em compartilhar tecnologia de reconhecimento facial ou dados com governos que não têm proteção de direitos humanos e Estado de direito fortes.

Conclusão: Navegando pela Paisagem Complexo

A tecnologia de reconhecimento facial representa uma ferramenta poderosa na luta contra o terrorismo, oferecendo capacidades para identificação, vigilância e investigação que eram inimagináveis há algumas décadas, e a nova tecnologia deu novo poder ao Estado para automatizar a identificação de terroristas conhecidos que estão organizando ataques contra os cidadãos que o Estado deveria proteger, e o poder para fazer isso, se funcionar de forma eficaz, ajudaria a combater o terrorismo.

No entanto, a tecnologia também apresenta desafios significativos relacionados à precisão, viés, privacidade e liberdades civis, este problema é prevalente no software de reconhecimento facial, que tende a gerar maior taxa de falsos positivos para pessoas não brancas, e ao contrário do software de reconhecimento facial usado para prender alguém, um algoritmo de TC mal treinado pode matar civis, uma ação que não pode ser desfeita.

O caminho para frente requer equilibrar essas considerações concorrentes através de cuidadoso desenvolvimento de políticas, supervisão robusta, melhoria técnica contínua e diálogo público contínuo, nem banimentos de cobertores que impeçam qualquer uso do reconhecimento facial para fins de segurança, nem implantação desconstrangida sem salvaguardas representa uma abordagem responsável, ao invés disso, estruturas específicas de contexto que permitem usos benéficos, enquanto evitam abusos, oferecem a melhor esperança para realizar os benefícios de segurança do reconhecimento facial, ao mesmo tempo que protegem os direitos fundamentais.

As decisões tomadas hoje sobre como o reconhecimento facial é desenvolvido, implantado e regulamentado moldarão o equilíbrio entre segurança e liberdade por anos, garantindo que essas decisões sejam informadas por evidências, guiadas por princípios éticos, e sujeitas à responsabilidade democrática, é essencial para manter a segurança e a liberdade em um ambiente de ameaça cada vez mais complexo.

Para mais informações sobre tecnologias de segurança biométrica, visite o Instituto Nacional de Normas e Tecnologia de Reconhecimento de Rosto do Programa de Teste de Fornecedor de Reconhecimento de Rosto . Para aprender sobre considerações de privacidade em tecnologia de vigilância, explore recursos da Fundação Eletrônica Frontier . Para perspectivas internacionais sobre o regulamento de reconhecimento facial, veja o ] O trabalho do Parlamento Europeu sobre o regulamento de IA .