Table of Contents

Compreender a tecnologia de reconhecimento facial e seu papel na segurança moderna

A tecnologia de reconhecimento facial surgiu como uma das ferramentas mais transformadoras na luta global contra o terrorismo, que permite identificar rapidamente e com precisão os indivíduos e as ajudas na prevenção de atividades terroristas e na segurança dos espaços públicos. À medida que as ameaças de segurança continuam a evoluir em complexidade e escala, governos e agências policiais em todo o mundo estão cada vez mais voltados para sistemas biométricos avançados para proteger seus cidadãos e infraestrutura.

Segundo a pesquisa Markets and Markets, o mercado de reconhecimento facial está pronto para atingir US$ 8,5 bilhões em 2025, mais do que dobrando de US$ 3,8 bilhões em 2020. Esse crescimento explosivo reflete não só as capacidades de expansão da tecnologia, mas também sua importância crítica nos marcos de segurança nacional.Dos aeroportos e passagens de fronteira para redes de vigilância urbana e processos investigativos, o reconhecimento facial tornou-se um componente indispensável das modernas estratégias de contraterrorismo.

No seu núcleo, a tecnologia de reconhecimento facial representa um casamento sofisticado de visão computacional, inteligência artificial e análise biométrica. A tecnologia digitaliza características faciais humanas em representações matemáticas que os computadores podem processar e comparar, analisando características faciais fundamentais, tais como a distância entre os olhos da pessoa, largura da ponte nasal, contornos da mandíbula e estrutura da maçã do rosto, e então cria modelos biométricos únicos para verificar identidades em bases de dados contendo milhões de rostos. Essa capacidade de processar e combinar faces em velocidade e escala sem precedentes mudou fundamentalmente como as agências de segurança abordam a detecção e prevenção de ameaças.

A Evolução da Tecnologia de Reconhecimento Facial

Desde os primórdios até os sistemas de IA

A tecnologia remonta aos anos 60, quando um tipo chamado Woodrow Wilson Bledsoe surgiu com um sistema para classificar fotos de rostos usando um tablet especial. Estes sistemas iniciais eram rudimentares pelos padrões atuais, exigindo entrada manual e operando sob condições altamente controladas. Nos anos 70, algumas pessoas inteligentes usaram 21 marcadores específicos, como cor do cabelo e espessura do lábio, para automatizar o reconhecimento facial, e os anos 80/90 viram uma nova abordagem chamada Eigenface, que se tornou uma base para sistemas modernos.

O verdadeiro jogador de jogos veio nos anos 2000 com as redes sociais, pois de repente havia milhões de fotos marcadas online, dando a esses sistemas um banco de dados maciço para aprender. Essa abundância de dados de treinamento, combinada com avanços em algoritmos de aprendizado de máquina, permitiu sistemas de reconhecimento facial para alcançar taxas de precisão que antes eram inimagináveis. Hoje, com IA e aprendizagem profunda, sistemas de reconhecimento de face para empresas tornaram-se incrivelmente precisos e rápidos.

Como funcionam os modernos sistemas de reconhecimento facial

Os sistemas modernos de reconhecimento facial operam através de um processo multi-estágio que acontece em milissegundos. A primeira fase envolve a detecção de faces, onde o sistema identifica e localiza uma face dentro de uma imagem ou quadro de vídeo. Isto é seguido de alinhamento de faces, onde o sistema normaliza a posição, tamanho e orientação da face para garantir uma análise consistente, independentemente do ângulo ou distância da câmera.

A seguir vem a extração de recursos, onde o sistema identifica e mede características faciais distintas. Estas medidas são convertidas em uma representação matemática chamada modelo facial ou assinatura biométrica. Finalmente, o sistema realiza correspondência comparando este modelo com modelos armazenados em um banco de dados, gerando uma pontuação de similaridade que indica a probabilidade de uma correspondência.

Modernos sistemas de reconhecimento facial capturam e analisam imagens de pessoas nas condições mais difíceis de visão e movimento, capacidade crucial para aplicações de contraterrorismo, onde suspeitos podem ser capturados em imagens de vigilância em condições menos ideais, incluindo iluminação ruim, oclusão parcial ou em ângulos oblíquos.

Aplicações Estratégicas em Operações de Contraterrorismo

Vigilância em tempo real e detecção de ameaças

A tecnologia de reconhecimento facial surgiu como uma ferramenta transformadora no combate ao terrorismo, oferecendo capacidades avançadas para identificar, monitorar e apreender indivíduos de interesse, com foco em três aplicações específicas: vigilância em tempo real, controle de fronteiras e processos investigativos. Em espaços públicos lotados, centros de transporte e durante grandes eventos, sistemas de reconhecimento facial podem continuamente escanear multidões e alertar instantaneamente o pessoal de segurança quando uma pessoa de interesse é detectada.

A IA permite o alerta automático e a verificação de identidade de vastos grupos de pessoas em escala e ritmo não possíveis antes. Essa capacidade é particularmente valiosa durante eventos de alto perfil onde multidões grandes se reúnem, como comícios políticos, eventos esportivos ou festivais culturais. As agências de segurança podem implantar sistemas de reconhecimento facial para monitorar pontos de entrada e movimentos de multidões, identificando ameaças potenciais antes que possam se materializar em ataques.

A segurança reforçada fornece monitoramento contínuo em áreas de alto tráfego, identifica pessoas de interesse e localiza indivíduos desaparecidos com eficiência sem precedentes. A capacidade da tecnologia de operar continuamente sem fadiga torna-o um complemento inestimável para o pessoal de segurança humana, que pode então concentrar sua atenção na investigação de alertas e responder a ameaças potenciais.

Segurança Fronteiriça e Controle de Imigração

As passagens de fronteira e os aeroportos representam pontos críticos de estrangulamento nos esforços de contraterrorismo. Se uma pessoa (incluindo um terrorista) está vindo para os Estados Unidos do exterior, ele ou ela provavelmente passa por um ponto de controle de imigração no porto de entrada, e da perspectiva do contraterrorismo, este ponto de controle é um ponto de estrangulamento onde o suposto terrorista é mais vulnerável. Tecnologia de reconhecimento facial tornou-se uma ferramenta essencial nessas conjunturas críticas.

Os FRTs são implantados para verificar se uma pessoa que passa pelo controle de fronteira é de fato a pessoa representada em um documento de identificação (por exemplo, um passaporte), e a Interpol implantou seu sistema Project FIRST para ajudar as autoridades estaduais a identificar combatentes terroristas estrangeiros (FTFs). Estes sistemas podem processar os viajantes rapidamente, enquanto simultaneamente verificam suas identidades contra listas de terroristas conhecidos ou suspeitos, aumentando significativamente a segurança sem criar grandes gargalos no fluxo de passageiros.

A biometria pode prevenir o roubo de identidade e a fraude de imigração no uso de documentos de viagem, pois um modelo biométrico da impressão digital de alguém seria anexado ao documento, como passaporte ou visto, em um código de barras, chip ou tira magnética, o que dificultaria a alguém assumir a identidade de outro. Quando combinado com o reconhecimento facial, essa abordagem biométrica multicamadas cria uma defesa robusta contra terroristas que tentam entrar em países usando documentos fraudulentos ou identidades roubadas.

Aplicações Investigativas e Forenses

Os sistemas biométricos podem identificar terroristas conhecidos ou suspeitos usando o reconhecimento facial biométrico ou o método FaceCheck quando uma fotografia está disponível do suspeito terrorista, e isso é pesquisado contra uma lista de vigilância ou banco de dados de modelos de suspeitos de terroristas. Esta capacidade tem se mostrado inestimável em investigações pós-incidentes, onde as agências de segurança analisam imagens de vigilância para identificar os autores e seus associados.

A eficiência da aplicação da lei acelera a identificação de suspeitos e a resolução de casos através de correspondência automatizada com os registros existentes. Em vez de revisar manualmente as horas de filmagem e comparar rostos por olho, os investigadores podem usar o reconhecimento facial para rapidamente pesquisar através de vastos arquivos de vídeo de vigilância, identificar suspeitos e rastrear seus movimentos em vários locais e períodos de tempo.

O Comando de Operações Especiais dos EUA (USSOCOM) está estabelecendo as bases para uma expansão significativa de suas capacidades de inteligência e exploração de identidade, delineando uma visão ampla e tecnicamente ambiciosa para como as Forças de Operações Especiais coletam, analisam e exploram dados relacionados a identidade durante as missões, buscando insights em cinco áreas de tecnologia primária: reconhecimento facial, identificação de falantes e correspondência de voz, um ecossistema de aplicações de exploração de site SOF totalmente integrado, análise rápida de DNA e análise de aprendizado de máquina.

Vantagens Operacionais na Prevenção do Terrorismo

Velocidade e Escala de Identificação

Uma das vantagens mais significativas da tecnologia de reconhecimento facial no contraterrorismo é sua capacidade de processar e analisar faces em velocidades muito superiores às capacidades humanas. Nova tecnologia deu ao Estado novo poder para automatizar a identificação de terroristas conhecidos que estão organizando ataques aos cidadãos que o Estado deveria proteger, e o poder para fazer isso, se funcionar efetivamente, ajudaria na luta contra o terrorismo, como as tecnologias de reconhecimento facial prometem dar ao Estado precisamente esse poder.

Os métodos tradicionais de identificação dos suspeitos dependiam fortemente da memória humana e da comparação manual de fotografias, processos que consumiam tempo e eram propensos a erros. Um oficial de segurança que monitorava um aeroporto lotado só podia observar ativamente um número limitado de pessoas ao mesmo tempo, e até mesmo o pessoal mais experiente poderia perder um suspeito em um mar de rostos. Os sistemas de reconhecimento facial, por contraste, podem simultaneamente monitorar centenas ou milhares de rostos, comparando cada um contra bases de dados extensas em tempo real.

Esta capacidade é particularmente crucial em situações sensíveis ao tempo em que cada segundo conta. Quando as agências de inteligência recebem informações sobre uma ameaça iminente, os sistemas de reconhecimento facial podem ser rapidamente implantados para escanear redes de vigilância em cidades inteiras, potencialmente localizando suspeitos em minutos ao invés de horas ou dias.

Capacidades de Vigilância Melhoradas

Através do reconhecimento biométrico, do algoritmo de aprendizagem profunda e da análise de big data, a precisão e eficiência do trabalho de inteligência são melhoradas e o trabalho de monitoramento tradicional torna-se uma luta defensiva e voltada para o futuro.O reconhecimento facial transforma a vigilância de uma ferramenta reativa usada principalmente para investigação pós-incidente em um sistema proativo capaz de prevenir ataques antes de ocorrerem.

A tecnologia permite que as agências de segurança criem redes abrangentes de câmeras de vigilância que funcionem como um sistema integrado, em vez de pontos de observação isolados. Quando uma pessoa de interesse é detectada em um local, o sistema pode rastrear seus movimentos através da rede, fornecendo ao pessoal de segurança informações em tempo real sobre suas atividades e associações. Essa capacidade é inestimável para entender redes terroristas e identificar membros anteriormente desconhecidos de organizações extremistas.

Além disso, os sistemas de reconhecimento facial podem operar continuamente sem as limitações da atenção humana e fadiga. Embora os operadores humanos possam perder detalhes críticos durante longos turnos ou períodos de baixa atividade, os sistemas automatizados mantêm vigilância consistente, garantindo que nenhuma ameaça potencial passe despercebida.

Efeito de deterrença

A presença de sistemas de reconhecimento facial pode servir como um poderoso dissuasor para as atividades terroristas. Quando potenciais atacantes sabem que seus rostos serão capturados e analisados por sistemas biométricos sofisticados, eles enfrentam riscos significativamente maiores de identificação e apreensão. Essa consciência pode interromper processos de planejamento, forçar terroristas a adotar táticas menos eficazes, ou desencorajar ataques completamente.

O efeito dissuasão se estende além da ameaça imediata de identificação. Os sistemas de reconhecimento facial criam um registro digital permanente que pode ser analisado muito tempo após um incidente. Isto significa que, mesmo que os terroristas consigam fugir da detecção imediata, eles deixam para trás evidências que podem ser usadas para identificá-los mais tarde, rastrear seus movimentos e descobrir suas redes. Essa responsabilização a longo prazo acrescenta outra camada de risco que os terroristas devem considerar ao planejar operações.

Otimização de Recursos

A tecnologia de reconhecimento facial permite que as agências de segurança otimizem seus recursos limitados automatizando tarefas de identificação de rotina e focando a perícia humana onde é mais necessária. Em vez de designar pessoal para monitorar manualmente os feeds de vigilância ou verificar documentos em passagens de fronteira, as agências podem implantar sistemas de reconhecimento facial para lidar com essas tarefas, enquanto os operadores humanos focam em investigar alertas, realizar entrevistas e tomar decisões críticas.

Esta otimização é particularmente importante dada a escala dos desafios de segurança modernos. Com milhões de viajantes passando por aeroportos diariamente e inúmeras horas de filmagem de vigilância geradas em áreas urbanas, seria impossível rever manualmente todas essas informações. Sistemas de reconhecimento facial podem processar essa vasta quantidade de dados automaticamente, sinalizando apenas a pequena fração que requer atenção humana.

Desafios críticos e limitações técnicas

Precisão e falsos positivos

Apesar dos avanços significativos na tecnologia de reconhecimento facial, a acurácia continua sendo uma preocupação crítica, particularmente em aplicações de contraterrorismo, onde as consequências dos erros podem ser graves, sendo o método de reconhecimento facial identificado com imperfeições e fragilidades tecnológicas, mas que pode ser utilizado operacionalmente para minimizar suas fragilidades, sendo essencial compreender essas limitações para a implantação da tecnologia de forma responsável e eficaz.

Embora os seres humanos, em geral, possam realizar processos de reconhecimento facial bastante bem, essas atividades ainda são muito desafiadoras para os sistemas tecnológicos, pois, a menos que a fotografia seja capturada em condições muito controladas, o sistema pode ter dificuldade em identificar o indivíduo ou até mesmo detectar seu rosto na fotografia, e o sistema funciona melhor quando fatores ambientais como ângulo de câmera, iluminação, expressão facial e outros, são controlados na medida do possível.

Os falsos positivos – por exemplo, quando o sistema identifica incorretamente alguém como pessoa de interesse – colocam desafios particulares em contextos de contraterrorismo. Aqueles para quem a tecnologia não funciona também não serão capazes de ser verificados por FRTs – causando suspeita e vigilância mais intrusiva, e além disso, serão identificados com mais frequência, o que pode fazer com que sejam suspeitos de terrorismo ou outro criminoso grave. Tais erros de identificação podem levar a pessoas inocentes a serem detidas, questionadas ou sujeitas a procedimentos de segurança invasivos, com consequências pessoais e sociais significativas.

Recentemente, o NIST realizou um teste de grande escala focado na identificação de viés na TRF, com ênfase particular na taxa de falso positivo – ou seja, na frequência com que um algoritmo identifica mal a imagem de uma pessoa, e os resultados mostraram que "atravessando os dados demográficos, as taxas de falso positivo muitas vezes variam por fatores de 10 a mais de 100 vezes", dependendo de quais algoritmos estão em uso.Essas variações nas taxas de erro entre diferentes sistemas destacam a importância de testes rigorosos e validação antes de implantar tecnologia de reconhecimento facial em aplicações de segurança de alto risco.

Bias Demográficas e Equidade Algorítmica

Um dos desafios mais graves que a tecnologia de reconhecimento facial enfrenta é o viés demográfico – a tendência de sistemas para executar menos precisamente em determinados grupos demográficos. Três programas de análise facial lançados comercialmente de grandes empresas de tecnologia demonstram vieses tanto de tipo de pele quanto de gênero, e nas experiências dos pesquisadores, as taxas de erro dos três programas na determinação do gênero de homens de pele clara nunca foram piores do que 0,8 por cento, mas para mulheres de pele escura, no entanto, as taxas de erro foram mais de 20% em um caso e mais de 34% nos outros dois.

A taxa de erro para homens de pele clara é de 0,8%, em comparação com 34,7% para mulheres de pele escura, de acordo com um estudo de 2018 intitulado "Gênero Shades" de Joy Buolamwini e Timnit Gebru, publicado pelo MIT Media Lab. Essa dramática disparidade nas taxas de precisão levanta sérias preocupações sobre justiça e igualdade de tratamento sob a lei quando o reconhecimento facial é usado em contextos de segurança e aplicação da lei.

O tom cutâneo afeta significativamente a acurácia da verificação, com tons de pele mais leves, superando de forma consistente os tons médios escuros. Pesquisas também constataram que os indivíduos do sexo masculino geralmente obtiveram melhor acurácia de reconhecimento do que os do sexo feminino, atribuídos a fatores como oclusão causada por cabelos longos e alterações na aparência facial devido à maquiagem.

Em agosto de 2023, uma mulher negra processou o Departamento de Polícia de Detroit após ser presa por policiais usando software de reconhecimento facial mal calibrado, e esse problema é prevalente no software de reconhecimento facial, que tende a gerar maior taxa de falsos positivos para pessoas não brancas. Tais incidentes demonstram as consequências do viés algorítmico no mundo real e ressaltam a necessidade urgente de sistemas de reconhecimento facial mais equitativos.

O estudo NIST também encontrou resultados tendenciosos quando se tratava de asiáticos, nativos americanos, indianos americanos, indianos do Alasca e ilhéus do Pacífico. A permeabilidade desses vieses em vários grupos demográficos sugere que o problema é sistêmico em vez de isolado para populações ou algoritmos específicos.

Causas básicas de vicios

A tecnologia de reconhecimento facial tem feito grandes avanços na precisão graças aos modelos avançados de inteligência artificial (IA) treinados em conjuntos de dados massivos de imagens faciais, mas esses conjuntos de dados muitas vezes não têm diversidade em termos de raça, etnia, gênero e outras categorias demográficas, fazendo com que os sistemas de reconhecimento facial se desempenhem pior em grupos demográficos sub-representados em comparação com grupos onipresentes nos dados de treinamento.

O problema do viés é decorrente de múltiplas fontes. Conjuntos de dados históricos usados para treinar algoritmos de reconhecimento facial têm predominantemente apresentado rostos de homens brancos, refletindo a demografia dos pesquisadores e instituições que os criaram.Quando algoritmos aprendem a reconhecer rostos principalmente a partir deste conjunto de dados limitado, eles naturalmente se saem melhor em faces semelhantes e lutam com rostos que diferem significativamente de seus dados de treinamento.

Muitos atribuem a maioria desses problemas a conjuntos de dados desequilibrados. No entanto, o problema se estende além da representação simples. Mesmo quando conjuntos de dados incluem várias faces, outros fatores, como condições de iluminação, qualidade da câmera e resolução de imagem podem afetar desproporcionalmente a qualidade das imagens para pessoas com tons de pele mais escura, agravando ainda mais problemas de precisão.

Esforços para atenuar as vicissitudes

Pesquisadores e empresas de tecnologia reconheceram a gravidade do problema de viés e estão trabalhando ativamente em soluções. Em 2018, a Microsoft anunciou que o seu FRT comercialmente disponível tinha sido submetido a atualizações para melhorar o desempenho em categorias de raça e gênero, ampliando os conjuntos de dados usados para treinar os algoritmos de aprendizado de máquina e melhorando o classificador de face para maior precisão, e essas melhorias resultaram, de acordo com a empresa, em 20 vezes menores taxas de erro para tons de pele mais escuros e 9 vezes menores taxas de erro para as mulheres.

Os pesquisadores pré-treinaram três modelos de reconhecimento facial — ArcFace, AdaFace e ElasticFace — em um conjunto de dados sintéticos grande e equilibrado que geraram, e o resultado não só aumentou a precisão geral em comparação com modelos treinados em conjuntos de dados desequilíbrios existentes, mas também reduziu significativamente o viés demográfico, com os modelos treinados mostrando uma precisão mais equitativa em todos os grupos raciais em comparação com modelos existentes que exibem desempenho ruim em minorias sub-representadas.

No conjunto de dados FairFace, a acurácia melhorou de 92,58% para 96,47%, enquanto o Grau de Bias (DoB) foi reduzido de 3,86 para 1,16, representando uma redução de aproximadamente 70%, e notadamente, ganhos de desempenho significativos foram observados para grupos sub-representados, como uma melhora na acurácia para mulheres negras de 80,2% para 90,86%, mantendo um desempenho forte para grupos já bem representados.

A rede desbiasing adversarial (DebFace), usa um codificador imagem-a-cara, quatro classificadores de atributos, um classificador de distribuição e uma rede de agregação de características, e os quatro classificadores – gênero, idade, raça e identidade – transformam potenciais vieses em recursos informados, melhorando assim o desempenho em grupos sub-representados. Essas inovações arquitetônicas demonstram que a mitigação de viés é tecnicamente viável, embora o trabalho significativo ainda permaneça para implementar essas soluções em todos os sistemas implantados.

Preocupações de privacidade e liberdades civis

Vigilância em massa e direitos de privacidade

A maioria de tudo poderoso tem um lado negro, e a FRT não é exceção, pois levanta questões sérias e preocupações sobre privacidade, ética e impacto social geral.A implantação de tecnologia de reconhecimento facial para fins de combate ao terrorismo tem suscitado intenso debate sobre o equilíbrio entre segurança e privacidade, com críticos argumentando que a vigilância generalizada ameaça liberdades civis fundamentais.

Os desafios legais, éticos e de privacidade em torno da vigilância em massa incluem preocupações sobre a identificação errada, fraude e viés no banco de dados.A capacidade de rastrear os movimentos dos indivíduos em espaços públicos sem seu conhecimento ou consentimento levanta questões profundas sobre a natureza da privacidade na sociedade moderna e os limites apropriados dos poderes de vigilância do governo.

Os críticos apontam para riscos significativos de privacidade e potenciais violações das liberdades civis, levantando preocupações sobre a coleta de dados não autorizados, a falta de consentimento e o potencial de fluência de funções – através do qual os dados coletados para um propósito são usados para um propósito não relacionado sem o conhecimento ou consentimento do indivíduo. O medo é que os sistemas inicialmente implantados para o contraterrorismo possam gradualmente expandir-se para monitorar cidadãos comuns envolvidos em atividades legais, criando um estado de vigilância que arrefece a liberdade de expressão e associação.

As razões apresentadas para tal proibição são que os TRF sofrem de viés generalizado, resultando em benefícios e danos que são desigualmente distribuídos entre grupos, o Estado inevitavelmente usará essas tecnologias para fins ilegítimos, e que a existência de TRFs arrefece nosso comportamento (ou seja, faz com que as pessoas se censurem por medo da vigilância). Este efeito de calafrios poderia prejudicar a participação democrática por desencorajar as pessoas de assistir a protestos, comícios políticos, ou outras reuniões públicas onde podem ser identificadas e rastreadas.

Respostas e Proibições Regulatórias

Em 2019, São Francisco tornou-se a primeira cidade dos EUA a proibir a tecnologia de reconhecimento facial (TF), vetando especificamente seu uso pela polícia e outras agências, e desde então, várias outras cidades americanas implementaram suas próprias proibições de FRT semelhantes, com vereadores de Boston explicitamente destacando uma questão particular: o viés da tecnologia. Essas proibições refletem crescente preocupação do público com o potencial da tecnologia para abuso e seus problemas demonstrados com precisão e equidade.

Mais de uma dúzia de grandes cidades baniram a tecnologia, incluindo Minneapolis, Boston, e São Francisco. No entanto, essas proibições locais não impediram as agências federais e muitas outras jurisdições de continuar a implantar reconhecimento facial para fins de segurança, criando uma patchwork de regulamentos que varia significativamente pela localização.

A União Europeia adoptou uma abordagem mais abrangente, com a utilização de tecnologias de reconhecimento facial no contexto de protestos pacíficos que levantam o risco de práticas de vigilância em massa e as implicações para a protecção dos direitos humanos.Os reguladores europeus propuseram limitações rigorosas à utilização do reconhecimento facial em espaços públicos, com alguns defensores de proibições completas, excepto em circunstâncias estritamente definidas, que envolvam crimes graves ou ameaças iminentes.

Equilibrando Segurança e Liberdade

É fundamental que, se o Estado pode usar essa tecnologia para aumentar seu poder para combater o terrorismo, esse poder é restringido de tal forma que os abusos e o comportamento resfriado não ocorram, e o Estado deve criar restrições institucionais que apenas permitam que os FRTs sejam usados em lugares onde as pessoas não (e não devem) desfrutar de uma expectativa razoável de privacidade (por exemplo, aeroportos, passagens de fronteira).

As câmaras equipadas com FRT devem ser marcadas para assegurar ao público que não estão a ser vigiadas em locais onde devem ter uma expectativa razoável de privacidade, e as FRT devem limitar-se a encontrar criminosos graves (por exemplo, terroristas). Estas restrições propostas representam uma tentativa de preservar os benefícios de segurança do reconhecimento facial, limitando simultaneamente o seu potencial de abuso e protecção das liberdades civis.

A FRT representa uma ferramenta poderosa no arsenal contraterrorista, permitindo medidas de segurança que antes eram inatingíveis, mas esta é uma tecnologia que exige um equilíbrio extremamente criterioso entre seus benefícios claros e as importantes considerações éticas com que está associada, e, no momento, pode ser que o equilíbrio seja inclinado para longe demais em favor dos benefícios claros da FRT e não o suficiente em favor da justiça, privacidade e integridade ética que devem orientar sua implantação.

Considerações Constitucionais e dos Direitos Humanos

Programas de TRF utilizados pela polícia na identificação de suspeitos de crimes são substancialmente mais propensos a erros em imagens faciais que retratam tons de pele mais escuros e mulheres em comparação com imagens faciais que retratam homens caucasianos, e esse viés pode levar a cidadãos serem investigados injustamente pela polícia em linhas raciais e de gênero, sendo o uso de TRF tendenciosa em aplicação da lei inconsistente com a exigência liberal clássica de que o governo trate todos os cidadãos de forma igual perante a lei.

A cláusula de proteção igual de muitas constituições exige que as ações governamentais não discriminam com base em raça, gênero ou outras características protegidas.Quando os sistemas de reconhecimento facial demonstram viés sistemático contra determinados grupos demográficos, seu uso por órgãos governamentais pode violar essas proteções constitucionais. Isso cria um dilema legal: enquanto a tecnologia pode aumentar a segurança, seu desempenho tendenciosa pode tornar seu uso inconstitucional ou em violação da lei de direitos humanos.

Cientistas de informática expressaram preocupação com o uso da lei da FRT para identificar suspeitos de crimes, observando que é muito provável que tal software seja usado para identificar suspeitos, e, assim, um erro na saída de um algoritmo de reconhecimento de face usado como entrada para outras tarefas pode ter consequências graves, pois alguém pode ser acusado erroneamente de um crime baseado em erros de identificação do autor, mas confiante, a partir de análise de vídeo de segurança.

Transparência e responsabilidade

Recomenda uma regulamentação forte, cooperação internacional e governação transparente, a fim de garantir que o uso da tecnologia de reconhecimento facial de IA seja compatível com os direitos humanos e as liberdades fundamentais.A transparência sobre o funcionamento dos sistemas de reconhecimento facial, suas taxas de precisão e suas limitações é essencial para a confiança pública e a responsabilidade democrática.

Estabelecer leis claras e abrangentes relacionadas ao uso da tecnologia de reconhecimento facial, alinhar padrões globais com os quadros nacionais para garantir consistência e exigir auditorias regulares de sistemas de TRF para garantir o cumprimento das diretrizes éticas. Auditoria regular pode ajudar a identificar problemas com precisão ou viés antes que eles levem a sérios danos, enquanto quadros legais claros fornecem orientação para agências de segurança sobre usos apropriados da tecnologia.

Os riscos não devem conduzir a moratórias sobre a utilização de IA ou proibição em determinadas plataformas, mas sim, devem ser chamados a agir para que os governos exijam uma melhor concepção das suas ferramentas IA/ML, o que significa adquirir melhores dados e criar regimes de testes extenuantes que limitem o risco e exponham as deficiências tanto quanto possível, e uma forma de ajudar isso é através da aplicação de normas de IA e políticas de transparência explicáveis que dêem aos governos uma visão racional de cada ação que um sistema toma.

Proteção e retenção de dados

O Estado não deve utilizar empresas de terceiros que violem as três primeiras condições durante a criação ou utilização do seu serviço, e as empresas de terceiros não devem ser capazes de acessar ou ler os dados sensíveis coletados pelo Estado. Os dados biométricos coletados pelos sistemas de reconhecimento facial são altamente sensíveis e pessoais, exigindo proteções robustas contra acesso não autorizado, uso indevido ou violação de dados.

As perguntas sobre retenção de dados são particularmente importantes. Quanto tempo devem ser armazenados dados de reconhecimento facial? Quem deve ter acesso a ele? Em que circunstâncias pode ser compartilhado com outras agências ou países? Essas perguntas não têm respostas claras em muitas jurisdições, criando incerteza sobre as implicações a longo prazo da implantação do reconhecimento facial.

O risco de violação de dados também é significativo. Um banco de dados contendo dados de reconhecimento facial para milhões de pessoas seria um alvo atraente para hackers, serviços de inteligência estrangeira ou organizações criminosas. Se tais dados fossem comprometidos, poderia ser usado para roubo de identidade, perseguição ou outros fins maliciosos, com consequências que poderiam persistir por anos ou décadas.

Perspectivas internacionais e implantação

Padrões de adoção globais

Aplicação da lei: O reconhecimento facial atualmente se classifica como a tecnologia de vigilância de IA mais amplamente adotada globalmente, com uma taxa de adoção de 64%, superando as plataformas de cidades inteligentes e as iniciativas de policiamento inteligente.Essa adoção generalizada reflete tanto o valor percebido pela tecnologia para a segurança quanto as diferentes abordagens regulatórias tomadas por diferentes países.

Países enfrentam diferentes ameaças de segurança e têm diferentes atitudes culturais em relação à privacidade e vigilância, levando a variações significativas na forma como o reconhecimento facial é implantado. Algumas nações têm abraçado a tecnologia com entusiasmo, implantando-a extensivamente em espaços públicos com restrições mínimas. Outras adotaram uma abordagem mais cautelosa, limitando seu uso a contextos específicos de alta segurança ou impondo requisitos rigorosos de supervisão.

Furl et al. (2002) constataram que a TRF desenvolvida e utilizada em países ocidentais foi mais precisa para as imagens faciais caucasianas, enquanto que nos países da Ásia Oriental os algoritmos de TRF foram mais precisos para as imagens faciais da Ásia Oriental, o que evidencia a importância do desenvolvimento de sistemas de reconhecimento facial treinados em diversos conjuntos de dados representativos das populações onde serão implantados.

Cooperação internacional e normas

O terrorismo é uma ameaça transnacional que requer cooperação internacional para combater eficazmente. A tecnologia de reconhecimento facial pode facilitar esta cooperação, permitindo aos países compartilhar informações sobre terroristas conhecidos ou suspeitos e coordenar seus esforços de vigilância. No entanto, esta dimensão internacional também levanta questões complexas sobre compartilhamento de dados, proteção de privacidade e direitos humanos.

Diferentes países têm diferentes padrões legais para proteção da privacidade, retenção de dados e processo devido. Quando os dados de reconhecimento facial são compartilhados além fronteiras, ele pode estar sujeito a proteções menos rigorosas no país receptor do que no país onde foi coletado. Isso cria riscos de que os dados coletados sob estrita proteção de privacidade possam ser usados de forma abusiva por governos estrangeiros com mais fracas salvaguardas.

Organizações internacionais como a Interpol desenvolveram sistemas para facilitar o uso transfronteiriço do reconhecimento facial para o contraterrorismo. Esses sistemas devem navegar por terrenos jurídicos e políticos complexos, equilibrando os benefícios de segurança da partilha de informações contra preocupações sobre privacidade, direitos humanos e soberania nacional. Desenvolver padrões e acordos internacionais para o uso responsável do reconhecimento facial no contraterrorismo continua sendo um desafio em curso.

Percepção e Confiança do Público

Fatores que Influem na Aceitação Pública

Os advogados da FRT enfatizam seu potencial em segurança pública, prevenção de crimes e contraterrorismo, observando que a FRT permite que as agências e organizações de aplicação da lei identifiquem suspeitos e impeçam o acesso não autorizado a áreas protegidas e espaços onde estejam presentes ativos valiosos ou populações vulneráveis. O apoio público ao reconhecimento facial muitas vezes depende do contexto específico em que é utilizado, com maior aceitação para aplicações de segurança em ambientes de alto risco como aeroportos.

A confiança nas instituições que utilizam o reconhecimento facial é um fator crítico na aceitação pública. Quando as pessoas confiam que as agências de segurança usarão a tecnologia de forma responsável e com supervisão adequada, elas são mais propensas a aceitar sua implantação. Por outro lado, quando a confiança é baixa – devido a abusos passados, falta de transparência ou preocupações com preconceitos – a oposição pública tende a ser mais forte.

A adoção bem sucedida e generalizada do TRF depende não só da sua velocidade e precisão, mas também da confiança do público nos algoritmos que alimentam os dispositivos de reconhecimento facial, e essa confiança será difícil de construir enquanto exemplos de viés racial e resultados falsos positivos continuam a ofuscar as melhorias ano após ano que estão sendo feitas na precisão e funcionalidade geral do software.

Construindo Confiança Pública

Promover o engajamento público para enfrentar as preocupações e construir a confiança.O engajamento público significativo requer mais do que simplesmente informar as pessoas sobre a implantação do reconhecimento facial; significa criar oportunidades para um diálogo genuíno sobre os benefícios, riscos e limites adequados da tecnologia.

A transparência sobre o desempenho do sistema é essencial para a construção de confiança. As agências de segurança devem comunicar publicamente taxas de precisão, incluindo desagregações por grupo demográfico, taxas falsas positivas e informações sobre como a tecnologia é usada e supervisionada.Essa transparência permite ao público fazer julgamentos informados sobre se os benefícios de segurança justificam os custos de privacidade e se a tecnologia está sendo usada de forma justa.

Demonstrar a responsabilidade quando os problemas ocorrem também é crucial.Quando sistemas de reconhecimento facial levam a detenções injustas ou outros danos, as agências devem reconhecer essas falhas, compensar as vítimas, e tomar medidas concretas para evitar a recorrência. Um padrão de negar problemas ou desviar a responsabilidade vai corroer a confiança pública e a oposição combustível à tecnologia.

Desenvolvimentos futuros e tecnologias emergentes

Avanços na precisão e capacidade

Nos últimos anos, com arquiteturas avançadas e aumento do número de camadas e parâmetros, os modelos de FR ganharam uma melhoria substancial na sua capacidade de aprender representações faciais complexas, e estas arquiteturas mais profundas, muitas vezes compreendendo mais de cem camadas com milhões de parâmetros, têm aumentado significativamente a capacidade dos sistemas de FR de generalizar em cenários desafiadores, resultando em maior desempenho de reconhecimento global (assim como em vieses reduzido), e, adicionalmente, a disponibilidade de conjuntos de dados maiores e mais diversos tem contribuído para melhores resultados de aprendizagem, uma vez que esses conjuntos de dados, que incorporam variações substanciais demográficas e covariáveis, como poses, iluminação e expressão (PIE), têm facilitado o progresso mensurável na melhoria da precisão e equidade FR.

Os futuros sistemas de reconhecimento facial provavelmente incorporarão múltiplas modalidades biométricas, combinando reconhecimento facial com varredura de íris, análise de marcha, reconhecimento de voz e outras técnicas. Esta abordagem multimodal pode melhorar a precisão, cruzando referências múltiplas assinaturas biométricas, reduzindo o impacto de erros em qualquer sistema único. Também pode tornar mais difícil para os terroristas escaparem da detecção, disfarçando ou alterando sua aparência.

Avanços na inteligência artificial, particularmente em redes neurais e de aprendizagem profunda, continuam a ultrapassar os limites do que os sistemas de reconhecimento facial podem alcançar. Estes sistemas estão a tornar-se melhores em reconhecer rostos em condições desafiadoras, tais como iluminação fraca, oclusão parcial ou ângulos extremos. Eles também estão a tornar-se mais rápidos, permitindo a análise em tempo real de fluxos de vídeo de alta resolução de várias câmaras simultaneamente.

Integração com outros sistemas de inteligência

O futuro do reconhecimento facial no contraterrorismo não reside apenas na melhoria da própria tecnologia, mas na integração com outros sistemas de inteligência e segurança. Quando o reconhecimento facial é combinado com análise comportamental, mapeamento de redes sociais, monitoramento de comunicações e outras fontes de inteligência, ele se torna parte de um sistema abrangente de detecção de ameaças que é maior do que a soma de suas partes.

Por exemplo, o reconhecimento facial poderia identificar uma pessoa de interesse em um aeroporto, desencadeando um escrutínio adicional de seus padrões de viagens, transações financeiras, comunicações e associados conhecidos. Esta abordagem integrada permite que as agências de segurança construam uma imagem mais completa de potenciais ameaças e tomem decisões mais informadas sobre como responder.

No entanto, esta integração também amplia as preocupações de privacidade. Um sistema que combina reconhecimento facial com dados extensivos de outras fontes cria capacidades de vigilância sem precedentes que poderiam ser usadas para monitorar praticamente todos os aspectos da vida das pessoas. Garantir que tais sistemas poderosos são usados apenas para fins de segurança legítimos e com supervisão adequada será um desafio crítico para os decisores políticos.

Contramedidas emergentes e corrida de armas

À medida que a tecnologia de reconhecimento facial se torna mais prevalente no contraterrorismo, os adversários estão desenvolvendo contramedidas para evitar a detecção. Essas variam desde técnicas simples como usar máscaras ou óculos de sol até abordagens mais sofisticadas, como padrões de maquiagem adversariais projetados para confundir algoritmos de reconhecimento facial ou o uso de tecnologia deepfake para criar identidades falsas.

Isto cria uma corrida tecnológica ao armamento em curso, com agências de segurança trabalhando para melhorar os sistemas de reconhecimento facial, enquanto terroristas e outros adversários desenvolvem novas formas de derrotá-los. A eficácia do reconhecimento facial no combate ao terrorismo dependerá não só das capacidades inerentes à tecnologia, mas de como ela pode se adaptar às técnicas de evasão em evolução.

Alguns pesquisadores estão explorando formas de tornar os sistemas de reconhecimento facial mais robustos contra contramedidas, como o uso de imagens de infravermelho para detectar rostos mesmo quando parcialmente cobertos, ou analisando a linguagem da marcha e do corpo, além de características faciais. Outros estão desenvolvendo sistemas de detecção de vida que podem distinguir entre rostos reais e fotografias, máscaras ou vídeos, evitando ataques de spoofing.

Melhores práticas e recomendações

Normas técnicas e ensaios

Os testes de reconhecimento facial em andamento da NIST (FRVTs) avaliaram mais de 400 algoritmos de reconhecimento facial desde 2017, dando uma visão geral da precisão de todos os desenvolvedores participantes. Testes rígidos e independentes de sistemas de reconhecimento facial antes da implantação é essencial para garantir que eles atendam aos padrões mínimos de precisão e justiça.

Os testes devem incluir a avaliação em diversos grupos demográficos para identificar e quantificar quaisquer vieses no desempenho do sistema. Os sistemas que demonstrem níveis inaceitáveis de viés não devem ser implantados até que esses problemas sejam corrigidos.

O monitoramento e avaliação contínuos após a implantação são igualmente importantes.O desempenho do sistema pode degradar ao longo do tempo, à medida que os algoritmos envelhecem ou a população é monitorada.As auditorias regulares podem identificar problemas emergentes e garantir que os sistemas continuem a cumprir padrões de desempenho ao longo de sua vida operacional.

Orientações operacionais

As agências de segurança que utilizam o reconhecimento facial para o contraterrorismo devem estabelecer orientações operacionais claras que especifiquem quando e como a tecnologia pode ser usada. Estas orientações devem abordar questões como: Que nível de confiança é necessária antes de agir? Que verificação adicional é necessária antes de deter alguém baseado em um reconhecimento facial compatível? Como o sistema deve ser usado em conjunto com o julgamento humano?

Nem humanos nem algoritmos são infalíveis, e fraquezas semelhantes de julgamento humano podem afetar o uso de tecnologias de reconhecimento facial, pois os indivíduos podem confiar na saída de um algoritmo – pensando que ele deve ser "objetivo" – mais do que seu próprio julgamento sobre se duas imagens correspondem, apesar de vieses subjacentes ou imprecisões na tecnologia. O treinamento para pessoal que usa sistemas de reconhecimento facial deve enfatizar que a tecnologia é uma ferramenta para auxiliar a tomada de decisões humanas, não uma substituição para julgamento humano.

Os operadores devem ser treinados para compreender as limitações do sistema, incluindo o seu potencial para viés e falsos positivos, devendo ser incentivados a exercer julgamento independente e não a confiar apenas em saídas algorítmicas, particularmente quando as consequências dos erros são graves. Protocolos claros devem especificar o que é necessária investigação ou verificação adicional antes de tomar medidas baseadas em um reconhecimento facial compatível.

Mecanismos de supervisão e responsabilização

Os mecanismos de supervisão robustos são essenciais para garantir que a tecnologia de reconhecimento facial seja utilizada de forma adequada e que os abusos sejam identificados e corrigidos, devendo esta supervisão incluir tanto mecanismos internos no âmbito das agências de segurança como a supervisão externa por organismos independentes, tais como comissários de privacidade, comités legislativos ou revisão judicial.

As agências devem manter registos pormenorizados da forma como são utilizados os sistemas de reconhecimento facial, incluindo as pesquisas realizadas, quem os conduz e quais os resultados das acções, devendo estes registos ser objecto de auditoria regular para garantir o cumprimento das políticas e identificar quaisquer padrões de utilização abusiva.

Os órgãos de supervisão externa devem ter autoridade e recursos para realizar uma revisão significativa dos programas de reconhecimento facial, incluindo o acesso a informações técnicas sobre como os sistemas funcionam, dados de desempenho e registros operacionais. Os organismos de supervisão também devem ter o poder de obrigar mudanças em programas que violem padrões legais ou éticos.

Estudos de Caso e Aplicações do Mundo Real

Implementação de Segurança do Aeroporto e Fronteiras

Aeroportos e passagens de fronteira têm sido um dos mais antigos e extensos adotadores de tecnologia de reconhecimento facial para fins de contraterrorismo. Esses ambientes controlados oferecem várias vantagens para implantação de reconhecimento facial: os viajantes devem passar por pontos de controle designados, iluminação e ângulos de câmera podem ser otimizados, e há uma clara justificativa de segurança para verificação de identidade.

Muitos países implementaram reconhecimento facial em postos de controle de imigração para verificar se os viajantes correspondem às fotos de passaporte e para verificá-las contra listas de terroristas conhecidos ou suspeitos. Estes sistemas processaram milhões de viajantes, com alguns aeroportos relatando que o reconhecimento facial lhes permitiu identificar indivíduos que tentam viajar em documentos fraudulentos ou usando identidades roubadas.

A tecnologia também foi implantada para acelerar o processamento de viajantes confiáveis através de programas que permitem que indivíduos pré-selecionados usem portões automatizados que verifiquem sua identidade através do reconhecimento facial. Esse uso duplo, que aumenta tanto a segurança quanto a conveniência, tem contribuído para a aceitação pública da tecnologia em contextos aeroportuários.

Redes de Vigilância Urbana

Algumas cidades implantaram extensas redes de câmeras equipadas com capacidades de reconhecimento facial para monitorar espaços públicos para ameaças de segurança. Esses sistemas podem rastrear os movimentos de indivíduos em toda a cidade, potencialmente identificando terroristas que realizam vigilância de potenciais alvos ou se encontram com co-conspiradores.

No entanto, as redes de vigilância urbana também geraram controvérsias significativas devido ao seu potencial de vigilância em massa de cidadãos comuns. Os críticos argumentam que esses sistemas criam um efeito de refrigeração na liberdade de expressão e associação, uma vez que as pessoas podem evitar certos locais ou atividades se souberem que estão sendo rastreados.

Algumas jurisdições têm tentado resolver essas preocupações, limitando o uso do reconhecimento facial em espaços públicos a circunstâncias específicas, como investigar crimes graves ou responder a ameaças iminentes, e outras exigem que as câmeras sejam claramente marcadas e que o público seja informado sobre onde o reconhecimento facial é implantado, procurando preservar alguns benefícios de segurança, limitando os aspectos mais intrusivos da vigilância em massa.

Segurança de Eventos e Monitoramento de Multidões

Grandes eventos públicos – como convenções políticas, cimeiras internacionais ou grandes eventos esportivos – apresentam alvos atraentes para terroristas e exigem medidas de segurança intensivas.O reconhecimento facial foi implantado nesses eventos para monitorar multidões e identificar potenciais ameaças entre os participantes.

Essas implantações temporárias oferecem algumas vantagens sobre as redes de vigilância permanentes, limitadas no tempo e no escopo, focadas em eventos específicos de alto risco, em vez de monitoramento contínuo de espaços públicos. Elas podem ser justificadas pela elevada ameaça de segurança associada a eventos importantes que atraem grandes multidões e alvos de alto perfil.

No entanto, os pedidos de segurança de eventos também suscitam preocupações, particularmente quando o reconhecimento facial é usado para monitorar protestos políticos ou manifestações. A tecnologia pode ser usada para identificar e rastrear ativistas políticos, potencialmente arrepiando a expressão política legítima. Orientações claras sobre quando e como o reconhecimento facial pode ser usado em eventos públicos são essenciais para evitar abusos.

O Caminho Avançar: Balanceamento de Segurança e Direitos

Desenvolver Frameworks de Uso Responsável

O futuro do reconhecimento facial no combate ao terrorismo depende do desenvolvimento de quadros que permitam que a tecnologia seja utilizada de forma eficaz para fins de segurança legítima, protegendo as liberdades civis e garantindo a equidade, o que requer diálogo contínuo entre profissionais de segurança, tecnólogos, formuladores de políticas, defensores das liberdades civis e o público.

Esses quadros devem basear-se em princípios claros: o reconhecimento facial só deve ser utilizado quando necessário e proporcional à ameaça de segurança; deve ser aplicado com salvaguardas adequadas contra os abusos; deve estar sujeito a supervisão e responsabilização significativas; e deve ser continuamente avaliado e melhorado para resolver problemas com precisão e viés.

Diferentes contextos podem exigir diferentes abordagens, podendo ser mais aceitável o uso do reconhecimento facial em passagens de fronteira, onde há uma justificativa clara de segurança e expectativa limitada de privacidade, do que o uso contínuo de vigilância de espaços públicos.

Investir em Pesquisa e Desenvolvimento

É essencial continuar o investimento em pesquisas para melhorar a tecnologia de reconhecimento facial, que inclui não só melhorar a precisão e a velocidade, mas especificamente abordar problemas com preconceito e justiça. Estudos em larga escala e padronizados como a ajuda do NIST para descobrir falhas comuns na TRF, e como tanto cientistas como funcionários, os engenheiros que desenvolvem o TRF são encarregados de melhorar os resultados do software em reconhecer imagens com tons de pele mais escura – bem como reduzir a diferença de gênero em taxas falsas positivas, e quando os conjuntos de dados e resultados são colocados em análises rigorosas e minutas, os cientistas têm a capacidade de melhorar o algoritmo e, assim, abordar a questão do viés em futuras iterações do software.

A pesquisa também deve explorar abordagens alternativas que possam oferecer melhores proteções de privacidade, mantendo benefícios de segurança.Por exemplo, sistemas que analisam padrões comportamentais ou detectam anomalias sem identificar indivíduos específicos podem fornecer informações de segurança úteis com menos intrusão de privacidade do que o reconhecimento facial tradicional.

A pesquisa interdisciplinar que reúne cientistas da computação, cientistas sociais, eticistas e estudiosos legais pode ajudar a identificar e enfrentar os desafios complexos colocados pela tecnologia de reconhecimento facial. Compreender não apenas as capacidades técnicas, mas também as implicações sociais, éticas e legais é essencial para o desenvolvimento e implantação responsáveis.

Cooperação internacional e normas

Dada a natureza transnacional do terrorismo, é importante a cooperação internacional em matéria de normas e práticas de reconhecimento facial, devendo os países trabalhar em conjunto para desenvolver normas comuns de rigor, equidade e protecção da privacidade, respeitando simultaneamente as diferentes tradições jurídicas e valores culturais.

Os acordos internacionais poderão estabelecer normas mínimas para os sistemas de reconhecimento facial utilizados no combate ao terrorismo, garantindo que os dados partilhados entre fronteiras cumpram os requisitos básicos de precisão e fiabilidade, bem como estabelecer protocolos para a partilha de dados que protejam a privacidade e os direitos humanos, permitindo simultaneamente uma cooperação eficaz contra as ameaças terroristas.

No entanto, a cooperação internacional deve ser equilibrada contra as preocupações de permitir que regimes autoritários utilizem o reconhecimento facial para fins de repressão política.Os países democráticos devem ser cautelosos quanto à partilha de tecnologia de reconhecimento facial ou dados com governos que não possuam fortes proteções de direitos humanos e Estado de direito.

Conclusão: Navegar pela Paisagem Complexo

A tecnologia de reconhecimento facial representa uma ferramenta poderosa na luta contra o terrorismo, oferecendo capacidades de identificação, vigilância e investigação que foram inimagináveis há apenas algumas décadas. Nova tecnologia deu novo poder ao Estado para automatizar a identificação de terroristas conhecidos que estão organizando ataques aos cidadãos que o Estado deveria proteger, e o poder para fazer isso, se funcionar de forma eficaz, ajudaria a combater o terrorismo.

No entanto, a tecnologia também apresenta desafios significativos relacionados à precisão, viés, privacidade e liberdades civis.Esse problema é prevalente no software de reconhecimento facial, que tende a gerar maior taxa de falsos positivos para pessoas não brancas, e ao contrário do software de reconhecimento facial usado para prender alguém, um algoritmo de TC mal treinado pode matar civis, uma ação que não pode ser desfeita.Os riscos em aplicações de contraterrorismo são particularmente elevados, onde erros podem levar a pessoas inocentes a serem detidas injustamente ou, inversamente, a indivíduos perigosos que evitam a detecção.

O caminho a seguir requer equilibrar estas considerações concorrentes através de um desenvolvimento cuidadoso de políticas, supervisão robusta, melhoria técnica contínua e diálogo público em curso. Nem proibições abrangentes que impeçam qualquer uso do reconhecimento facial para fins de segurança nem implantação desconstrangida sem salvaguardas representa uma abordagem responsável. Em vez disso, quadros específicos do contexto que permitem usos benéficos, ao mesmo tempo que evitam abusos, oferecem a melhor esperança para realizar os benefícios de segurança do reconhecimento facial, protegendo os direitos fundamentais.

À medida que a tecnologia continua evoluindo e se tornando mais capaz, torna-se mais urgente a necessidade de uma governança ponderada. As decisões tomadas hoje sobre como o reconhecimento facial é desenvolvido, implantado e regulamentado moldarão o equilíbrio entre segurança e liberdade para os próximos anos. Garantir que essas decisões sejam informadas por evidências, pautadas por princípios éticos, e sujeitas à responsabilidade democrática é essencial para manter a segurança e a liberdade em um ambiente de ameaça cada vez mais complexo.

Para mais informações sobre tecnologias de segurança biométrica, visite o Programa Nacional de Testes de Reconhecimento de Rosto do Instituto Nacional de Normas e Tecnologia.Para saber mais sobre considerações de privacidade em tecnologia de vigilância, explore recursos da Fundação Electrónica Frontier.Para perspectivas internacionais sobre a regulamentação de reconhecimento facial, consulte o O trabalho do Parlamento Europeu sobre o regulamento sobre IA].