Table of Contents

Forståelse av ansiktsgjenkjenning og dens rolle i moderne sikkerhet

Facial anerkjennelsesteknologi har dukket opp som et av de mest transformative verktøyene i den globale kampen mot terrorisme. Denne kraftige teknologien gjør det mulig å raskt og nøyaktig identifisere enkeltpersoner og hjelpemidler til å hindre terroraktiviteter og gjøre offentlige rom sikrere. Siden sikkerhetstrusler fortsetter å utvikle seg i kompleksitet og skala, er regjeringer og politimyndigheter over hele verden i stadig større grad snu til avanserte biometriske systemer for å beskytte sine borgere og infrastruktur.

Ifølge Markets and Markets forskning, ansiktsgjenkjenning markedet er poisert til å nå $ 8,5 milliarder i 2025, mer enn dobling fra $ 3,8 milliarder i 2020. Denne eksplosive veksten reflekterer ikke bare teknologiens utvidende evner, men også den kritiske betydningen i nasjonale sikkerhetsrammer. Fra flyplasser og grenseoverganger til urbane overvåkingsnettverk og undersøkelsesprosesser, ansiktsgjenkjenning har blitt en uunnværlig komponent i moderne motterrorisme strategier.

I kjernen representerer ansiktsgjenkjenningsteknologi et sofistikert ekteskap av datasyn, kunstig intelligens og biometrisk analyse. Teknologien digitaliserer menneskelige ansiktstrekk i matematiske representasjoner som datamaskiner kan behandle og sammenligne, analysere viktige ansiktsfunksjoner som avstanden mellom personens øyne, nesebrobredde, kjevelinjekonturer og kinnbeinsstruktur, og deretter skaper unike biometriske maler for å sjekke identiteter på tvers av databaser som inneholder millioner av ansikter. Denne evnen til å behandle og matche ansikter med enestående hastighet og skala har i utgangspunktet endret hvordan sikkerhetsbyråer nærmer seg trusselpåvisning og forebygging.

Utviklingen av fasial gjenkjennelsesteknologi

Fra tidlig start til AI-drevet systemer

Teknologien går tilbake til 1960-tallet når en fyr som heter Woodrow Wilson Bledsoe først kom opp med et system for å sortere bilder av ansikter ved hjelp av en spesiell tablett. Disse tidlige systemene var rudimentary etter dagens standarder, som krever manuell inngang og drift under svært kontrollerte forhold. På 70-tallet brukte noen smarte mennesker 21 spesifikke markører, som hårfarge og leppe tykkelse, for å automatisere ansiktsgjenkjenning, og 80-tallet 90-tallet så en ny tilnærming som heter Eigenface, som ble et fundament for moderne systemer.

Den virkelige spill-changer kom i 2000-tallet med sosiale medier, som plutselig var det millioner av taggede bilder på nettet, som gir disse systemene en massiv database å lære fra. Denne overfloden av treningsdata, kombinert med fremskritt i maskinlæring algoritmer, gjorde det mulig ansiktsgjenkjenningssystemer for å oppnå nøyaktighetshastigheter som tidligere var ufattelig. I dag, med AI og dyp læring, ansiktsgjenkjenningssystemer for bedrifter har blitt utrolig nøyaktige og raske.

Hvordan moderne ansiktsgjenkjenningssystemer fungerer

Moderne ansiktsgjenkjenningssystemer opererer gjennom en flertrinns prosess som skjer i millisekunder. Det første trinnet innebærer ansiktsdeteksjon, hvor systemet identifiserer og lokaliserer et ansikt innenfor en bilde- eller videoramme. Dette etterfølges av ansiktsjustering, der systemet normaliserer ansiktets posisjon, størrelse og orientering for å sikre konsekvent analyse uavhengig av vinkelen eller avstand fra kameraet.

Neste kommer trekk, hvor systemet identifiserer og måler særegne ansiktsegenskaper. Disse målingene omdannes til en matematisk representasjon kalt en ansiktsmal eller biometrisk signatur. Til slutt utfører systemet samsvarende ved å sammenligne denne malen mot lagrede maler i en database, generere en likhetsscore som indikerer sannsynligheten for en match.

Moderne ansiktsgjenkjenningssystemer fanger og analyserer bilder av mennesker i de vanskeligste forhold til visjon og bevegelse. Denne evnen er avgjørende for motterroristiske applikasjoner, der mistenkte kan bli fanget på overvåkingsopptak under mindre ennideale forhold, inkludert dårlig belysning, delvis okklusjon eller i skrå vinkler.

Strategiske applikasjoner i motterrorhandlinger

Real-Time Overvåkning og Trusler Oppdagelse

Fasial anerkjennelsesteknologi har dukket opp som et transformativt verktøy i motterrorisme, som tilbyr avanserte evner for å identifisere, overvåke og gripe enkeltpersoner av interesse, med fokus på tre spesifikke applikasjoner: sanntid overvåking, grensekontroll og undersøkelsesprosesser. I overfylte offentlige rom, transportknuter, og under store hendelser, ansiktsgjenkjenningssystemer kan kontinuerlig skanne mengder og umiddelbart varsle sikkerhetspersonell når en person av interesse oppdages.

AI gjør det mulig å automatisk varsle og identifisere store grupper av mennesker i et omfang som ikke er mulig før. Denne evnen er spesielt verdifull under høyprofilerte hendelser der store mengder samles, som politiske rallies, sportslige hendelser eller kulturelle festivaler. Sikkerhetsbyråer kan distribuere ansiktsgjenkjenningssystemer for å overvåke inngangspunkter og massebevegelser, identifisere potensielle trusler før de kan materialisere seg til angrep.

Forbedret sikkerhet gir kontinuerlig overvåkning i høytrafikkområder, identifiserer personer av interesse, og lokaliserer savnede individer med enestående effektivitet. Teknologiens evne til å operere kontinuerlig uten tretthet gjør det til et uvurderlig supplement til menneskelig sikkerhetspersonell, som deretter kan fokusere deres oppmerksomhet på å undersøke varsler og svare på potensielle trusler.

Grensesikkerhet og immigrantkontroll

Grenseoverganger og flyplasser representerer kritiske strupepunkter i motterroristiske innsatser. Hvis en person (inkludert en terrorist) kommer til USA fra utlandet, passerer han eller hun sannsynligvis gjennom et innvandringskontrollpunkt ved inngangshavnen, og fra perspektivet motterrorisme, er dette kontrollpunktet et strupepunkt der den ville-be terroristen er mest sårbar. Facial anerkjennelsesteknologi har blitt et viktig verktøy ved disse kritiske punktene.

FRT er implementert for å verifisere at en person som går gjennom grensekontroll er faktisk personen som er avbildet på et identifikasjonsdokument (f.eks. pass) og Interpol har utplassert sitt prosjekt første system for å hjelpe statlige myndigheter å identifisere utenlandske terrorkjempere (FTFs). Disse systemene kan behandle reisende raskt samtidig som de kontrollerer deres identiteter mot vaktlister av kjente eller mistenkte terrorister, betydelig forbedre sikkerheten uten å skape store flaskeflasker i passasjerflyt.

Biometriske midler kan hindre identitetstyveri og immigrasjonssvindel i bruk av reisedokumenter, som en biometrisk mal av fingeravtrykket ville være knyttet til dokumentet, som pass eller visum, på en strekkode, chip eller magnetisk stripe, som ville gjøre det vanskelig for noen å anta en annens identitet. Når denne flerlags biometriske tilnærmingen kombineres med ansiktsgjenkjenning, skaper en robust forsvar mot terrorister som prøver å komme inn i land ved hjelp av falske dokumenter eller stjålet identiteter.

Forsknings- og forensiske applikasjoner

Biometriske systemer kan identifisere kjente eller mistenkte terrorister ved hjelp av biometrisk ansiktsgjenkjenning eller FaceCheck-metoden når et fotografi er tilgjengelig av den mistenkte terroristen, og dette søkes mot en vaktliste eller database over mistenkte terroristers maler. Denne evnen har vist seg uvurderlig i etter-incident undersøkelser, hvor sikkerhetsbyråer analyserer overvåkingsopptak for å identifisere gjerningspersonene og deres medarbeidere.

Lovhåndhevelseseffektivitet akselererer mistenkelig identifikasjon og saksoppløsning gjennom automatisert matching mot eksisterende poster. I stedet for manuelt å gjennomlese timer med opptak og sammenligne ansikter av øyet, kan etterforskere bruke ansiktsgjenkjenning til raskt å søke gjennom store arkiver av overvåkningsvideo, identifisere mistenkte og spore deres bevegelser på flere steder og tidsperioder.

Det amerikanske militæret har også anerkjent den strategiske verdien av ansiktsgjenkjenning i motterrorisme operasjoner. Det amerikanske spesialoperasjonskommando (USSOCOM) legger grunnlaget for en betydelig utvidelse av sin identitets- og utnyttelsesevne, som beskriver en bred og teknisk ambisiøs visjon for hvordan spesialoperasjonsstyrker samler inn, analyserer og utnytter identitetsrelaterte data under oppdrag, søker innsikt i fem primære teknologiområder: ansiktsgjenkjenning, høyttaleridentifikasjon og stemmesmatching, et fullt integrert SOF-søknadssøknadsøkosystem, rask DNA-analyse og AI- og maskinlæringsanalyse.

Operative fordeler i terrorforebygging

Identifikasjonshastighet og identifikasjonsskala

En av de viktigste fordelene med ansiktsgjenkjennelsesteknologi i motterrorisme er dens evne til å behandle og analysere ansikter med langt større menneskelige evner. Ny teknologi har gitt staten ny makt til å automatisere identifikasjonen av tidligere kjente terrorister som organiserer angrep på borgerne som staten skal beskytte, og makten til å gjøre dette, hvis det fungerer effektivt, ville bidra til å motvirke terrorisme, som ansiktsgjenkjennelsesteknologi lover å gi staten nøyaktig den makten.

Tradisjonelle metoder for å identifisere mistenkte var sterkt avhengig av menneskelig hukommelse og manuell sammenligning av fotografier, prosesser som var tidskrevende og utsatt for feil. En sikkerhetsoffiser som overvåker en overfylt flyplass, kan bare aktivt se et begrenset antall mennesker på en gang, og selv de mest erfarne personell kan gå glipp av en mistenkt i et hav av ansikter. Ansiktsgjenkjenningssystemer, i motsetning til det, kan samtidig overvåke hundrevis eller tusenvis av ansikter, sammenligne hver mot omfattende databaser i sanntid.

Denne evnen er spesielt avgjørende i tidsfølsomme situasjoner der hvert sekund teller. Når etterretningsbyråer mottar informasjon om en forestående trussel, kan ansiktsgjenkjenningssystemer raskt implementeres for å skanne overvåkingsnettverk over hele byer, potensielt lokalisere mistenkte i løpet av minutter i stedet for timer eller dager.

Forbedret overvåkningsevne

Gjennom biometrisk anerkjennelse, dyp læring algoritme og big data analyses, blir nøyaktigheten og effektiviteten av etterretningsarbeid forbedret og tradisjonell overvåking arbeid blir en fremtidsrettet og defensiv kamp. Facial anerkjennelse forvandler overvåking fra et reaktivt verktøy som brukes primært til post-incident undersøkelse til et proaktivt system som kan forhindre angrep før de oppstår.

Teknologien gjør det mulig for sikkerhetsbyråer å skape omfattende nettverk av overvåkingskameraer som fungerer som et integrert system i stedet for isolerte observasjonspunkter. Når en person av interesse oppdages på ett sted, kan systemet spore sine bevegelser over nettverket, gi sikkerhetspersonell med real-time intelligens om sine aktiviteter og foreninger. Denne evnen er uvurderlig for å forstå terroristnettverk og identifisere tidligere ukjente medlemmer av ekstremistiske organisasjoner.

Videre kan ansiktsgjenkjenningssystemer fungere kontinuerlig uten begrensninger av menneskelig oppmerksomhet og tretthet. Selv om menneskelige operatører kan gå glipp av kritiske detaljer under lange skift eller perioder med lav aktivitet, opprettholder automatiserte systemer konsekvent overvåking, sikrer at ingen potensiell trussel går ubemerket.

Denterrenseffekt

tilstedeværelsen av ansiktsgjenkjenningssystemer kan fungere som en kraftig avskrekkende til terroraktiviteter. Når potensielle angripere vet at deres ansikter vil bli fanget og analysert av sofistikerte biometriske systemer, står de overfor betydelig høyere risiko for identifikasjon og forståelse. Denne bevisstheten kan forstyrre planleggingsprosessene, tvinge terrorister til å vedta mindre effektive taktikk eller avskrekke angrep helt.

Avskrekkingseffekten strekker seg utover den umiddelbare trusselen om identifikasjon. Facial anerkjennelsessystemer skaper en permanent digital rekord som kan analyseres lenge etter en hendelse oppstår. Dette betyr at selv om terrorister klarer å unngå umiddelbar deteksjon, etterlater de bevis som kan brukes til å identifisere dem senere, spore deres bevegelser og avdekke sine nettverk. Denne langsiktige ansvarsfriheten legger til et annet lag av risiko som terrorister må vurdere når de planlegger operasjoner.

Resursoptimering

Facial anerkjennelsesteknologi tillater sikkerhetsbyråer å optimalisere sine begrensede ressurser ved å automatisere rutinemessige identifikasjonsoppgaver og fokusere på menneskelig kompetanse der det er mest nødvendig. I stedet for å tildele personell å manuelt overvåke overvåkingsmaterier eller sjekke dokumenter ved grenseoverganger, kan byråer distribuere ansiktsgjenkjenningssystemer for å håndtere disse oppgavene mens menneskelige operatører fokuserer på å undersøke varsler, gjennomføre intervjuer og ta kritiske beslutninger.

Denne optimaliseringen er spesielt viktig i henhold til omfanget av moderne sikkerhetsutfordringer. Med millioner av reisende som passerer gjennom flyplasser daglig og utallige timers overvåkingsopptak som genereres over byområder, vil det være umulig å manuelt gjennomlese all denne informasjonen. Facial anerkjennelsessystemer kan behandle denne enorme mengden data automatisk, flagging bare den lille fraksjonen som krever menneskelig oppmerksomhet.

Kritiske utfordringer og tekniske begrensninger

Nøyaktighet og falske positive

Til tross for betydelige fremskritt i ansiktsgjenkjenningsteknologien, er nøyaktigheten fortsatt en kritisk bekymring, spesielt i motterroristiske anvendelser der konsekvensene av feil kan være alvorlige. Ansiktsgjenkjennelsesmetoden er identifisert med teknologiske ufullkommenheter og svakheter, men kan brukes operasjonelt for å minimere dens svakheter. Å forstå disse begrensningene er avgjørende for å distribuere teknologien på en ansvarlig og effektiv måte.

Selv om mennesker generelt kan utføre ansiktsgjenkjenningsprosessene ganske godt, er disse aktivitetene fortsatt svært utfordrende for teknologiske systemer, som med mindre fotografiet er tatt under svært kontrollerte forhold, kan systemet ha problemer med å identifisere individet eller til og med å oppdage ansiktet i bildet, og systemet fungerer best når miljøfaktorer som kameravinkel, belysning, ansiktsuttrykk og andre, kontrolleres i størst mulig grad.

Falske positive ting ⁇ instansjoner der systemet feilaktig identifiserer noen som en person av interesse ⁇ legger spesielle utfordringer i motterroristiske sammenhenger. De som teknologien ikke fungerer for, vil ikke være i stand til å bli verifisert av FRTs ⁇ forårsake mistanke og ytterligere påtrengende overvåking, og dessuten vil de bli feilidentifisert oftere, noe som kan føre til at de mistenkes som terrorist eller andre alvorlige kriminelle. Slike feilidentifikasjoner kan føre til at uskyldige mennesker blir arrestert, avhørt eller utsatt for invasive sikkerhetsprosedyrer, med betydelige personlige og sosiale konsekvenser.

NIST har nylig kjørt en storskala test fokusert på å identifisere bias i FRT, med spesiell vekt på den falske positive hastigheten - dvs. frekvensen som en algoritme feilidentifiserer en persons bilde, og resultatene viste at ⁇ tvers over demografi, falske positive hastigheter varierer ofte fra faktorer på 10 til over 100 ganger - avhengig av hvilke algoritmer som er i bruk. Disse variasjonene i feilhastigheter på tvers av ulike systemer fremhever betydningen av strenge testing og validering før implementering av ansiktsgjenkjenning teknologi i høy-takts sikkerhetsapplikasjoner.

Demografisk bias og algoritmisk fairness

En av de mest alvorlige utfordringene som står overfor ansiktsgjenkjennelsesteknologi er demografisk bias ⁇ tendensen til at systemer skal utføre mindre nøyaktig på visse demografiske grupper. Tre kommersielt frigitte ansiktsanalyseprogrammer fra store teknologiselskaper demonstrerer både hudtype og kjønnsforskjellinger, og i forskernes eksperimenter var de tre programmene feilrater for å bestemme kjønn av lyshudet menn aldri verre enn 0,8 prosent, men for mørkere skinnede kvinner, men feilratene ballongerte imidlertid til mer enn 20 prosent i ett tilfelle og mer enn 34 prosent i de andre to.

Feilratet for lysskinnede menn er 0,8%, sammenlignet med 34,7% for mørkere hudede kvinner, ifølge en studie fra 2018 med tittelen ⁇ Gender Shades ⁇ av Joy Buolamwini og Timnit Gebru, publisert av MIT Media Lab. Denne dramatiske forskjellen i nøyaktighetsgraden øker alvorlige bekymringer om rettferdighet og lik behandling under loven når ansiktsgjenkjenning brukes i sikkerhets- og håndhevings sammenhenger.

Hudtone påvirker betydelig verifiseringsnøyaktighet, med lettere hudtoner konsekvent overprøverende middel-mørke toner. Forskning har også funnet ut at mannlige personer generelt oppnådde bedre gjenkjennelsesnøyaktighet enn kvinnelige personer, tilskrevet faktorer som okklusjon forårsaket av lengre hår og endringer i ansiktsutseende på grunn av makeup.

I august 2023 saksøkte en svart kvinne Detroit Police Department etter å ha blitt arrestert av politifolk som bruker dårlig kalibrert ansiktsgjenkjenning programvare, og dette problemet er utbredt i ansiktsgjenkjennelse programvare, som har en tendens til å generere høyere hastighet av falske-positiver for ikke-hvite mennesker. Slike hendelser demonstrerer de virkelige konsekvensene av algoritmisk fordom og understreker det presserende behovet for mer rettferdig ansiktsgjenkjenningssystemer.

NIST-studien fant i tillegg fordomsfulle resultater når det kom til østasiatiske, indianske, amerikanske, Alaskanske og stillehavsøyere ansikter. Overlevelsen av disse biasene i flere demografiske grupper tyder på at problemet er systemisk i stedet for isolert til spesifikke populasjoner eller algoritmer.

Root årsaker til Bias

Facial anerkjennelsesteknologi har gjort store skritt i nøyaktighet takket være avansert kunstig intelligens (AI) modeller som er utdannet på massive datasett av ansiktsbilder, men disse datasettene mangler ofte mangfold i form av rase, etnisitet, kjønn og andre demografiske kategorier, noe som forårsaker ansiktsgjenkjennelsessystemer til å utføre verre på underrepresenterte demografiske grupper sammenlignet med grupper som er ulikt i opplæringsdataene.

Forskjellsproblemet stammer fra flere kilder. Historiske datasett som brukes til å trene ansiktsgjenkjennelse algoritmer har hovedsakelig featured ansikter av hvite menn, som reflekterer demografien til forskerne og institusjonene som skapte dem. Når algoritmer lærer å gjenkjenne ansikter primært fra dette begrensede datasettet, de naturlig utføre bedre på lignende ansikter og slite med ansikter som skiller seg betydelig fra deres treningsdata.

Mange tilskriver de fleste av disse problemene til ubalanserte datasett. Men problemet strekker seg utover enkel representasjon. Selv når datasett inkluderer ulike ansikter, andre faktorer som belysningsforhold, kamerakvalitet og bildeoppløsning kan uforholdsmessig påvirke kvaliteten på bilder for personer med mørkere hudtoner, ytterligere sammensatt nøyaktighet problemer.

Forsøk på å gi Bias

Forskere og teknologiselskaper har anerkjent alvorligheten av biasproblemet og jobber aktivt på løsninger. I 2018, Microsoft annonserte at deres kommersielt tilgjengelige FRT hadde gjennomgått oppdateringer for å forbedre ytelsen på tvers av rase- og kjønnskategorier ved å utvide datasettene som brukes til å trene maskinlæring algoritmer og ved å forbedre ansiktsklassifisering for større nøyaktighet, og disse forbedringene resulterte i, ifølge selskapet, 20 ganger lavere feilrater for mørkere hudtoner og 9 ganger lavere feilrater for kvinner.

Forskere har tre modeller for ansiktsgjenkjenning som ArcFace, AdaFace og ElasticFace ⁇ på et stort, balansert syntetisk datasett som de genererte, og resultatet ikke bare økt generell nøyaktighet sammenlignet med modeller som er utdannet på eksisterende ubalanserte datasett, men også betydelig redusert demografisk bias, med de utdannede modellene som viser mer rettferdig nøyaktighet i alle rasegrupper sammenlignet med eksisterende modeller som viser dårlig ytelse på underrepresenterte minoriteter.

På FairFace-datasettet ble nøyaktigheten forbedret fra 92,58% til 96,47%, mens graden av Bias (DoB) ble redusert fra 3,86 til 1,16, hvilket representerer en reduksjon på ca. 70%, og spesielt ble signifikante ytelsesgevinster observert for underrepresenterte grupper, såsom en forbedring av nøyaktigheten for svarte kvinner fra 80,2 til 90,86%, samtidig som sterk ytelse for allerede vel representerte grupper ble opprettholdet.

Debiaserende adversarialnettverk (DebFace), bruker en bilde-til-feature-koder, fire attributtklassifiseringsklassifiseringsmaskiner, en distribusjonsklassifiserings- og et funksjonsaggregatnettverk, og de fire klassifiserings-gender, alder, race og identitet ⁇ vender potensielle fordommer til informerte funksjoner og forbedrer dermed ytelsen på tvers av underrepresenterte grupper. Disse arkitektoniske innovasjonene demonstrerer at biasredusering er teknisk mulig, selv om betydelig arbeid for å implementere disse løsningene på tvers av alle utplasserte systemer.

Personvern og sivile friheter

Mass Overvåkning og personvernrettigheter

De fleste alt som er kraftig har en mørk side, og FRT er ikke noe unntak, da det reiser alvorlige problemer og bekymringer om privatliv, etikk og generelle samfunnspåvirkning. Utførelsen av ansiktsgjenkjennelsesteknologi for motterroristiske formål har utløst intens debatt om balansen mellom sikkerhet og personvern, med kritikere som hevder at utbredt overvåking truer grunnleggende sivile friheter.

Juridisk, etisk og personvernutfordringer rundt masseovervåkning inkluderer bekymringer om feilidentifisering, svindel og fordom i databasen. Evnen til å spore enkeltpersoners bevegelser på tvers av offentlige rom uten deres kunnskap eller samtykke, reiser dype spørsmål om arten av privatliv i det moderne samfunnet og de passende grensene for statlig overvåkingsmakt.

Kritikere peker på betydelige personvernrisikoer og potensielle brot på sivile friheter, som gir bekymringer om uautorisert datainnsamling, mangel på samtykke og potensialet for funksjonsspreiing - gjennom hvilke data som samles inn til ett formål, brukes til et ikke-relatert formål uten den enkeltes kunnskap eller samtykke. Frykten er at systemer som i utgangspunktet kan bli brukt til å motterrorisme gradvis kan utvides til å overvåke vanlige borgere som er engasjert i lovlige aktiviteter, og skape en overvåkingstilstand som fryser fritt uttrykk og assosiasjon.

Årsakene som er lagt fram for et slikt forbud er at FRT lider av overveldende bias som resulterer i at fordelene og skadene blir ulikt fordelt blant grupper, vil staten uunngåelig bruke disse teknologiene til uegitime formål, og at eksistensen av FRTs avkjøler vår oppførsel (dvs. forårsaker folk til å sensurere seg selv av frykt for overvåking). Denne kjølig effekt kan undergrave demokratisk deltakelse ved å disvolvere folk fra å delta i protester, politiske sammenkomster eller andre offentlige samlinger der de kan identifiseres og spores.

Reguleringsresponser og forbud

I 2019 ble San Francisco den første amerikanske byen til å forby ansiktsgjenkjenningsteknologi (FRT), spesielt å avvise bruken av politiet og andre byråer, og siden da har flere andre amerikanske byer implementert sine egne lignende FRT-forbud, med Bostons byrådsmedlemmer eksplisitt fremheve en bestemt sak: teknologiens bias. Disse forbud gjenspeiler voksende offentlig bekymring om teknologiens potensial for misbruk og dets demonstrerte problemer med nøyaktighet og rettferdighet.

Mer enn et dusin store byer har forbudt teknologien, inkludert Minneapolis, Boston og San Francisco. Imidlertid har disse lokale forbud ikke hindret føderale byråer og mange andre jurisdiksjoner i å fortsette å distribuere ansiktsgjenkjenning for sikkerhetsformål, noe som skaper et patchwork av forskrifter som varierer betydelig etter plassering.

EU har tatt en mer omfattende tilnærming, med bruk av ansiktsgjenkjenningsteknikker i sammenheng med fredelig protest som øker risikoen for masseovervåking og konsekvensene for beskyttelse av menneskerettighetene. Europeiske reguleringsmyndigheter har foreslått strenge begrensninger for bruk av ansiktsgjenkjenning i offentlige rom, med noen som argumenterer for fullstendige forbud, bortsett fra i smalt definerte tilfeller som involverer alvorlige forbrytelser eller overhengende trusler.

Balansesikkerhet og frihet

Det er avgjørende at hvis staten kan bruke denne teknologien til å øke sin makt til å motvirke terrorisme, er denne makten begrenset slik at misbruk og kjølt oppførsel ikke oppstår, og staten må skape institusjonelle begrensninger som bare tillater at FRT brukes på steder der folk ikke (og ikke) får en rimelig forventning om privatliv (f.eks flyplasser, grenseoverganger).

Kameraene som er utstyrt med FRT må være merket for å forsikre publikum om at de ikke blir overlevet på steder som de bør ha en rimelig forventning til privatliv, og FRT bør begrenses til å finne alvorlige kriminelle (f.eks. terrorister). Disse foreslåtte restriksjonene representerer et forsøk på å bevare sikkerhetsfordelene ved ansiktsgjenkjenning samtidig som det begrenser potensialet for misbruk og beskyttelse av sivile friheter.

FRT representerer et kraftig verktøy i kontraterrorismen arsenal, som muliggjør sikkerhetstiltak som tidligere var uoppnåelig, men dette er en teknologi som krever en ekstremt judicious balanse mellom sine klare fordeler og de viktige etiske hensyn som det er forbundet med, og i dag, kan det være tilfelle at balansen er tippet for langt til fordel for FRTs klare fordeler og ikke nok til å favør av rettferdighet, privatliv og etisk integritet som bør veilede sin utplassering.

Etiske og juridiske rammer

Konstitusjonelle og menneskerettighetsoverveielser

FRT-programmer som brukes av politiet i å identifisere kriminelle mistenkte er vesentlig mer feilprone på ansiktsbilder som viser mørkere hudtoner og kvinner sammenlignet med ansiktsbilder som viser kaukasiske menn, og denne biasen kan føre til at borgerne blir feilaktig undersøkt av politiet langs rase- og kjønnslinjer, med lovhåndhevelse bruk av partisk FRT er i strid med det klassiske liberale kravet om at regjeringen behandler alle borgere like før loven.

Den like beskyttelsesklausulen i mange grunnlover krever at regjeringstiltak som ikke diskriminerer, basert på rase, kjønn eller andre beskyttede egenskaper. Når ansiktsgjenkjenningssystemer demonstrerer systematisk fordomsmessig mot visse demografiske grupper, kan deres bruk av regjeringsbyråer bryte disse konstitusjonelle beskyttelsene. Dette skaper et juridisk dilemma: mens teknologien kan øke sikkerheten, kan dens partisk ytelse gjøre bruken ukonstitusjonell eller i strid med menneskerettighetsretten.

Dataforskere har uttrykt bekymring for bruk av FRT av lovhåndhevelse til å identifisere kriminelle mistenkte, og det er svært sannsynlig at slik programvare brukes til å identifisere mistenkte, og dermed en feil i utgangen av en ansiktsgjenkjennelse algoritme som brukes som inngang til andre oppgaver kan ha alvorlige konsekvenser, som noen kan feilaktig anklages for en forbrytelse basert på feilaktig, men sikker feilidentifikasjon av forbryteren fra sikkerhetsvideoopptak analyse.

Transparens og ansvarlighet

Det anbefaler sterkt regulering, internasjonalt samarbeid og gjennomsiktig styring for å sikre at bruken av AI ansiktsgjenkjenning teknologi er kompatibel med menneskerettighet og grunnleggende friheter. Transparens om hvordan ansiktsgjenkjenningssystemer fungerer, deres nøyaktighet og deres begrensninger er avgjørende for offentlig tillit og demokratisk ansvarlighet.

Etablere lover som er klare og omfattende knyttet til bruk av ansiktsgjenkjenning teknologi, tilpasse globale standarder med nasjonale rammer for å sikre konsistens, og gi regelmessige revisjoner av FRT-systemer for å sikre overholdelse av etiske retningslinjer. Regelmessig revisjon kan bidra til å identifisere problemer med nøyaktighet eller fordom før de fører til alvorlige skader, mens klare juridiske rammer gir veiledning til sikkerhetsbyråer om hensiktsmessig bruk av teknologien.

Risikoene bør ikke føre til moratorier om bruk av AI eller forbud på visse plattformer, men snarere bør de være oppfordrer til å handle for regjeringer til å kreve bedre design for sine AI/ML-verktøy, noe som betyr å skaffe bedre data og skape anstrengende testsystemer som begrenser risiko og avslører mangler så mye som mulig, og en måte å bistå dette på er å håndheve forklarelige AI-standarder og åpenhetspolitikk som gir regjeringene innsikt til rasjonaliteten for alle tiltak som et system tar.

Databeskyttelse og vedlikehold

Staten bør ikke bruke tredjepartsselskaper som bryter de tre første betingelsene under opprettelsen eller bruken av tjenesten, og tredjepartsselskaper bør ikke kunne få tilgang til eller lese sensitive data som er samlet inn av staten. Biometriske data som samles inn av ansiktsgjenkjenningssystemer er svært følsomme og personlige, noe som krever robust beskyttelse mot uautorisert tilgang, misbruk eller databrudd.

Spørsmål om databevaring er spesielt viktig. Hvor lenge bør ansiktsgjenkjenning data lagres? Hvem bør ha tilgang til det? Under hvilke omstendigheter kan det deles med andre byråer eller land? Disse spørsmålene mangler klare svar i mange jurisdiksjoner, noe som skaper usikkerhet om de langsiktige konsekvensene av ansiktsgjenkjenning distribusjon.

Risikoen for databrudd er også betydelig. En database som inneholder ansiktsgjenkjenningsdata for millioner av mennesker ville være et attraktivt mål for hackere, utenlandske etterretningstjenester eller kriminelle organisasjoner. Hvis slike data ble kompromittert, kan det brukes til identitetstyveri, stalking eller andre skadelige formål, med konsekvenser som kan vare i mange år eller tiår.

Internasjonale perspektiver og nedbryting

Globale adopsjonsmønster

Rettshåndhevelse: Anerkjennelse i dag rangerer som den mest brukte AI-overvåkningsteknologien globalt, med en 64% adopsjonsrate, som overstiger både smarte byplattformer og smarte polistikkinitiativer. Denne utbredte adopsjonen gjenspeiler både teknologiens oppfattede verdi for sikkerhet og de varierende regulatoriske tilnærminger tatt av ulike land.

Land står overfor ulike sikkerhetstrusler og har ulike kulturelle holdninger til personvern og overvåking, noe som fører til betydelige variasjoner i hvordan ansiktsgjenkjenning utplasseres. Noen land har omfavnet teknologien entusiastisk, og distribuerer den mye i offentlige rom med minimale begrensninger. Andre har tatt en mer forsiktig tilnærming, begrenser bruken til spesifikke høysikkerhets sammenhenger eller pålegger strenge tilsynskrav.

Furl et al. (2002) fant at FRT utviklet og brukt i vestlige land var mer nøyaktige for kaukasiske ansiktsbilder, mens i østasiatiske land var FRT algoritmer mer nøyaktige for østasiatiske ansiktsbilder. Dette funnet understreker viktigheten av å utvikle ansiktsgjenkjenningssystemer som er utdannet på ulike datasett som er representative for de befolkningen der de vil bli utplassert.

Internasjonalt samarbeid og standarder

Terrorisme er en transnasjonal trussel som krever internasjonalt samarbeid for å bekjempe effektivt. Facial anerkjennelsesteknologi kan lette dette samarbeidet ved å gjøre det mulig for land å dele informasjon om kjente eller mistenkte terrorister og koordinere deres overvåkingsinnsats. Imidlertid reiser denne internasjonale dimensjonen også komplekse spørsmål om datadeling, personvern og menneskerettigheter.

Ulike land har ulike juridiske standarder for personvern, dataoppbevaring og forfall. Når ansiktsgjenkjenning data deles på tvers av grenser, kan det være underlagt mindre strenge beskyttelser i mottakerlandet enn i det landet der det ble samlet inn. Dette skaper risiko for at data som samles inn under strenge personvern kan misbrukes av utenlandske myndigheter med svakere sikkerhetstiltak.

Interpol har utviklet systemer for å lette grenseoverskridende bruk av ansiktsutmerkelse for motterrorisme. Disse systemene må navigere i komplekst rettslig og politisk terreng, balansere sikkerhetsfordelene ved informasjonsdeling mot bekymringer om personvern, menneskerettighet og nasjonal suverenitet. Utvikle internasjonale standarder og avtaler for ansvarlig bruk av ansiktsgjenkjenning i motterrorisme er fortsatt en pågående utfordring.

Offentlige oppfatninger og tillit

Faktorer som påvirker offentlig aksept

Advokater fra FRT understreker sitt potensial i offentlig sikkerhet, kriminalitetsforebygging og motterrorisme, og bemerker at FRT gjør det mulig for rettshåndhevende byråer og organisasjoner å identifisere mistenkte og hindre uautorisert tilgang til beskyttede områder og rom der verdifulle eiendeler eller sårbare befolkninger er tilstede. Offentlig støtte for ansiktsgjenkjenning avhenger ofte av den spesifikke sammenhengen det brukes i, med høyere aksept for sikkerhetsapplikasjoner i høyrisikomiljøer som flyplasser.

Stol på institusjoner som distribuerer ansiktsgjenkjenning er en kritisk faktor i offentlig aksept. Når folk stoler på at sikkerhetsbyråer vil bruke teknologien ansvarlig og med riktig tilsyn, er de mer sannsynlig å akseptere sin utplassering. Omvendt, når tilliten er lav - på grunn av tidligere overgrep, mangel på åpenhet eller bekymringer om fordoms-offentlig opposisjon pleier å være sterkere.

Den vellykkede og utbredde adopsjonen av FRT avhenger ikke bare av dens hastighet og nøyaktighet, men også av publikums tillit til algoritmene som driver ansiktsgjenkjenningsanordninger, og at tillit vil være vanskelig å bygge, mens eksempler på raseforskjellighet og falske positive resultater fortsetter å overskygge de år-for-årlige forbedringene som gjøres i programvarens totale nøyaktighet og funksjonalitet.

Bygge offentlig tillit

Foster offentlig engasjement for å takle bekymringer og bygge tillit. Betydelig offentlig engasjement krever mer enn bare å informere folk om ansiktsgjenkjennelse distribusjon; det betyr å skape muligheter for ekte dialog om teknologiens fordeler, risikoer og passende grenser.

Transparens om systemytelse er avgjørende for å bygge tillit. Sikkerhetsbyråer bør offentlig rapportere nøyaktighetshastigheter, inkludert nedbrytninger fra demografisk gruppe, falske positive priser og informasjon om hvordan teknologien brukes og overvåkes. Denne åpenheten gjør det mulig for publikum å gjøre informerte vurderinger om om sikkerhetsfordelene rettferdiggjør personvernkostnader og om teknologien brukes rettferdig.

Å demonstrere ansvarlighet når det oppstår problemer er også avgjørende. Når ansiktsgjenkjenningssystemer fører til feilaktige interneringer eller andre skader, må byråene erkjenne disse feilene, kompensere ofrene og ta konkrete skritt for å hindre gjentakelse. Et mønster for å nekte problemer eller avbøyelse av ansvaret vil erodere offentlig tillit og drivstoffmotstanden til teknologien.

Fremtidig utvikling og utviklingsteknologi

Fremskritt i nøyaktighet og evne

I de senere år, med avanserte arkitekturer og økning i antall lag og parametere, har FR-modeller fått en betydelig forbedring i deres evne til å lære komplekse ansiktsrepresentasjoner, og disse dypere arkitekturer, ofte omfattende over hundre lag med millioner av parametre, har betydelig forbedret FR-systemers evne til å generalisere på tvers av utfordrende scenarier, noe som resulterer i høyere total gjenkjennelsesytelse (og redusert bias), og dessuten har tilgjengeligheten av større, mer mangfoldige datasett bidratt til bedre læringsresultater, som disse datasettene, som omfatter betydelige variasjoner demografier og kovariater som positur, belysning og uttrykk (PIE), lett å måle fremgang i å forbedre både nøyaktighet og rettferdighet FR.

Fremtidig ansiktsgjenkjenningssystem vil sannsynligvis inkludere flere biometriske metoder, kombinere ansiktsgjenkjenning med iris-skanning, ganganalyse, stemmegjenkjenning og andre teknikker. Denne multimodale tilnærmingen kan forbedre nøyaktigheten ved å krysse flere biometriske signaturer, redusere virkningen av feil i et enkelt system. Det kan også gjøre det vanskeligere for terrorister å unnslippe deteksjon ved å disguizere eller endre utseendet.

Fremskritt i kunstig intelligens, spesielt i dyp læring og nevrale nettverk, fortsetter å presse grensene for hvilke ansiktsgjenkjennelsessystemer som kan oppnås. Disse systemene blir bedre til å gjenkjenne ansikter under utfordrende forhold, som dårlig belysning, delvis okklusjon eller ekstreme vinkler. De blir også raskere, noe som gjør det mulig å analysere videostrømmer med høy oppløsning fra flere kameraer samtidig.

Integrasjon med andre etterretningssystemer

Fremtiden for ansiktsgjenkjenning i kontraterrorisme ligger ikke bare i å forbedre teknologien i seg selv, men i å integrere den med andre etterretnings- og sikkerhetssystemer. Når ansiktsgjenkjenning kombineres med atferdsanalyse, sosiale nettverk kartlegging, kommunikasjonsovervåking og andre etterretningskilder, blir det en del av et omfattende trussel deteksjonssystem som er større enn summen av sine deler.

For eksempel kan ansiktsgjenkjenning identifisere en person av interesse på en flyplass, utløse ytterligere kontroll av sine reisemønstre, finansielle transaksjoner, kommunikasjon og kjente samarbeidspartnere. Denne integrerte tilnærmingen gjør det mulig for sikkerhetsbyråer å bygge et mer fullstendig bilde av potensielle trusler og ta mer informerte beslutninger om hvordan man skal reagere.

Denne integrasjonen forsterker imidlertid også personvernproblemer. Et system som kombinerer ansiktsgjenkjenning med omfattende data fra andre kilder skaper enestående overvåkingsevner som kan brukes til å overvåke nesten alle aspekter av menneskers liv. Å sikre at slike kraftige systemer brukes bare til legitime sikkerhetsformål og med passende tilsyn vil være en kritisk utfordring for politikere.

Våpen og motmål

Etter hvert som ansiktsgjenkjenningsteknologien blir mer utbredt i motterrorisme, utvikler motstandere motsetninger for å unngå deteksjon. Disse intervallene fra enkle teknikker som å bære masker eller solbriller til mer sofistikerte tilnærminger som adversarial makeup mønstre designet for å forvirre ansiktsgjenkjenning algoritmer eller bruk av dypfalsk teknologi for å skape falske identiteter.

Dette skaper en pågående teknologiske våpenkappløp, med sikkerhetsbyråer som arbeider for å forbedre ansiktsgjenkjenningssystemer mens terrorister og andre motstandere utvikler nye måter å beseire dem. Effektiviteten av ansiktsgjenkjenning i motterrorisme vil ikke bare avhenge av teknologiens iboende evner, men på hvor godt det kan tilpasse seg utviklingen av undviklingsteknikker.

Noen forskere utforsker måter å gjøre ansiktsgjenkjenningssystemer mer robuste mot mottiltak, som å bruke infrarøde bilder til å oppdage ansikter selv når de er delvis dekket, eller analysere gang- og kroppsspråk i tillegg til ansiktsfunksjoner. Andre utvikler deteksjonssystemer som kan skille mellom ekte ansikter og fotografier, masker eller videoskjermer, som forhindrer spoofing angrep.

Beste praksis og anbefalinger

Tekniske standarder og testing

NISTs pågående Face Recognition Provider (FRVTs) har evaluert over 400 ansiktsgjenkjennelsesalgoritmer siden 2017, og gitt innsikt i de generelle nøyaktighetsklassifiseringene til alle deltakende utviklere. Rigorøs, uavhengig testing av ansiktsgjenkjenningssystemer før distribusjon er avgjørende for å sikre at de oppfyller minstestandardene for nøyaktighet og rettferdighet.

Test bør omfatte evaluering av ulike demografiske grupper for å identifisere og kvantifisere eventuelle fordommer i systemytelse. Systemer som demonstrerer uakseptabelt nivå av bias bør ikke utvises før disse problemene er korrigert. Test bør også vurdere ytelse under realistiske driftsforhold, ikke bare i kontrollerte laboratoriemiljøer.

Kontinuerlig overvåking og evaluering etter utplassering er like viktig. Systemytelse kan nedgradere over tid som algoritmer alder eller som befolkningen overvåkes endringer. Regelmessige revisjoner kan identifisere nye problemer og sikre at systemer fortsetter å oppfylle ytelsesstandarder gjennom hele sitt driftsliv.

Retningslinjer for drift

Sikkerhetsbyråer som distribuerer ansiktsgjenkjenning for motterrorisme bør etablere klare operasjonelle retningslinjer som angir når og hvordan teknologien kan brukes. Disse retningslinjene bør adressere spørsmål som: Hvilket nivå av samsvarstillit kreves før handling? Hvilken ytterligere verifisering kreves før du holder noen basert på ansiktsgjenkjennelseskamp? Hvordan bør systemet brukes i forbindelse med menneskelig dømmekraft?

Verken mennesker eller algoritmer er ufeilbar, og lignende svakheter i menneskelig dømmekraft kan påvirke bruken av ansiktsgjenkjenning teknologi, da enkeltpersoner kan stole på produksjonen av en algoritme - tenker at det må være ⁇ objektivt ⁇ mer enn deres egen vurdering om hvorvidt to bilder matcher, til tross for underliggende fordommer eller unøyaktigheter i teknologien. Trening for personell som bruker ansiktsgjenkjenningssystemer bør understreke at teknologien er et verktøy for å hjelpe menneskelig beslutningstaking, ikke en erstatning for menneskelig dømmekraft.

Operatørene bør trenes til å forstå systemets begrensninger, inkludert dets potensial for bias og falske positive. De bør oppfordres til å utøve uavhengig dom og ikke bare å stole på algoritmiske utganger, spesielt når konsekvensene av feil er alvorlige. Klare protokoller bør angi hvilke ytterligere undersøkelser eller verifisering som kreves før handling basert på ansiktsgjenkjennelseskamp.

Oversikts- og ansvarsmekanismer

Robuste tilsynsmekanismer er avgjørende for å sikre at ansiktsgjenkjenningsteknologi brukes på riktig måte og at misbruk er identifisert og korrigert. Denne tilsynet bør omfatte både interne mekanismer innen sikkerhetsbyråer og eksternt tilsyn av uavhengige organer som personvernkommissærer, lovgivningskomitéer eller rettslig gjennomgang.

Organisasjoner bør opprettholde detaljerte logger over hvordan ansiktsgjenkjenningssystemer brukes, inkludert hvilke søk som utføres, som utfører dem, og hvilke handlinger som resulterer. Disse loggene bør være underlagt regelmessig revisjon for å sikre overholdelse av policyer og identifisere eventuelle misbruksmønstre. Når problemer er identifisert, bør det være klare ansvarsfrihetsmekanismer for å sikre at ansvarlige parter møte passende konsekvenser.

Eksterne tilsynsorganer bør ha myndighet og ressurser til å gjennomføre meningsfull gjennomgang av ansiktsgjenkjenningsprogrammer. Dette inkluderer tilgang til teknisk informasjon om hvordan systemer fungerer, ytelsesdata og driftslogger. Oversiktsorganer bør også ha makt til å tvinge endringer i programmer som bryter juridiske eller etiske standarder.

Case Studies og Real-World applikasjoner

flyplass- og grensesikkerhetsvedlegg

Flyplasser og grenseoverganger har vært blant de tidligste og mest omfattende adoptere av ansiktsgjenkjenning teknologi for motterrorisme formål. Disse kontrollerte miljøene tilbyr flere fordeler for ansiktsgjenkjenning distribusjon: reisende må passere gjennom utpekte kontrollpunkter, belysning og kamera vinkler kan optimaliseres, og det er en klar sikkerhetsbegrunnelse for identitetsverifisering.

Mange land har implementert ansiktsgjenkjenning ved innvandringskontrollpunkter for å bekrefte at reisende matcher passbilder og for å sjekke dem mot overvåkninger av kjente eller mistenkte terrorister. Disse systemene har behandlet millioner av reisende, med noen flyplasser som rapporterer at ansiktsgjenkjenning har gjort det mulig for dem å identifisere enkeltpersoner som prøver å reise på falske dokumenter eller ved hjelp av stjålet identiteter.

Teknologien har også blitt utplassert for å fremskynde behandling for pålitelige reisende gjennom programmer som tillater forhåndsskjermede enkeltpersoner å bruke automatiserte porter som bekrefter deres identitet gjennom ansiktsgjenkjenning. Denne dual bruken - å forbedre både sikkerhet og bekvemmelighet - har bidratt til offentlig aksept av teknologien i flyplass sammenhenger.

Urban Overvåkning

Noen byer har utplassert omfattende nettverk av kameraer utstyrt med ansiktsgjenkjennelsesevner for å overvåke offentlige rom for sikkerhetstrusler. Disse systemene kan spore enkeltpersoners bevegelser over hele byen, potensielt identifisere terrorister som utfører overvåking av potensielle mål eller møte med med konspiranter.

Men urbane overvåkingsnettverk har også generert betydelige kontroverser på grunn av deres potensial for masseovervåkning av vanlige borgere. Kritikere hevder at disse systemene skaper en kjølig effekt på fritt uttrykk og assosiasjon, som folk kan unngå visse steder eller aktiviteter hvis de vet at de blir sporet. Balansen mellom sikkerhetsfordeler og personvernkostnader er spesielt vanskelig å slå til i disse applikasjonene.

Noen jurisdiksjoner har forsøkt å håndtere disse bekymringene ved å begrense bruken av ansiktsgjenkjenning i offentlige rom til bestemte omstendigheter, som å undersøke alvorlige forbrytelser eller svare på overhengende trusler. Andre har krevd at kameraer er tydelig merket og at publikum informeres om hvor ansiktsgjenkjenning er utplassert. Disse tilnærmingene forsøker å bevare noen sikkerhetsfordeler samtidig som de begrenser de mest påtrengende aspektene ved masseovervåkning.

Eventsikkerhet og Crowd-overvåkning

Store offentlige arrangementer ⁇ som politiske konvensjoner, internasjonale toppmøter eller store idrettsarrangementer ⁇ presenterer attraktive mål for terrorister og krever intensive sikkerhetstiltak. Facial anerkjennelse har blitt utplassert ved slike hendelser for å overvåke folkemengder og identifisere potensielle trusler blant deltakerne.

Disse midlertidige utplasseringene tilbyr noen fordeler over permanente overvåkingsnettverk. De er begrenset i tid og omfang, fokusert på spesifikke høyrisikobegivenheter i stedet for kontinuerlig overvåking av offentlige rom. De kan begrunnes av den forhøyede sikkerhetstruslen som er knyttet til store hendelser som tiltrekker seg store mengder og høyprofilerte mål.

Imidlertid kan hendelsessikkerhetsapplikasjoner også gi bekymringer, spesielt når ansiktsgjenkjenning brukes til å overvåke politiske protester eller demonstrasjoner. Teknologien kan brukes til å identifisere og spore politiske aktivister, potensielt avkjøle legitimt politisk uttrykk. Klare retningslinjer om når og hvordan ansiktsgjenkjenning kan brukes ved offentlige arrangementer er avgjørende for å hindre misbruk.

Veien frem: Balansere sikkerhet og rettigheter

Utvikle rammeverk for ansvarlig bruk

Fremtiden for ansiktsgjenkjenning i motterrorisme avhenger av å utvikle rammer som tillater teknologien å brukes effektivt til legitime sikkerhetsformål samtidig som sivile friheter beskyttes og å sikre rettferdighet. Dette krever kontinuerlig dialog mellom sikkerhetspersonell, teknologer, politikere, sivile frihetsforkjempere og publikum.

Slike rammer bør være basert på klare prinsipper: ansiktsgjenkjenning bør kun brukes når det er nødvendig og i forhold til sikkerhetstruslene; den bør utsettes med passende garantier mot misbruk; den bør være underlagt meningsfull tilsyn og ansvarsansvar; og den bør kontinuerlig evalueres og forbedres for å løse problemer med nøyaktighet og bias.

Forskjellige sammenhenger kan kreve ulike tilnærminger. Bruk av ansiktsgjenkjenning ved grenseoverganger, der det er en klar sikkerhetsbegrunnelse og begrenset forventning om personvern, kan være mer akseptabelt enn bruken av dets bruk for kontinuerlig overvåking av offentlige rom. Kontekstspesifikke rammer kan gi mer nyansert veiledning enn en størrelse-fits-alle regler.

Invester i forskning og utvikling

Fortsatt investering i forskning for å forbedre ansiktsgjenkjennelsesteknologi er viktig. Dette inkluderer ikke bare å forbedre nøyaktigheten og hastigheten, men spesielt løse problemer med bias og rettferdighet. Bredt og standardisert studier som NISTs hjelp til å finne frem til vanlige feil i FRT, og som både forskere og ansatte, er ingeniørene som utvikler FRT i oppgave å forbedre programvarens resultater i å gjenkjenne bilder med mørkere hudtoner ⁇ samt å redusere kjønnsgapet i falske positive priser, og når datasettene og resultatene settes på streng, minuttlig analyse, har forskere muligheten til å forbedre algoritmen og dermed håndtere problemet med bias i fremtiden iterasjoner av programvaren.

Forskning bør også utforske alternative tilnærminger som kan tilby bedre personvern samtidig som sikkerhetsfordelene opprettholdes. For eksempel systemer som analyserer atferdsmønstre eller oppdager avvik uten å identifisere bestemte individer kan gi nyttig sikkerhetsinformasjon med mindre personvern inntrengning enn tradisjonell ansiktsgjenkjenning.

Tverrfaglig forskning som samler dataforskere, samfunnsforskere, etikkere og juridiske forskere kan bidra til å identifisere og håndtere de komplekse utfordringene som stilles overfor ansiktsgjenkjenning teknologi. Forståelse ikke bare de tekniske evnene, men også de sosiale, etiske og juridiske implikasjonene er avgjørende for ansvarlig utvikling og distribusjon.

Internasjonalt samarbeid og standarder

Siden terrorismens tverrnasjonale natur er det viktig å samarbeide internasjonalt om standarder og praksis for ansiktsgjenkjenning. Landene bør samarbeide om å utvikle felles standarder for nøyaktighet, rettferdighet og beskyttelse av personvern, samtidig som de respekterer ulike juridiske tradisjoner og kulturelle verdier.

Internasjonale avtaler kan etablere minstestandarder for ansiktsgjenkjenningssystemer som brukes i motterrorisme, som sikrer at data som deles på tvers av grenser, oppfyller grunnleggende krav til nøyaktighet og pålitelighet. De kan også etablere protokoller for datadeling som beskytter personvern og menneskerettighet samtidig som det muliggjør effektivt samarbeid mot terrortrusler.

Internasjonalt samarbeid må imidlertid balanseres mot bekymringer om å gjøre det mulig for autoritære regimer å bruke ansiktsgjenkjenning for politisk undertrykkelse. Demokratiske land bør være forsiktige med å dele ansiktsgjenkjenning teknologi eller data med regjeringer som mangler sterke menneskerettighetsvern og rettsstat. Internasjonale standarder bør omfatte beskyttelse for å hindre at teknologien brukes til uegitimistiske formål.

Konklusjon: Navigasjon av det komplekse landskapet

Facial anerkjennelsesteknologi representerer et kraftig verktøy i kampen mot terrorisme, som tilbyr evner til identifikasjon, overvåking og etterforskning som var ufattelig for bare noen tiår siden. Ny teknologi har gitt staten ny makt til å automatisere identifikasjon av tidligere kjente terrorister som organiserer angrep på borgerne som staten er ment å beskytte, og evnen til å gjøre dette, hvis det fungerer effektivt, ville bidra til å bekjempe terrorisme.

Teknologien utgjør imidlertid også betydelige utfordringer knyttet til nøyaktighet, bias, personvern og sivile friheter. Dette problemet er utbredt i ansiktsgjenkjenning programvare, som har en tendens til å generere høyere hastighet av falske-positiver for ikke-hvite mennesker, og i motsetning til ansiktsgjenkjennelse programvare som brukes til å arrestere noen, kan en feilutdannet CT algoritme drepe sivile, en handling som ikke kan angres. Potensene i motterroristiske applikasjoner er spesielt høye, der feil kan føre til at uskyldige mennesker blir feilaktig arrestert eller omvendt til farlige individer som evaderer deteksjon.

Veien fremover krever å balansere disse konkurrerende hensyn gjennom nøye politikkutvikling, robust tilsyn, fortsatt teknisk forbedring og pågående offentlig dialog. Verken teppeforbud som hindrer bruk av ansiktsgjenkjenning til sikkerhetsformål eller ubegrenset distribusjon uten sikkerhetstiltak representerer en ansvarlig tilnærming. I stedet, kontekstspesifikke rammer som tillater gunstige bruksområder, samtidig som misbruk tilbyr det beste håpet for å realisere sikkerhetsfordelenetakene ved ansiktsgjenkjenning samtidig som de beskytter grunnleggende rettigheter.

Etter hvert som teknologien fortsetter å utvikle seg og bli mer i stand til å bli mer ideologisk styring, blir behovet for tankefull styring mer presserende. Beslutningene som tas i dag om hvordan ansiktsgjenkjennelse utvikles, utplasseres og reguleres vil forme balansen mellom sikkerhet og frihet i årene fremover. Å sikre at disse avgjørelsene er informert av bevis, ledet av etiske prinsipper, og underlagt demokratisk ansvarlighet er avgjørende for å opprettholde både sikkerhet og frihet i et stadig mer komplekst trusselmiljø.

For mer informasjon om biometriske sikkerhetsteknologier, besøk Nasjonalt institutt for standarder og teknologi ansiktsgjenkjennelsestestprogram. For å lære om personvern i overvåkingsteknologi, utforsk ressurser fra Electronic Frontier Foundation. For internasjonale perspektiver på ansiktsgjenkjenning regulering, se Det europeiske parlamentets arbeid med AI-regulering.