Table of Contents

Razumijevanje tehnologije prepoznavanja lica i njegove uloge u modernoj sigurnosti

Tehnologija prepoznavanja lica pojavila se kao jedan od najtransformativnijih alata u globalnoj borbi protiv terorizma. Ova moćna tehnologija omogućuje brzu i točnu identifikaciju pojedinaca i pomagala u sprečavanju terorističkih aktivnosti i što više sigurnosti javnih prostora. Kako se sigurnosne prijetnje nastavljaju razvijati u složenosti i razmjerima, vlade i agencije za provedbu zakona diljem svijeta sve se više okreću naprednim biometrijskim sustavima kako bi zaštitile svoje građane i infrastrukturu.

Prema istraživanju tržišta i tržišta, tržište prepoznavanja lica je u 2025. godini spremno dosegnuti 8,5 milijardi dolara, više od udvostručenja od 3,8 milijardi dolara 2020. godine. Ovaj eksplozivni rast odražava ne samo mogućnosti širenja tehnologije, nego i njegovu kritičnu važnost u okvirima nacionalne sigurnosti. Od zračnih luka i graničnih prijelaza do mreža za urbani nadzor i istražnih procesa, prepoznavanje lica postalo je nezaobilazna komponenta suvremenih strategija protuterorizma.

U svojoj srži, tehnologija prepoznavanja lica predstavlja sofisticiran brak računalnog vida, umjetne inteligencije, i biometrijske analize. Tehnologija digitalizira ljudske značajke lica u matematičke prikaze koje računala mogu obraditi i usporediti, analizirajući ključne značajke lica kao što su udaljenost između očiju osobe, širina nosa most, vilica i jagodične strukture, a zatim stvara jedinstvene biometrijske predloške za provjeru identiteta u bazama podataka koje sadrže milijune lica. Ova sposobnost obrade i podudaranja lica bez presedana brzinom i razmjerom je temeljno promijenila kako sigurnosne agencije pristupaju detekciji i prevenciji prijetnji.

Evolucija tehnologije prepoznavanja lica

Od ranih početaka do sustava s moćima za umjetnu infuziju

Tehnologija seže u 1960-te kada je tip po imenu Woodrow Wilson Bledsoe prvi put došao do sustava za sortiranje fotografija lica pomoću posebne tablete. Ovi rani sustavi su bili rudimentarni po današnjim standardima, zahtijevajući ručno unošenje i rad pod visoko kontroliranim uvjetima. U 70-ima, neki pametni ljudi su koristili 21 specifični marker, poput boje kose i debljine usana, za automatiziranje prepoznavanje lica, a 80-ih/90-ih je vidio novi pristup nazvan Eigenface, koji je postao temelj modernih sustava.

Pravi igrač-mijenjač došao je 2000-ih s društvenim medijima, jer je odjednom bilo milijuni označenih fotografija online, dajući tim sustavima masivnu bazu podataka za učenje. Ovo obilje podataka o treningu, u kombinaciji s napredovanjem u algoritmima za učenje strojeva, omogućilo je sustavima prepoznavanja lica da postignu točnost koja je ranije bila nezamisliva. Danas, s AI i duboko učenje, sustavi prepoznavanja lica za tvrtke su postali nevjerojatno točni i brzi.

Kako funkcioniraju suvremeni sustavi prepoznavanja lica

Moderni sustavi za prepoznavanje lica rade kroz višestupanijski proces koji se događa u milisekundama. Prvi stupanj uključuje otkrivanje lica, gdje sustav identificira i locira lice unutar slike ili video okvira. To slijedi ravnanje lica, gdje sustav normalizira položaj lica, veličinu i orijentaciju kako bi osigurao dosljednu analizu bez obzira na kut ili udaljenost od kamere.

Slijedi vađenje značajke, gdje sustav identificira i mjeri karakteristične karakteristike lica. Ova mjerenja se pretvaraju u matematički prikaz naziva predložak lica ili biometrijski potpis. Konačno, sustav obavlja podudaranje uspoređujući ovaj predložak protiv pohranjenih predložaka u bazi podataka, generiranje sličnosti rezultat koji ukazuje na vjerojatnost podudaranja.

Suvremeni sustavi za prepoznavanje lica snimaju i analiziraju slike ljudi u najtežim uvjetima vida i kretanja. Ova sposobnost je ključna za protuterorističke primjene, gdje se osumnjičeni mogu uhvatiti na nadzornim snimkama pod manje-neidealnim uvjetima, uključujući slabu rasvjetu, djelomičnu okluziju, ili pod uvijenim kutevima.

Strateške primjene u protuterorističkim operacijama

Praćenje i otkrivanje prijetnje u realnom vremenu

Tehnologija prepoznavanja lica pojavila se kao transformativni alat u borbi protiv terorizma, nudeći napredne mogućnosti za prepoznavanje, praćenje i hvatanje osoba od interesa, s naglaskom na tri specifične aplikacije: nadzor u realnom vremenu, nadzor granica i istražne procese. U prepunim javnim prostorima, prometnim čvorištima, a tijekom velikih događaja, sustavi za prepoznavanje lica mogu kontinuirano skenirati gužve i odmah upozoriti sigurnosno osoblje kada je osoba od interesa otkrivena.

AI omogućuje automatsku provjeru uzbunjivanja i identiteta ogromnih skupina ljudi u razmjeru i tempo nije moguće prije. Ova sposobnost je posebno vrijedna tijekom visokoprofilnih događaja gdje se okupljaju velike gužve, kao što su politički skupovi, sportski događaji ili kulturni festivali. Sigurnosne agencije mogu raspodijeliti sustave prepoznavanja lica kako bi nadzirale ulazne točke i pokrete gomile, identificirajući potencijalne prijetnje prije nego što se materijaliziraju u napade.

Poboljšana sigurnost pruža kontinuirano praćenje u područjima visoke prometne, identificira osobe od interesa, i locira nestale osobe s neviđenom učinkovitosti. Tehnologija sposobnost da radi kontinuirano bez umora čini neprocjenjivu nadopunu za osoblje ljudske sigurnosti, koji onda može usmjeriti svoju pozornost na istraživanje upozorenja i reagirati na potencijalne prijetnje.

Granična sigurnost i imigracijska kontrola

Granični prijelazi i zračne luke predstavljaju kritične točke u borbi protiv terorizma. Ako osoba (uključujući terorista) dolazi u SAD iz inozemstva, on ili ona vjerojatno prolazi kroz imigracijsku kontrolnu točku u luci ulaska, a iz perspektive protuterorizma, ovaj kontrolni punkt je zagušenje gdje bi-biti terorist je najranjiviji. Tehnologija prepoznavanja lica je postala ključna alat na tim kritičnim junctures.

FRT-i su raspoređeni kako bi potvrdili da je osoba koja prolazi kroz graničnu kontrolu doista osoba koja je slikana na identifikacijskom dokumentu (npr. putovnica), a Interpol je rasporedio svoj projekt PRVI sustav kako bi pomogla državnim vlastima da identificiraju strane terorističke borce (FTF-ove). Ti sustavi mogu brzo obraditi putnike istovremeno provjeravajući svoje identitete protiv popisa poznatih ili osumnjičenih terorista, značajno povećavajući sigurnost bez stvaranja velikih uskih grla u putničkom protoku.

Biometrija može spriječiti krađu identiteta i imigracijsku prevaru u korištenju putnih isprava, jer bi biometrijski predložak nečijeg otiska prsta bio priložen dokumentu, kao što su putovnica ili viza, na barskom kodu, čipu ili magnetskoj traci, što bi otežalo nekome da preuzme tuđi identitet. U kombinaciji s prepoznavanjem lica, ovaj višeslojni biometrijski pristup stvara robusnu obranu od terorista koji pokušavaju ući u zemlje koristeći lažne dokumente ili ukradene identitete.

Istražne i forenzičke prijave

Biometrijski sustavi mogli bi identificirati poznate ili osumnjičene teroriste koristeći biometrijsko prepoznavanje lica ili FaceCheck metodu kada je fotografija dostupna osumnjičenog terorista, a to se traži u odnosu na popis ili bazu podataka o predlošcima osumnjičenih terorista. Ova sposobnost se pokazala neprocjenjivom u post-incidentnim istragama, gdje sigurnosne agencije analiziraju nadzorne snimke kako bi identificirali počinitelje i njihove suradnike.

Učinkovitost provedbe zakona ubrzava identifikaciju osumnjičenika i rješavanje slučajeva automatiziranim podudaranjem s postojećim zapisima. Umjesto ručnog pregleda sati snimanja i usporedbe lica s očima, istražitelji mogu koristiti prepoznavanje lica za brzo pretraživanje kroz ogromne arhive nadzornog videa, identificiranje osumnjičenika i praćenje njihovih kretanja kroz više lokacija i vremenskih razdoblja.

Američka vojska također je prepoznala stratešku vrijednost prepoznavanja lica u protuterorističkim operacijama. Američko zapovjedništvo za specijalne operacije (USOCOM) postavlja temelje za značajno širenje svojih inteligencijskih i eksploatirajućih sposobnosti identiteta, ističući široku i tehnički ambicioznu viziju kako specijalne operativne snage prikupljaju, analiziraju i iskorištavaju podatke vezane za identitet tijekom misija, tražeći uvid u pet primarnih tehnoloških područja: prepoznavanje lica, identifikaciju zvučnika i podudaranje glasa, potpuno integrirani ekosustav SOF-ove primjene za eksploataciju, brzu analizu DNK, te AI i strojno učenje analitike.

Operativne prednosti u sprečavanju terorizma

Brzina i razmjer identifikacije

Jedna od najznačajnijih prednosti tehnologije prepoznavanja lica u borbi protiv terorizma je njegova sposobnost obrade i analize lica pri brzini daleko višim od ljudskih sposobnosti. Nova tehnologija je dala novu moć državi da automatizira identifikaciju ranije poznatih terorista koji organiziraju napade na građane koje država treba zaštititi, a moć da to učini, ako to učinkovito radi, pomogla bi u suzbijanju terorizma, jer tehnologija prepoznavanja lica obećava da će državi dati upravo tu moć.

Tradicionalne metode identificiranja osumnjičenika uvelike su se oslanjale na ljudsku memoriju i ručno uspoređivanje fotografija, procesa koji su bili vremenski konzumirajući i skloni pogreškama. Službenik za sigurnost koji prati prenapučenu zračnu luku mogao je samo aktivno pratiti ograničen broj ljudi odjednom, pa čak i najiskusnije osoblje moglo bi propustiti osumnjičenog u moru lica. Sustavi za prepoznavanje lica, za razliku od toga, mogu istovremeno pratiti stotine ili tisuće lica, uspoređujući svaku od opsežnih baza podataka u realnom vremenu.

Ta sposobnost je posebno ključna u vremenski osjetljivim situacijama u kojima se svaka sekunda računa. Kada obavještajne agencije dobiju informacije o neposrednoj opasnosti, sustavi za prepoznavanje lica mogu se brzo rasporediti kako bi se skenirale mreže za nadzor po cijelom gradu, potencijalno locirajući osumnjičene u roku od nekoliko minuta prije nego sati ili dana.

Poboljšane mogućnosti nadzora

Kroz biometrijsko prepoznavanje, algoritam za duboko učenje i veliku analitiku podataka, poboljšava se točnost i učinkovitost rada inteligencije i tradicionalni nadzorni rad postaje naprijed gledana i obrambena borba. Prepoznavanje lica transformira nadzor iz reaktivnog alata koji se koristi prvenstveno za post-incidentnu istragu proaktivnog sustava sposobnog za sprječavanje napada prije nego što se dogode.

Tehnologija omogućava sigurnosnim agencijama stvaranje sveobuhvatnih mreža nadzornih kamera koje funkcioniraju kao integrirani sustav umjesto izoliranih promatračkih točaka. Kada se osoba od interesa otkrije na jednoj lokaciji, sustav može pratiti njihova kretanja diljem mreže, pružajući sigurnosnom osoblju informacije o svojim aktivnostima i udrugama u realnom vremenu. Ova sposobnost je neprocjenjiva za razumijevanje terorističkih mreža i identificiranje ranije nepoznatih članova ekstremističkih organizacija.

Osim toga, sustavi za prepoznavanje lica mogu raditi kontinuirano bez ograničenja ljudske pažnje i umora. Dok ljudski operateri mogu propustiti kritične detalje tijekom dugih pomaka ili razdoblja niske aktivnosti, automatizirani sustavi održavaju dosljednu budnost, osiguravajući da potencijalna prijetnja ne prođe nezapaženo.

Učinak odvraćanja

Prisutnost sustava za prepoznavanje lica može poslužiti kao snažan odbojnost terorističkim aktivnostima. Kada potencijalni napadači znaju da će njihova lica biti uhvaćena i analizirana sofisticiranim biometrijskim sustavima, suočavaju se s znatno većim rizicima identifikacije i hvatanja. Ova svijest može poremetiti procese planiranja, prisiliti teroriste da usvoje manje učinkovite taktike, ili obeshrabriti napade u cjelini.

Učinak odvraćanja proteže se izvan neposredne prijetnje identifikacije. Sustavi prepoznavanja lica stvaraju trajni digitalni zapis koji se može analizirati dugo nakon incidenta. To znači da čak i ako teroristi uspiju izbjeći neposredno otkrivanje, ostavljaju iza sebe dokaze koji ih mogu kasnije identificirati, pratiti njihova kretanja i otkriti njihove mreže. Ova dugoročna odgovornost dodaje još jedan sloj rizika koji teroristi moraju razmotriti prilikom planiranja operacija.

Optimizacija resursa

Tehnologija prepoznavanja lica omogućuje agencijama za sigurnost optimizaciju svojih ograničenih resursa automatiziranjem rutinskih identifikacijskih zadataka i usmjeravanjem ljudske stručnosti gdje je to najpotrebnije. Umjesto da osoblje ručno prati nadzorne snimke ili provjerava dokumente na graničnim prijelazima, agencije mogu raspolagati sustavima prepoznavanja lica kako bi se bavile tim zadaćama dok se ljudski operateri usredotočuju na istraživanje upozorenja, provođenje intervjua i donošenje kritičnih odluka.

Ova optimizacija je posebno važna s obzirom na razmjere suvremenih sigurnosnih izazova. Uz milijune putnika koji prolaze kroz zračne luke dnevno i bezbroj sati nadzor snimke generirane diljem urbanih područja, bilo bi nemoguće ručno pregledati sve ove informacije. Sustavi prepoznavanja lica mogu obraditi ovu ogromnu količinu podataka automatski, zacrtavajući samo mali dio koji zahtijeva ljudsku pozornost.

Kritični izazovi i tehničke granice

Preciznost i lažna pozitivna svojstva

Unatoč značajnom napretku u tehnologiji prepoznavanja lica, točnost ostaje kritična briga, osobito u protuterorističkim primjenama u kojima posljedice grešaka mogu biti teške. Metoda prepoznavanja lica identificirana je s tehnološkim nesavršenostima i slabostima, ali se može koristiti operativno kako bi se smanjile njezine slabosti. Razumijevanje tih ograničenja je bitno za odgovorno i učinkovito uvođenje tehnologije.

Iako ljudska bića općenito mogu prilično dobro obavljati procese prepoznavanja lica, te aktivnosti su još uvijek vrlo izazovne za tehnološke sustave, jer osim ako fotografija nije zarobljena pod vrlo kontroliranim uvjetima, sustav može imati poteškoća u identificiranju pojedinca ili čak otkrivanju njegovog lica na fotografiji, a sustav najbolje funkcionira kada se čimbenici okoliša poput kuta kamere, rasvjete, izraza lica i drugih, kontroliraju u najvećoj mogućoj mjeri.

Lažni pozitivni događaji - insistance u kojima sustav pogrešno identificira osobu od interesa - postavljajući posebne izazove u kontekstu protuterorizma. Oni za koje tehnologija ne radi, kao i neće biti u mogućnosti biti provjereni od strane FRT-a - izazivajući sumnju i daljnji nametnuti nadzor, a nadalje, oni će biti pogrešno identificirani češće, što može uzrokovati da se sumnja kao terorist ili drugi ozbiljan kriminalac. Takve pogrešne identifikacije mogu dovesti do zadržavanja, ispitivanja ili podvrgnutih invazivnim sigurnosnim postupcima, s značajnim osobnim i socijalnim posljedicama.

NIST je nedavno proveo veliki test usmjeren na prepoznavanje pristranosti u FRT-u, s posebnim naglaskom na lažno pozitivnu stopu tj. učestalost kojom algoritam pogrešno identificira imidž jedne osobe, a rezultati su pokazali dapreko demografske, lažne pozitivne stope često variraju po čimbenicima od 10 do više od 100 puta ovisno o tome koji algoritmi su u uporabi. Ove varijacije stope grešaka u različitim sustavima ističu važnost rigoroznog testiranja i validacije prije uvođenja tehnologije prepoznavanja lica u visokom opsegu sigurnosnih aplikacija.

Demografska bijasa i algoritmska pravednost

Jedan od najozbiljnijih izazova s kojima se suočava tehnologija prepoznavanja lica je demografski pristranost tendencija da sustavi izvode manje precizno na određenim demografskim skupinama. Tri komercijalno puštena programa analize lica od glavnih tehnoloških tvrtki pokazuju kako tip kože tako i rodne pristranosti, a u eksperimentima istraživača, stope pogreške tri programa u određivanju spola svijetloputih muškaraca nikada nisu bile gore od 0,8 posto, ali za žene tamnije kože, međutim, stopa pogreške je bila u balonu — na više od 20 posto u jednom slučaju i više od 34 posto u druga dva.

Stopa pogreške za muškarce svijetloputih iznosi 0,8%, u usporedbi s 34,7% za žene tamnije kože, prema studiji pod nazivomSjena spola“ iz 2018. godine, Joy Buolamwini i Timnit Gebru, koju je objavio MIT Media Lab. Ova dramatična razlika u stopi točnosti izaziva ozbiljne zabrinutosti u pogledu pravednosti i jednakog postupanja prema zakonu kada se prepoznavanje lica koristi u kontekstu sigurnosti i provedbe zakona.

Kožni ton značajno utječe na točnost provjere, s svjetlijim tonovima kože dosljedno nadmašuje srednje tamne tonove. Istraživanja su također utvrdila da su muški subjekti općenito postigli bolju točnost prepoznavanja od ženskih ispitanika, pripisanu čimbenicima kao što je okluzija uzrokovana dužim dlakama i promjenama u izgledu lica zbog šminke.

U kolovozu 2023. godine, crnkinja je tužila policiju Detroita nakon što su je uhitili policajci koristeći slabo kalibrirani softver za prepoznavanje lica, a taj problem prevladava u softveru za prepoznavanje lica, koji teži generiranju veće stope lažnih pozitivnih za ne-bijele osobe. Takvi incidenti pokazuju stvarne posljedice algoritamske pristranosti i naglašavaju hitnu potrebu za pravednijim sustavima prepoznavanja lica.

Studija NIST-a dodatno je pronašla pristrane rezultate kada je riječ o istočnoazijskim, američkim, američkim, indijskim, otočanima na Aljasci i Pacifiku. Prostrana pristranost tih pristranosti u više demografskih skupina sugerira da je problem sistemski nego izoliran na specifične populacije ili algoritme.

Korijeni uzroci bijasa

Tehnologija prepoznavanja lica napravila je velike korake u točnosti zahvaljujući naprednim modelima umjetne inteligencije (AI) obučenim na masivnim skupovima podataka slika lica, ali ti skupovi podataka često nemaju raznolikosti u smislu rase, etničke pripadnosti, spola i drugih demografskih kategorija, što uzrokuje da sustavi prepoznavanja lica izvode gore na nedovoljno zastupljenim demografskim skupinama u odnosu na skupine sveprisutne u podacima obuke.

Problem pristranosti proizlazi iz više izvora. Povijesni skupovi podataka koji se koriste za obuku algoritma za prepoznavanje lica su pretežno prikazivali lica bijelih muškaraca, odražavajući demografiju istraživača i institucija koje su ih stvorile. Kada algoritmi nauče prepoznati lica prvenstveno iz ovog ograničenog skupa podataka, oni prirodno bolje izvode na sličnim licima i bore se s licima koja se značajno razlikuju od njihovih podataka o obuci.

Mnogi pripisuju većinu tih problema neuravnoteženim skupovima podataka. Međutim, problem se proteže izvan jednostavnog prikaza. Čak i kada skupovi podataka uključuju različita lica, druge čimbenike kao što su uvjeti rasvjete, kvaliteta kamere i razlučivost slike mogu nerazmjerno utjecati na kvalitetu slika za ljude s tamnijim tonom kože, dodatno komponirajućih problema točnosti.

Nastojanja da se smanji bias

Istraživači i tehnološke tvrtke prepoznale su ozbiljnost problema pristranosti i aktivno rade na rješenjima. 2018. godine Microsoft je objavio da je njihov komercijalno dostupan FRT prošao ažuriranja kako bi poboljšao performanse u svim kategorijama rase i spola proširivši skupove podataka koji se koriste za obuku algoritama za učenje strojeva i poboljšanjem klase lica radi veće točnosti, a ta poboljšanja rezultirala su, prema mišljenju tvrtke, 20 puta nižim stopama pogrešaka za tamnije tonove kože i 9 puta nižim stopama pogrešaka za žene.

Istraživači su prethodno obučili tri modela prepoznavanja lica — ArcFace, AdaFace i ElasticFace — na velikom, uravnoteženom sintetskom skupu podataka koji su generirali, a rezultat toga nije samo povećao ukupnu točnost u odnosu na modele koji su bili osposobljeni za postojeće neravnotežene skupove podataka, već je također znatno smanjio demografski pristranost, s tim da su obučeni modeli pokazali pravedniju točnost u svim rasnim skupinama u usporedbi s postojećim modelima koji pokazuju slabu izvedbu na nepredstavljenim manjinama.

Na FairFace dataset, točnost se poboljšala s 92,58% na 96,47%, dok je stupanj Bias (DoB) smanjen s 3,86 na 1,16, što predstavlja smanjenje od približno 70%, a posebno su uočeni značajni rezultati za nedovoljno zastupljene skupine, kao što je poboljšanje točnosti za crne žene s 80,2% na 90,86%, uz održavanje snažnih performansi za već dobro zastupljene skupine.

Debiasing adversarial mreÅ3⁄4a (DebFace), koristi koder slike-do-face), Ä etiri klasifikatora atributa, razredi distribucije, i značajka agregation mreÅ3⁄4e, i cetiri klasifikatora - spol, dob, rasa i identitet - pretvoriti potencijalne predrasude u informirane značajke, tako unaprjeÄ enje performanse underregiranim skupinama. Ove arhitektonske inovacije pokazuju da je pristranost ublažavanje tehniÄ ki izvodljivo, iako znaÄ i rad ostaje za provedbu tih rješenja u svim raspoređenim sustavima.

Zabrinutost za privatnost i građanske slobode

Masovna nadzorna i prava na privatnost

Većina svega moćnog ima mračnu stranu, a FRT nije iznimka, jer se radi o ozbiljnim pitanjima i zabrinutosti u vezi privatnosti, etike i sveukupnog društvenog utjecaja. Raspoređivanje tehnologije prepoznavanja lica u protuterorističke svrhe izazvalo je intenzivnu raspravu o ravnoteži između sigurnosti i privatnosti, a kritičari tvrde da rašireni nadzor ugrožava temeljne građanske slobode.

Pravni, etički i izazovi u pogledu privatnosti u području masovnog nadzora uključuju zabrinutosti oko pogrešnog identificiranja, prijevare i pristranosti u bazi podataka. Sposobnost praćenja kretanja pojedinaca po javnim prostorima bez njihova znanja ili pristanka postavlja duboka pitanja o prirodi privatnosti u suvremenom društvu i odgovarajućim ograničenjima ovlasti nadzora države.

Kritičari ukazuju na značajne rizike privatnosti i potencijalne povrede građanskih sloboda, podizanje zabrinutosti oko neovlaštenog prikupljanja podataka, nedostatka pristanka i potencijala za gmizavce funkcija kroz koje se podaci prikupljeni u jednu svrhu koriste u nepovezanu svrhu bez znanja i pristanka pojedinca. Strah je da bi se sustavi u početku raspoređeni za borbu protiv terorizma mogli postupno proširiti kako bi se pratili obični građani koji se bave zakonitim aktivnostima, stvarajući stanje nadzora koje hladi slobodnim izražavanjem i udruživanjem.

Razloge za takvu zabranu izlažu FRT-i zbog kojih sveprisutne predrasude rezultiraju nejednakim raspoređivanjem među skupinama, država će neizbježno koristiti te tehnologije u nezakonite svrhe, te da postojanje FRT-a hladi naše ponašanje (tj., uzrokuje da se ljudi cenzuriraju zbog straha od nadzora). Ovaj kulzivni učinak može potkopati demokratsko sudjelovanje obeshrabrujući ljude od pohađanja prosvjeda, političkih skupova ili drugih javnih skupova gdje bi se mogli identificirati i pratiti.

Regulativni odgovori i zabrane

U 2019. godini, San Francisco je postao prvi američki grad koji je zabranio tehnologiju prepoznavanja lica (FRT), posebno veto na njegovu upotrebu od strane policije i drugih agencija, a od tada, nekoliko drugih američkih gradova provodi svoje slične FRT zabrane, s time da su bostonski gradski vijećnici izričito naglasili jedno posebno pitanje: pristranost tehnologije. Te zabrane odražavaju rastuću zabrinutost javnosti glede potencijala tehnologije za zloupotrebu i njezinih dokazanih problema s točnošću i pravednošću.

Više od desetak velikih gradova zabranilo je tehnologiju, uključujući Minneapolis, Boston i San Francisco. Međutim, ove lokalne zabrane nisu spriječile federalne agencije i mnoge druge jurisdikcije da nastave s uvođenjem prepoznavanja lica u sigurnosne svrhe, stvarajući zakrpu propisa koja znatno varira po lokaciji.

Europska unija je uzela sveobuhvatniji pristup, uz korištenje tehnologija prepoznavanja lica u kontekstu mirnog prosvjeda koji povećava rizik od praksi masovnog nadzora i implikacije za zaštitu ljudskih prava. Europski regulatori predložili su stroga ograničenja u korištenju prepoznavanja lica u javnim prostorima, a neki su se zalagali za potpune zabrane osim u usko definiranim okolnostima koje uključuju ozbiljne zločine ili neposredne prijetnje.

Uravnoteživanje sigurnosti i slobode

Najvažnije je da se država može koristiti tom tehnologijom kako bi povećala svoju moć za suzbijanje terorizma, ta je moć ograničena tako da se zloupotrebe i hladno ponašanje ne događaju, a država mora stvoriti institucionalna ograničenja koja samo omogućuju da se FRT-ovi koriste na mjestima gdje ljudi (i ne bi trebali) uživaju razumno očekivanje privatnosti (npr. zračne luke, granični prijelazi).

Kamere opremljene FRT-om moraju biti označene kako bi se javnosti osiguralo da ih se ne nadzire na mjestima gdje bi trebale imati razumno očekivanje privatnosti, a FRT-ovi bi trebali biti ograničeni na pronalaženje ozbiljnih kriminalaca (npr. terorista). Ova predložena ograničenja predstavljaju pokušaj očuvanja sigurnosnih prednosti prepoznavanja lica uz ograničavanje potencijala za zlostavljanje i zaštitu građanskih sloboda.

FRT predstavlja snažan alat u protuterorističkom arsenalu, omogućavajući sigurnosne mjere koje su ranije bile nedostižne, ali to je tehnologija koja zahtijeva iznimno osuđujuću ravnotežu između njegovih jasnih prednosti i važnih etičkih razmatranja s kojima je povezan, a u ovom trenutku, moglo bi biti da je ravnoteža preteška u korist jasnih prednosti FRT-a, a nedovoljno u korist pravednosti, privatnosti i etičkog integriteta koji bi trebao voditi njegovo raspoređivanje.

Pravni i etički okviri

Uzimajući u obzir ustavna i ljudska prava

FRT programi koje provodi policija u identificiranju osumnjičenih za kriminal znatno su više pogrešni na slikama lica koje prikazuju tamnije tonove kože i žene u usporedbi s slikama lica koje prikazuju bijelce, a ta pristranost može dovesti do toga da građane policija pogrešno istražuje duž rasnih i rodnih linija, a da je provedba zakona neskladna s klasičnim liberalnim zahtjevom da vlada postupa prema svim građanima jednako pred zakonom.

Jednaka zaštitna klauzula mnogih ustava zahtijeva da vladine akcije ne diskriminiraju na temelju rase, spola ili drugih zaštićenih karakteristika. Kada sustavi za prepoznavanje lica pokažu sustavnu pristranost protiv određenih demografskih skupina, njihova uporaba od strane vladinih agencija može kršiti ove ustavne zaštite. To stvara pravnu dilemu: dok tehnologija može povećati sigurnost, njena pristranost može svoju uporabu učiniti neustavnom ili kršenjem zakona o ljudskim pravima.

Računalni znanstvenici izrazili su zabrinutost zbog korištenja FRT-a za identifikaciju osumnjičenih za kriminal, ističući da je vrlo vjerojatno da se takav softver koristi za identifikaciju osumnjičenih, a time i pogreška u izlazu algoritma za prepoznavanje lica koji se koristi kao ulaz za druge zadatke može imati ozbiljne posljedice, jer bi se netko mogao nepravedno optužiti za zločin temeljen na pogrešnoj, ali pouzdanoj pogrešnoj identifikaciji počinitelja iz analize sigurnosnih video snimka.

Transparentnost i odgovornost

Preporuča snažnu regulaciju, međunarodnu suradnju i transparentno upravljanje kako bi se osigurala primjena tehnologije prepoznavanja lica AI-a u skladu s ljudskim pravima i temeljnim slobodama. Transparentnost o tome kako funkcioniraju sustavi prepoznavanja lica, njihove stope točnosti i njihova ograničenja ključna je za povjerenje javnosti i demokratsku odgovornost.

Uspostaviti zakone koji su jasni i sveobuhvatni u vezi s upotrebom tehnologije prepoznavanja lica, uskladiti globalne standarde s nacionalnim okvirima kako bi se osigurala dosljednost i ovlastiti redovite revizije sustava FRT-a kako bi se osigurala sukladnost s etičkim smjernicama. Redovito revizija može pomoći u utvrđivanju problema s točnošću ili pristranošću prije nego što dovedu do ozbiljnih šteta, dok jasni pravni okviri pružaju smjernice sigurnosnim agencijama o primjerenoj uporabi tehnologije.

Rizike ne bi trebalo dovoditi do uvođenja moratorija na korištenje AI ili zabrane određenih platformi, nego bi trebalo pozivati vlade na djelovanje u cilju traženja boljeg oblikovanja njihovih alata za AI/ML, što znači stjecanje boljih podataka i stvaranje napornih režima ispitivanja koji ograničavaju rizik i izlažu nedostatke što je više moguće, a način da se to pomogne je provođenjem obrazloženih standarda i politika transparentnosti koje vladama daju uvid u racionalnost za svaku akciju koju sustav poduzima.

Zaštita i retenzija podataka

Država ne smije koristiti treće strane koja krše prva tri uvjeta tijekom stvaranja ili korištenja svoje usluge, a trgovačka društva treće strane ne bi trebala moći pristupiti ili čitati osjetljive podatke koje je prikupila država. Biometrijski podaci prikupljeni sustavima za prepoznavanje lica su vrlo osjetljivi i osobni, koji zahtijevaju čvrste zaštite od neovlaštenog pristupa, zlouporabe ili kršenja podataka.

Pitanja o zadržavanju podataka su posebno važna. Koliko dugo treba pohraniti podatke o prepoznavanju lica? Tko bi trebao imati pristup njima? Pod kojim okolnostima se može dijeliti s drugim agencijama ili zemljama? Ta pitanja nemaju jasne odgovore u mnogim jurisdikcijama, stvarajući nesigurnost u vezi s dugoročnim implikacijama uvođenja prepoznavanja lica.

Značajan je i rizik od kršenja podataka. Baza podataka koja sadrži podatke o prepoznavanju lica za milijune ljudi bila bi privlačna meta za hakere, strane obavještajne službe ili kriminalne organizacije. Ako su takvi podaci ugroženi, mogla bi se koristiti za krađu identiteta, uhođenje ili druge zlonamjerne svrhe, s posljedicama koje bi mogle trajati godinama ili desetljećima.

Međunarodne perspektive i razvoj

Obrasci za globalno usvajanje

Provedba zakona: Priznavanje lica trenutno je najprisutnija tehnologija nadzora AI-a na globalnom nivou, s stopom usvajanja 64%, koja nadmašuje i pametne gradske platforme i inicijative za pametno policijsko usvajanje. To široko rasprostranjeno usvajanje odražava i percipiranu vrijednost tehnologije za sigurnost i različite regulatorne pristupe koje poduzimaju različite zemlje.

Zemlje se suočavaju s različitim sigurnosnim prijetnjama i imaju različite kulturne stavove prema privatnosti i nadzoru, što dovodi do značajnih promjena u načinu na koji se raspoređuje prepoznavanje lica. Neke zemlje su oduševljeno prihvatile tehnologiju, uvelo je u javnim prostorima opsežno korištenje s minimalnim ograničenjima. Drugi su uzeli oprezniji pristup, ograničavajući njenu upotrebu u specifičnim visoko-sigurnosnim kontekstima ili nametajući stroge zahtjeve nadzora.

Furl et al. (2002) utvrdio je da je FRT razvijen i korišten u zapadnim zemljama bio točniji za slike lica bijelaca, dok su u istočnoazijskim zemljama FRT algoritmi bili precizniji za istočnoazijske slike lica. Ovaj nalaz ističe važnost razvoja sustava prepoznavanja lica koji su obučeni na različitim skupovima podataka koji predstavljaju populacije gdje će biti raspoređeni.

Međunarodna suradnja i standardi

Terorizam je transnacionalna prijetnja koja zahtijeva međunarodnu suradnju u borbi protiv učinkovite. Tehnologija prepoznavanja lica može olakšati ovu suradnju omogućavajući zemljama da podijele informacije o poznatim ili osumnjičenim teroristima i koordiniraju njihove napore u nadzoru. Međutim, ova međunarodna dimenzija također postavlja složena pitanja o dijeljenju podataka, zaštiti privatnosti i ljudskim pravima.

Različite zemlje imaju različite pravne standarde za zaštitu privatnosti, zadržavanje podataka i propisani proces. Kada se podaci o prepoznavanju lica dijele preko granica, mogu biti podložni manje strogim zaštitama u zemlji primateljici nego u zemlji u kojoj je prikupljen. To stvara rizike da se podaci prikupljeni pod strogim zaštitama privatnosti mogu zloupotrijebiti od strane stranih vlada s slabijim zaštitnim mjerama.

Međunarodne organizacije poput Interpola razvile su sustave za olakšavanje prekogranične upotrebe prepoznavanja lica za protuterorizam. Ovi sustavi moraju upravljati složenim pravnim i političkim terenom, balansiranje sigurnosnih prednosti razmjene informacija protiv zabrinutosti o privatnosti, ljudskim pravima i nacionalnom suverenitetu. Razvoj međunarodnih standarda i sporazuma za odgovorno korištenje prepoznavanja lica u protuterorizmu i dalje je neprekidan izazov.

Javno opažanje i povjerenje

Čimbenici koji utječu na javno prihvaćanje

Zagovornici FRT-a naglašavaju njegov potencijal u javnoj sigurnosti, sprečavanju kriminala i protuterorizmu, ističući da FRT omogućuje agencijama i organizacijama da identificiraju osumnjičene i spriječe neovlašteni pristup zaštićenim područjima i prostorima u kojima su prisutna vrijedna imovina ili ranjivo stanovništvo. Javna podrška prepoznavanju lica često ovisi o specifičnom kontekstu u kojem se koristi, uz veće prihvaćanje sigurnosnih aplikacija u visokorizičnim sredinama kao što su zračne luke.

Povjerenje u institucije koje raspoređuju prepoznavanje lica ključan je čimbenik u prihvaćanju javnosti. Kada ljudi vjeruju da će sigurnosne agencije koristiti tehnologiju odgovorno i uz odgovarajući nadzor, veća je vjerojatnost da će prihvatiti njezino uvođenje. Nasuprot tome, kada je povjerenje nisko zbog prethodnih zloporaba, nedostatka transparentnosti ili zabrinutosti oko pristranosti javno protivljenje teži jačanju.

Uspješno i široko usvajanje FRT-a ovisi ne samo o njegovoj brzini i točnosti, nego i o povjerenju javnosti algoritmima da će se moći uređaja za prepoznavanje lica, a da će povjerenje biti teško izgraditi dok primjeri rasne pristranosti i lažnih pozitivnih rezultata i dalje zasjenjuju godišnje poboljšanje u ukupnoj točnosti i funkcionalnosti softvera.

Izgradnja javnog povjerenja

Poticanje javnog angažmana u rješavanju briga i izgradnji povjerenja. Značajno javno sudjelovanje zahtijeva više nego jednostavno informiranje ljudi o raspoređivanju lica; to znači stvaranje mogućnosti za pravi dijalog o prednostima, rizicima i odgovarajućim ograničenjima tehnologije.

Transparentnost o performansama sustava ključna je za izgradnju povjerenja. Sigurnosne agencije trebaju javno prijaviti stope točnosti, uključujući slomove po demografskim skupinama, lažne pozitivne stope i informacije o tome kako se tehnologija koristi i nadzire. Ova transparentnost omogućuje javnosti da donese informirane presude o tome opravdava li sigurnosne koristi troškove privatnosti i da li se tehnologija koristi pošteno.

Demonstracija odgovornosti kada se problemi pojave je također ključna. Kada sustavi za prepoznavanje lica dovode do nepravednih pritvora ili drugih štete, agencije moraju priznati te neuspjehe, nadoknaditi žrtve, i poduzeti konkretne korake kako bi se spriječilo ponavljanje. Obrazac za negiranje problema ili odbijanje odgovornosti će erodirati povjerenje javnosti i opoziciju na gorivo protiv tehnologije.

Budućnost razvoja i emerging tehnologije

Napredak u preciznosti i sposobnosti

Posljednjih godina, s naprednim arhitekturama i povećanjem broja slojeva i parametara, FR modeli su stekli značajno poboljšanje u svojoj sposobnosti da uče složene prikaze lica, a te dublje arhitekture, koje često čine više od stotinu slojeva s milijunima parametara, znatno su poboljšale sposobnost FR sustava da generaliziraju sve izazovne scenarije, što je rezultiralo većim ukupnim performansama prepoznavanja (kao i smanjenom pristranošću), a dodatno, dostupnost većih, raznovrsnijih skupova podataka doprinijela je boljim rezultatima učenja, jer su ti skupovi podataka, koji uključuju znatne varijacije demografske i kovarijativne poput poze, omagljivanja i izražavanja (PIE), olakšali mjerljive napredak u poboljšanju i točnosti i pravednosti FR.

Budući sustavi prepoznavanja lica vjerojatno će uključiti više biometrijskih modalija, kombinirajući prepoznavanje lica sa skeniranjem šarenice, analizu hoda, prepoznavanje glasa i druge tehnike. Ovaj multimodalni pristup može poboljšati točnost unakršćujući višestruke biometrijske potpise, smanjujući utjecaj grešaka u bilo kojem sustavu. Također može otežati teroristima izbjegavanje otkrivanja prerušavanjem ili mijenjanjem njihovog izgleda.

Napredak u umjetnoj inteligenciji, osobito u dubokom učenju i neuronskim mrežama, i dalje pomjera granice onoga što sustavi prepoznavanja lica mogu postići. Ovi sustavi postaju bolji u prepoznavanju lica u izazovnim uvjetima, kao što su loša rasvjeta, djelomična okluzija ili ekstremni kutovi. Također postaju brži, omogućujući analizu video tokova visoke rezolucije u realnom vremenu iz više kamera istovremeno.

Integracija s drugim obavještajnim sustavima

Budućnost prepoznavanja lica u protuterorizmu ne leži samo u poboljšanju same tehnologije, već i u integraciji s drugim inteligencijskim i sigurnosnim sustavima. Kada se prepoznavanje lica kombinira s analizom ponašanja, kartiranjem društvenih mreža, praćenjem komunikacija i drugim izvorima inteligencije, postaje dio sveobuhvatnog sustava otkrivanja opasnosti koji je veći od zbroja njezinih dijelova.

Na primjer, prepoznavanje lica moglo bi identificirati osobu od interesa na aerodromu, što bi izazvalo dodatno ispitivanje njihovih obrazaca putovanja, financijskih transakcija, komunikacija i poznatih suradnika. Ovaj integrirani pristup omogućuje sigurnosnim agencijama da izgrade potpuniju sliku potencijalnih prijetnji i donesu informiranije odluke o tome kako odgovoriti.

Međutim, ova integracija također pojačava zabrinutost za privatnost. Sustav koji kombinira prepoznavanje lica s opsežnim podacima iz drugih izvora stvara neviđene mogućnosti nadzora koje bi se mogle koristiti za praćenje gotovo svakog aspekta života ljudi. Osiguravanje da se takvi moćni sustavi koriste samo u legitimne sigurnosne svrhe i uz odgovarajući nadzor bit će kritičan izazov za kreatore politika.

Ubrzavanje protumjera i utrke oružja

Kako tehnologija prepoznavanja lica postaje sve više prevladavajuća u borbi protiv terorizma, protivnici razvijaju protumjere za izbjegavanje otkrivanja. To se kreće od jednostavnih tehnika kao što su nošenje maska ili sunčanih naočala do sofisticiranijih pristupa poput kontra-termičkih obrazaca za prepoznavanje lica ili korištenje duboke tehnologije za stvaranje lažnih identiteta.

To stvara tekuću tehnološku utrku u naoružanju, a sigurnosne agencije koje rade na poboljšanju sustava prepoznavanja lica dok teroristi i drugi protivnici razvijaju nove načine da ih se porazi. Učinkovitost prepoznavanja lica u borbi protiv terorizma ovisit će ne samo o inherentnim sposobnostima tehnologije, već i o tome kako se može prilagoditi evoluirajućim tehnikama izbjegavanja.

Neki istraživači istražuju načine kako da sustavi za prepoznavanje lica budu robusniji protiv protumjera, kao što je korištenje infracrvenog snimanja za otkrivanje lica čak i kada su djelomično pokriveni, ili analiziranje jezika hoda i tijela pored značajki lica. Drugi razvijaju sustave za otkrivanje živosti koji mogu razlikovati prava lica i fotografije, maske ili video prikaze, sprječavajući spoofing napada.

Najbolje prakse i preporuke

Tehnički standardi i testiranje

NIST-ovi tekući testovi prepoznavanja lica (FRVT) ocijenili su više od 400 algoritama prepoznavanja lica od 2017. godine, dajući uvid u ukupnu točnost ocjene svih programera sudionika. Rigorozno, neovisno testiranje sustava prepoznavanja lica prije uvođenja je od ključne važnosti kako bi se osiguralo da oni zadovoljavaju minimalne standarde za točnost i pravednost.

Ispitivanje bi trebalo uključivati procjenu u različitim demografskim skupinama kako bi se utvrdile i kvantificirale bilo kakve pristranosti u performansama sustava. Sustavi koji pokazuju neprihvatljive razine pristranosti ne bi se trebali rasporediti dok se ti problemi ne isprave. Ispitivanje bi trebalo procijeniti performanse u realnim operativnim uvjetima, a ne samo u kontroliranim laboratorijskim sredinama.

Praćenje i evaluacija nakon uvođenja jednako je važno. Izvedbe sustava mogu se vremenom degradirati kao algoritmi starosti ili kao i promjene populacije. Redovite revizije mogu identificirati nove probleme i osigurati da sustavi i dalje ispunjavaju standarde performansi tijekom njihovog operativnog života.

Operativne smjernice

Sigurnosne agencije koje raspolažu prepoznavanjem lica za protuterorizam trebale bi utvrditi jasne operativne smjernice koje određuju kada i kako se tehnologija može koristiti. Ove smjernice trebaju rješavati pitanja kao što su: Koja razina povjerenja u utakmicu je potrebna prije poduzimanja mjera? Koja dodatna provjera je potrebna prije zadržavanja nekoga na temelju poklapanja s prepoznavanjem lica? Kako bi se sustav trebao koristiti u kombinaciji s ljudskim rasuđivanjem?

Niti ljudi niti algoritmi nisu nepogrešivi, a slične slabosti ljudske prosudbe mogu utjecati na korištenje tehnologija prepoznavanja lica, jer pojedinci mogu vjerovati u izlaz algoritma misleći da mora bitiobjektivnoviše od vlastite procjene o tome da li se dvije slike podudaraju, unatoč temeljnim predrasudama ili netočnostima u tehnologiji. Obuka za osoblje pomoću sustava za prepoznavanje lica treba naglasiti da je tehnologija alat za pomoć u donošenju ljudskih odluka, a ne zamjena za ljudsku procjenu.

Operatori treba biti obučeni da razumiju ograničenja sustava, uključujući i njegov potencijal za pristranost i lažne pozitive. Oni bi trebali biti poticani da vrše neovisnu procjenu i da se ne oslanjaju isključivo na algoritamske izlaze, posebno kada su posljedice grešaka teške. Jasno protokoli bi trebali odrediti što je potrebno dodatno istraživanje ili provjera prije poduzimanja mjera na temelju podudaranja s prepoznavanjem lica.

Mehanizmi nadzora i odgovornosti

Mehanizmi nadzora u pogledu rizika od rizika od nužde su kako bi se osiguralo da se tehnologija prepoznavanja lica koristi na odgovarajući način i da se zloporabe identificiraju i isprave. Taj bi nadzor trebao uključivati i unutarnje mehanizme unutar sigurnosnih agencija i vanjski nadzor neovisnih tijela poput povjerenika za privatnost, zakonodavnih odbora ili pravosudne revizije.

Agencije trebaju održavati detaljne zapise o tome kako se koriste sustavi za prepoznavanje lica, uključujući i koja se pretraga provodi, koji ih provode, i koji su rezultati radnji. Ti bi dnevnici trebali biti podložni redovitoj reviziji kako bi se osigurala sukladnost s politikama i identificirali bilo kakvi obrasci zloupotrebe. Kada se utvrdi problem, treba postojati jasan mehanizam odgovornosti kako bi se osiguralo da se odgovorne strane sučeljavaju s odgovarajućim posljedicama.

Vanjska nadzorna tijela trebaju imati ovlasti i resurse za provođenje smislenog pregleda programa prepoznavanja lica. To uključuje pristup tehničkim informacijama o tome kako sustavi rade, podaci o performansama i operativni dnevnici. Nadzorna tijela također trebaju imati moć da prinude promjene programa koji krše pravne ili etičke standarde.

Studije slučaja i aplikacije u stvarnom svijetu

Provedba sigurnosti zračne luke i granice

Zračne luke i granični prijelazi su među najranijim i najopsežnijim posvojiteljima tehnologije prepoznavanja lica u protuterorističke svrhe. Ova kontrolirana okruženja nude nekoliko prednosti za raspoređivanje prepoznavanja lica: putnici moraju proći kroz određene kontrolne točke, rasvjetu i kuteve kamere mogu biti optimizirani, a postoji jasno sigurnosno opravdanje za provjeru identiteta.

Mnoge zemlje su implementirale prepoznavanje lica na imigracijskim kontrolnim točkama kako bi potvrdile da putnici odgovaraju njihovim fotografijama putovnica i da ih provjere protiv popisa poznatih ili osumnjičenih terorista. Ovi sustavi su obradili milijune putnika, a neke zračne luke izvještavaju da im je prepoznavanje lica omogućilo da identificiraju pojedince koji pokušavaju putovati na lažnim dokumentima ili koristeći ukradene identitete.

Tehnologija je također bila raspoređena kako bi ubrzala obradu za pouzdane putnike kroz programe koji omogućavaju unaprijed ekraniziranim pojedincima korištenje automatiziranih vrata koja provjeravaju njihov identitet kroz prepoznavanje lica. Ova dvojna uporabapojačava i sigurnost i praktičnost doprinijela je javnom prihvaćanju tehnologije u zračnim kontekstima.

Urbane mreže nadzora

Neki gradovi su rasporedili opsežne mreže kamera opremljenih sposobnostima prepoznavanja lica za praćenje javnih prostora za sigurnosne prijetnje. Ovi sustavi mogu pratiti kretanje pojedinaca diljem grada, potencijalno identificiranje terorista koji provode nadzor potencijalnih ciljeva ili susret s suurotnicima.

Međutim, mreže za urbani nadzor također su izazvale značajne kontroverze zbog svog potencijala masovnog nadzora običnih građana. Kritičari tvrde da ti sustavi stvaraju jeziv učinak na slobodno izražavanje i udruživanje, jer ljudi mogu izbjeći određene lokacije ili aktivnosti ako znaju da ih prate. Ravnoteža između sigurnosnih pogodnosti i troškova privatnosti je posebno teška za štrajk u tim aplikacijama.

Neke nadležnosti su pokušale riješiti te probleme ograničavanjem korištenja lica u javnim prostorima na specifične okolnosti, kao što je istraga teških zločina ili odgovor na neposredne prijetnje. Drugi su zahtijevali da se kamere jasno označi i da javnost bude obaviještena o tome gdje se raspoređuje prepoznavanje lica. Ti pristupi pokušavaju sačuvati neke sigurnosne koristi, a ograničavaju najnametljivije aspekte masovnog nadzora.

Sigurnost događaja i praćenje gužve

Veliki javni događaji kao što su političke konvencije, međunarodni summit ili veliki sportski događaji predstavljaju atraktivne ciljeve za teroriste i zahtijevaju intenzivne sigurnosne mjere. Prepoznavanje lica je raspoređeno na takvim događajima kako bi se pratilo mnoštvo i identificiralo potencijalne prijetnje među sudionicima.

Te privremene implementacije nude neke prednosti u odnosu na trajne mreže nadzora. Ograničeni su u vremenu i opsegu, usmjereni na specifične visokorizične događaje, a ne na kontinuirano praćenje javnih prostora. Oni se mogu opravdati povišenom sigurnosnom prijetnjom povezanom s velikim događajima koji privlače velike gužve i visokoprofilne ciljeve.

Međutim, prijave za sigurnost događaja također izazivaju zabrinutost, posebno kada se prepoznavanje lica koristi za praćenje političkih prosvjeda ili demonstracija. Tehnologija bi se mogla koristiti za identifikaciju i praćenje političkih aktivista, potencijalno kulirajući legitimni politički izraz. Jasne smjernice o tome kada i kako se prepoznavanje lica može koristiti na javnim događanjima su od ključne važnosti za sprječavanje zlouporabe.

Put naprijed: Uravnotežavanje sigurnosti i prava

Razvijanje okvira odgovorne upotrebe

Budućnost prepoznavanja lica u borbi protiv terorizma ovisi o razvoju okvira koji omogućuju učinkovitu uporabu tehnologije u legitimne sigurnosne svrhe, uz zaštitu građanskih sloboda i osiguravanje pravednosti. To zahtijeva tekući dijalog između sigurnosnih stručnjaka, tehnologa, kreatora politika, zagovornika građanskih sloboda i javnosti.

Takvi okviri trebaju se temeljiti na jasnim načelima: prepoznavanje lica treba koristiti samo kad je to potrebno i razmjerno sigurnosnoj opasnosti; trebalo bi ga se rasporediti uz odgovarajuće zaštitne mjere protiv zlouporabe; trebalo bi ga podvrgnuti značajnom nadzoru i odgovornosti; te bi ga trebalo kontinuirano ocjenjivati i poboljšavati kako bi se problemi rješavali s točnošću i pristranošću.

Različiti konteksti mogu zahtijevati različite pristupe. Korištenje prepoznavanja lica na graničnim prijelazima, gdje postoji jasno sigurnosno opravdanje i ograničeno očekivanje privatnosti, može biti prihvatljivije od njegove upotrebe za kontinuirano praćenje javnih prostora. Kontekst-specifični okviri mogu pružiti više nijansiranih smjernica od pravila o jedinstvenim uvjetima.

Ulaganje u istraživanje i razvoj

Ulaganje u istraživanje za poboljšanje tehnologije prepoznavanja lica je od ključne važnosti. To uključuje ne samo poboljšanje točnosti i brzine, već posebno rješavanje problema s pristranošću i pravednošću. Široke i standardizirane studije poput NIST-ove pomoći da se otkriju zajedničke mane u FRT-u, a kao i znanstvenici i zaposlenici, inženjeri koji razvijaju FRT imaju zadatak poboljšati rezultate softvera u prepoznavanju slika tamnijim tonovima kože kao i smanjenje rodnog jaza u lažnim pozitivnim stopama, a kada su podaci i rezultati stavljeni u rigoroznu, minutnu analizu, znanstvenici imaju sposobnost da poboljšaju algoritam i time se bave pitanjem pristranosti u budućnosti iteracije softvera.

Istraživanje bi također trebalo istražiti alternativne pristupe koji mogu ponuditi bolje zaštite privatnosti uz održavanje sigurnosnih prednosti. Na primjer, sustavi koji analiziraju obrasce ponašanja ili otkriti anomalije bez identificiranja specifičnih pojedinaca mogu pružiti korisne sigurnosne informacije s manje privatnosti upada od tradicionalnog prepoznavanje lica.

Interdisciplinarna istraživanja koja okupljaju računalne znanstvenike, socijalne znanstvenike, etičare i pravne znanstvenike mogu pomoći u prepoznavanju i rješavanju složenih izazova koje predstavlja tehnologija prepoznavanja lica. Razumijevanje ne samo tehničkih sposobnosti već i društvenih, etičkih i pravnih implikacija je ključno za odgovoran razvoj i raspoređivanje.

Međunarodna suradnja i standardi

S obzirom na transnacionalnu prirodu terorizma, međunarodna suradnja na standardima i praksama prepoznavanja lica i trebala bi zajedno raditi na razvoju zajedničkih standarda za točnost, pravednost i zaštitu privatnosti, uz poštivanje različitih pravnih tradicija i kulturnih vrijednosti.

Međunarodni sporazumi mogli bi uspostaviti minimalne standarde za sustave prepoznavanja lica koji se koriste u borbi protiv terorizma, osiguravajući da podaci koji se dijele preko granica ispunjavaju osnovne zahtjeve za točnost i pouzdanost. Također bi se mogli uspostaviti protokoli za dijeljenje podataka koji štite privatnost i ljudska prava, a istovremeno omogućuju učinkovitu suradnju protiv terorističkih prijetnji.

Međutim, međunarodna suradnja mora biti uravnotežena u pogledu zabrinutosti u pogledu autoritarnih režima za korištenje prepoznavanja lica za političku represiju. Demokratske zemlje trebaju biti oprezne u dijeljenju tehnologije prepoznavanja lica ili podataka s vladama kojima nedostaje jaka zaštita ljudskih prava i vladavina prava. Međunarodni standardi trebaju uključivati zaštitne mjere kako bi se spriječilo korištenje tehnologije u nezakonite svrhe.

Zaključak: Navigiranje kompleksnog krajolika

Tehnologija prepoznavanja lica predstavlja snažan alat u borbi protiv terorizma, nudeći mogućnosti za identifikaciju, nadzor i istragu koja je bila nezamisliva tek prije nekoliko desetljeća. Nova tehnologija je dala novu moć državi da automatizira identifikaciju ranije poznatih terorista koji organiziraju napade na građane koje država treba zaštititi, a moć da to učini, ako to učinkovito radi, pomogla bi u suzbijanju terorizma.

Međutim, tehnologija također predstavlja značajne izazove vezane uz točnost, pristranost, privatnost i građanske slobode. Ovaj problem prevladava u softveru za prepoznavanje lica, koji teži generiranju veće stope lažnih pozitivnih za ne-bijele osobe, a za razliku od softvera za prepoznavanje lica koji se koristi za uhićenje nekoga, pogrešno obučeni CT algoritam može ubiti civile, akcija koja se ne može poništiti. Ulozi u protuterorističkim aplikacijama su posebno visoki, gdje pogreške mogu dovesti do nedužnih ljudi koji su pogrešno pritvoreni ili, obrnuto, na opasne osobe koje izbjegavaju otkrivanje.

Put naprijed zahtijeva uravnoteženje tih konkurentnih razmatranja kroz pažljiv razvoj politike, snažan nadzor, kontinuirano tehničko poboljšanje i kontinuirani javni dijalog. Niti deque zabrane koje sprječavaju korištenje prepoznavanja lica u sigurnosne svrhe niti nekonverzirano uvođenje bez zaštite predstavlja odgovoran pristup. Umjesto toga, kontekst-specifični okviri koji omogućuju korisne uporabe, a istovremeno sprječavaju zloporabu, nude najbolju nadu za ostvarivanje sigurnosnih prednosti prepoznavanja lica uz zaštitu temeljnih prava.

Kako se tehnologija nastavlja razvijati i postaje sposobnija, potreba za promišljenim upravljanjem postaje hitnija. Odluke donesene danas o tome kako se razvija, razmješte i regulira oblikovat će ravnotežu između sigurnosti i slobode u godinama koje dolaze. Osiguravanje da se te odluke informiraju dokazima, vođenim etičkim načelima, i podložno demokratskoj odgovornosti je bitno za održavanje i sigurnosti i slobode u sve složenijem prijetnjem okruženju.

Za više informacija o biometrijskim sigurnosnim tehnologijama posjetite Nacionalni institut za standarde i tehnologiju za prepoznavanje lica Vendor Test program. Da biste saznali o privatnosti u razmatranju tehnologije nadzora, istražite resurse Elektronska Frontier Foundation. Za međunarodne perspektive u pogledu regulacije prepoznavanja lica, pogledajte Europski parlament radi na regulaciji AI.