Table of Contents

Razumevanje tehnologije prepoznavanja lica i njena uloga u modernoj bezbednosti

Ova moćna tehnologija omogućava brzu i tačnu identifikaciju pojedinaca i pomagala u sprečavanju terorističkih aktivnosti i omogućavanju da javni prostor bude sigurniji.

Prema istraživanju tržišta i tržišta, tržište prepoznavanja lica je spremno da dostigne 8,5 milijardi dolara u 2025. godini, više od udvostručenja od 3,8 milijardi dolara u 2020. godini. Ovaj eksplozivni rast odražava ne samo mogućnosti širenja tehnologije već i njen kritični značaj u okvirima nacionalne bezbednosti. Od aerodroma i graničnih prelaza do mreža za urbani nadzor i istražnih procesa, prepoznavanje lica je postalo neizostavna komponenta modernih strategija protiv terorizma.

Tehnologija digitalizuje ljudske osobine lica u matematičke prikaze koje kompjuteri mogu da obrađuju i porede, analizirajući ključne značajke lica kao što su rastojanje između očiju osobe, širina nosa, širina viličnog mosta, struktura jagodičnih kostiju, a zatim stvara jedinstvene biometrijske predloške za provjeru identiteta u bazama podataka koje sadrže milione lica. Ova sposobnost da se obrađuju i poklapaju lica nezabeleženom brzinom i skalom je fundamentalno promenila način na koji sigurnosne agencije pristupaju detekciji i sprečavanju pretnji.

Evolucija tehnologije prepoznavanja lica

Od ranih početaka do sistema sa moćima za UI

Tehnologija seže u 1960-te kada je tip po imenu Vudro Vilson Bledsoe prvi put došao do sistema za sortiranje slika lica koristeći specijalnu ploču. Ovi rani sistemi su bili rudimentarni po današnjim standardima, zahtevajući ručne ulaze i rad pod visoko kontrolisanim uslovima. 70-ih, neki pametni ljudi su koristili 21 specifičnu oznaku, kao što su boja kose i debljina usana, da automatiziraju prepoznavanje lica, i 80-ih/90-ih su videli novi pristup nazvan Eigenface, koji je postao temelj za moderne sisteme.

Pravi menjač igara došao je 2000-ih sa društvenim medijima, jer je odjednom bilo milion obeleženih fotografija online, dajući ovim sistemima ogromnu bazu podataka iz koje treba da uče. Ovo obilje podataka o obuci, u kombinaciji sa napredovanjem u algoritmima za mašinsko učenje, omogućilo je sistemima prepoznavanja lica da postignu tačnost koja je ranije bila nezamisliva.

Kako rade moderni sistemi prepoznavanja lica

Moderni sistemi prepoznavanja lica rade kroz višestepeni proces koji se dešava u milisekundama. Prvi stadijum uključuje otkrivanje lica, gde sistem identifikuje i locira lice unutar slike ili video okvira. To je praćeno poravnanjem lica, gde sistem normalizira položaj lica, veličinu i orijentaciju kako bi obezbedio doslednu analizu bez obzira na ugao ili udaljenost od kamere.

Sledeće dolazi do izdvajanja značajki, gde sistem identifikuje i meri karakteristične osobine lica. Ova merenja se pretvaraju u matematički prikaz koji se naziva facijalni šablon ili biometrijski potpis. Konačno, sistem obavlja uparivanje uporedovanjem ovog šablona sa pohranjenim šablonima u bazi podataka, generišući sličnost ocena koja ukazuje na verovatnoću poklapanja.

Moderni sistemi za prepoznavanje lica hvataju i analiziraju slike ljudi u najtežim uslovima vida i kretanja. Ova sposobnost je ključna za kontraterorističke aplikacije, gde osumnjičeni mogu biti uhvaćeni na snimcima nadzora pod manje-nego-idealnim uslovima, uključujući loše osvetljenje, delimičnu okluziju, ili pod uglom kosih uglova.

Strateške primene u operacijama protiv terorizma

Nadzor i otkrivanje pretnji u realnom vremenu

Tehnologija prepoznavanja lica pojavila se kao transformativno sredstvo u borbi protiv terorizma, nudeći napredne mogućnosti za prepoznavanje, praćenje i hvatanje pojedinaca od interesa, sa fokusom na tri specifične aplikacije: nadzor u realnom vremenu, kontrolu granica i istražne procese. U prepunim javnim prostorima, prevoznim čvorištima, i tokom velikih događaja, sistemi prepoznavanja lica mogu kontinuirano skenirati masu i momentalno upozoravati osoblje bezbednosti kada se osoba od interesa otkrije.

AI omogućava automatsku proveru uzbunjivanja i identiteta ogromnih grupa ljudi na skali i tempom koji nije moguć pre. Ova sposobnost je posebno vredna tokom događaja visokog profila gde se okupljaju velike mase, kao što su politički skupovi, sportski događaji ili kulturni festivali. Bezbednosne agencije mogu da raspoređuju sisteme prepoznavanja lica kako bi nadgledale ulazne tačke i pokrete gomile, identifikovavši potencijalne pretnje pre nego što se materijalizuju u napade.

Pojačana bezbednost pruža kontinuirano praćenje u oblastima visokog prometa, identifikuje osobe od interesa i locira nestale osobe sa neviđenom efikasnošću. tehnološka sposobnost da radi kontinuirano bez umora čini to neprocenjivim dopunom za osoblje ljudske bezbednosti, koji zatim može da fokusira svoju pažnju na istraživanje upozorenja i odgovor na potencijalne pretnje.

Granièna bezbednost i imigraciona kontrola.

Granični prelazi i aerodromi predstavljaju kritične tačke u borbi protiv terorizma. Ako osoba (uključujući teroristu) dolazi u Sjedinjene Države iz inostranstva, on ili ona verovatno prolazi kroz imigracionu kontrolnu tačku u luci ulaska, a iz perspektive kontraterorizma, ovaj kontrolni punkt je tačka gde bi-bi-biti terorista je najranjiviji. Tehnologija prepoznavanja lica je postala suštinsko sredstvo u ovim kritičnim momentima.

FRT-i su raspoređeni da potvrde da je osoba koja prolazi kroz graničnu kontrolu zaista osoba koja je slikana na identifikacionom dokumentu (npr. pasoš), a Interpol je rasporedio svoj Projekt PRVI sistem kako bi pomogao državnim organima da identifikuju strane terorističke borce (FTF-ove). Ovi sistemi mogu brzo da obrađuju putnike istovremeno proveravajući svoje identitete protiv liste satova poznatih ili osumnjičenih terorista, značajno povećavajući bezbednost bez stvaranja velikih uskih grla u putničkom toku.

Biometrija može da spreči krađu identiteta i imigracionu prevaru u korišćenju putnih dokumenata, jer bi biometrijski šablon nečijeg otiska prsta bio priložen dokumentu, kao što su pasoš ili viza, na barskom kodu, čipu ili magnetnoj traci, što bi otežalo da neko preuzme tuđi identitet. kada se kombinuje sa prepoznavanjem lica, ovaj višeslojni biometrijski pristup stvara robusnu odbranu od terorista koji pokušavaju da uđu u zemlje koristeći lažne dokumente ili ukradene identitete.

Istražne i forenzièke prijave

Biometrijski sistemi mogu da identifikuju poznate ili osumnjičene teroriste koristeći biometrijsko prepoznavanje lica ili FaceCheck metodu kada je fotografija dostupna osumnjičenog terorista, a ovo se traži u odnosu na listu ili bazu podataka o osumnjičenim teroristima. Ova sposobnost se pokazala neprocenjivom u post-incidentnim istragama, gde bezbednosne agencije analiziraju nadzorne snimke kako bi identifikovali počinioce i njihove saradnike.

Umesto da ručno pregledaju sate snimaka i uporede lica sa očima, istražitelji mogu da koriste prepoznavanje lica da bi brzo pretražili ogromne arhive video nadzora, identifikovali osumnjičene i pratili njihovo kretanje kroz više lokacija i vremenskih perioda.

Američka vojska takođe je prepoznala stratešku vrednost prepoznavanja lica u kontraterorističkim operacijama. Američka Komanda specijalnih operacija (USOCOM) postavlja temelje za značajno širenje svoje inteligencije identiteta i sposobnosti eksploatacije, ističući široku i tehnički ambicioznu viziju za to kako specijalne operativne snage prikupljaju, analiziraju i eksploatišu podatke vezane za identitet tokom misija, tražeći uvid u pet primarnih tehnoloških oblasti: prepoznavanje lica, identifikaciju zvučnika i poklapanje glasa, potpuno integrisan ekosistem SOF-a za eksploataciju sajta, brzu analizu DNK, i AI i mašinsko učenje analitike.

Operativne prednosti u sprečavanju terorizma

Brzina i skala identifikacije

Jedna od najznačajnijih prednosti tehnologije prepoznavanja lica u borbi protiv terorizma je njegova sposobnost da obrađuje i analizira lica u brzinama koje daleko prevazilaze ljudske sposobnosti. Nova tehnologija je dala novu moć državi da automatizira identifikaciju prethodno poznatih terorista koji organizuju napade na građane koje država treba da zaštiti, a moć da to uradi, ako to radi efikasno, pomogla bi u suzbijanju terorizma, jer tehnologija prepoznavanja lica obećava da će dati državi upravo tu moć.

Tradicionalne metode identifikacije osumnjičenih su se jako oslanjale na ljudsko pamćenje i ručno poređenje fotografija, procesa koji su bili vremenski konzumirajući i skloni greškama. Oficir obezbeđenja koji prati prenapučeni aerodrom mogao je da aktivno posmatra samo ograničen broj ljudi odjednom, pa čak i najiskusnije osoblje moglo bi da promaši osumnjičenog u moru lica. Sistemi prepoznavanja lica, za razliku od toga, mogu istovremeno da prate stotine ili hiljade lica, poredeći svaku od njih sa opsežnim bazama podataka u realnom vremenu.

Kada obaveštajne agencije dobiju informacije o neposrednoj pretnji, sistemi za prepoznavanje lica mogu da se brzo rasporede da skeniraju mreže za nadgledanje širom grada, potencijalno locirajuæi osumnjièene u roku od nekoliko minuta, a ne sati ili dana.

Poboljšane mogućnosti nadzora

Kroz biometrijsko prepoznavanje, algoritam za duboko učenje, i veliku analitiku podataka, poboljšava se preciznost i efikasnost obaveštajnog rada i tradicionalni monitoring rad postaje prednji izgled i odbrambena borba. prepoznavanje lica transformiše nadzor iz reaktivnog alata koji se koristi pre svega za post-incidentnu istragu proaktivnog sistema sposobnog da spreči napade pre nego što se oni pojave.

Tehnologija omogućava bezbednosnim agencijama da stvore sveobuhvatne mreže nadzornih kamera koje funkcionišu kao integrisani sistem umesto izolovanih posmatračkih tačaka. Kada se osoba od interesa otkrije na jednoj lokaciji, sistem može da prati njihova kretanja širom mreže, pružajući bezbednosnom osoblju informacije o svojim aktivnostima i udruženjima u realnom vremenu. Ova sposobnost je neprocenjiva za razumevanje terorističkih mreža i identifikovanje ranije nepoznatih članova ekstremističkih organizacija.

Štaviše, sistemi za prepoznavanje lica mogu da rade kontinuirano bez ograničenja ljudske pažnje i umora. dok ljudski operateri mogu da propuste kritične detalje tokom dugih smena ili perioda niske aktivnosti, automatizovani sistemi održavaju doslednu budnost, osiguravajući da nijedna potencijalna pretnja ne prođe neopaženo.

Efekt odvraćanja

Prisustvo sistema za prepoznavanje lica može poslužiti kao snažan odbojnik za terorističke aktivnosti, kada potencijalni napadači znaju da će njihova lica biti uhvaćena i analizirana sofisticiranim biometrijskim sistemima, suočavaju se sa znatno većim rizicima identifikacije i hvatanja.

Sistemi prepoznavanja lica stvaraju stalan digitalni zapis koji se može analizirati dugo nakon incidenta, što znači da čak i ako teroristi uspeju da izbegnu momentalnu detekciju, ostavljaju dokaze koji se mogu koristiti da ih identifikuju kasnije, prate njihovo kretanje i otkriju svoje mreže. Ova dugoročna odgovornost dodaje još jedan sloj rizika koji teroristi moraju da razmotre prilikom planiranja operacija.

Optimizacija resursa

Tehnologija prepoznavanja lica omogućava bezbednosnim agencijama da optimizuju svoje ograničene resurse automatizacijom rutinskih identifikacionih zadataka i fokusiranjem ljudske stručnosti tamo gde je to najpotrebnije.Umesto da se osoblje ručno prati nadzorne snimke ili proverava dokumenta na graničnim prelazima, agencije mogu da raspoređuju sisteme prepoznavanja lica da bi se bavile tim zadacima dok se ljudski operateri fokusiraju na istraživanje upozorenja, sprovođenje intervjua i donošenje kritičnih odluka.

Sa milionima putnika koji svakodnevno prolaze kroz aerodrome i bezbroj sati nadzornih snimaka koji se stvaraju širom urbanih oblasti, bilo bi nemoguće ručno pregledati sve ove informacije. Sistemi prepoznavanja lica mogu automatski da obrađuju ovu ogromnu količinu podataka, što označava samo mali deo koji zahteva ljudsku pažnju.

Kritične izazove i tehničke granice

Preciznost i lažna pozitivna

Uprkos značajnom napretku u tehnologiji prepoznavanja lica, preciznost ostaje kritična zabrinutost, posebno u primenama protivterorizma gde posledice grešaka mogu biti teške. Metoda prepoznavanja lica identifikovana je sa tehnološkim nesavršenostima i slabostima, ali se može koristiti operativno da bi se smanjile njene slabosti. Razumevanje tih ograničenja je suštinsko za implementaciju tehnologije odgovorno i efikasno.

Iako ljudska bića generalno mogu da izvedu procese prepoznavanja lica prilično dobro, ove aktivnosti su i dalje veoma izazovne za tehnološke sisteme, jer ukoliko fotografija nije uhvaćena pod veoma kontrolisanim uslovima, sistem može imati poteškoća da prepozna pojedinca ili čak detektuje njegovo lice na fotografiji, a sistem najbolje funkcioniše kada se faktori okoline kao što su ugao kamere, rasveta, izraz lica i drugi, kontrolišu u najvećoj mogućoj meri.

Lažni pozitivi intenzije u kojima sistem pogrešno identifikuje nekoga kao osobu od interesa predstavljaju posebne izazove u kontraterorističkim kontekstima. Oni za koje tehnologija ne radi, neće biti u mogućnosti da budu potvrđeni od strane FRT-a što izaziva sumnju i dodatno nametanje nadzora, a pored toga, biće češće pogrešno identifikovani, što može dovesti do toga da budu osumnjičeni kao terorist ili drugi ozbiljni kriminalac. Takve pogrešne identifikacije mogu dovesti do toga da nevine ljude budu pritvoreni, ispitivani ili podvrgnuti invazivnim bezbednosnim procedurama, sa značajnim ličnim i socijalnim posledicama.

NIST je nedavno vodio veliko-kalni test fokusiran na prepoznavanje pristranosti u FRT-u, sa posebnim naglaskom na lažno pozitivnu stopu tj. učestalost kojom algoritam pogrešno identifikuje imidž jedne osobe, a rezultati su pokazali dapreko demografije, lažne pozitivne stope često variraju faktorima od 10 do više od 100 puta u zavisnosti od toga koji su algoritmi u upotrebi. Ove varijacije u stopama grešaka širom različitih sistema ističu značaj rigoroznog testiranja i validacije pre nego što se primene tehnologija prepoznavanja lica u visoko-stajnim aplikacijama bezbednosti.

Demografska bijasa i algoritmska ferost

Jedan od najozbiljnijih izazova sa kojima se suočava tehnologija prepoznavanja lica je demografska pristranost tendencija da sistemi izvode manje precizno na određenim demografskim grupama. Tri komercijalno puštena programa za analizu lica od glavnih tehnoloških kompanija pokazuju kako tip kože tako i polne pristrasnosti, a u eksperimentima istraživača, stope grešaka tri programa u određivanju pola svetlosnih muškaraca nikada nisu bile gore od 0,8 odsto, ali za žene tamnije kože, međutim, stopa grešaka je bila u balonu — na više od 20 odsto u jednom slučaju i više od 34 odsto u druga dva.

Stopa grešaka za muškarce svetloputih je 0,8 odsto, u poređenju sa 34,7 odsto za žene tamnije kože, prema studiji pod nazivomPorodna nijansa od strane Joy Buolamwini i Timnit Gebru, koju je objavio MIT Media Lab. Ova dramatična neslaganja u tačnosti dovodi do ozbiljnih zabrinutosti u pogledu pravednosti i jednakog postupanja prema zakonu kada se prepoznavanje lica koristi u bezbednosnim i policijskim kontekstima.

Kožni ton značajno utiče na tačnost verifikacije, sa svetlijim tonovima kože dosledno nadmašuju srednje tamne tonove. Istraživanje je takođe pokazalo da su muški subjekti generalno postigli bolju tačnost prepoznavanja od ženskih subjekata, pripisanih faktorima kao što je okluzija uzrokovana dužim izgledom kose i promenama u izgledu lica zbog šminke.

Crna žena je u avgustu 2023. tužila policiju Detroita pošto su je uhapsili policajci koristeći slabo kalibrisan softver za prepoznavanje lica, a ovaj problem je prisutan u softveru za prepoznavanje lica, koji teži da generiše veću stopu lažnih pozitivnih za nebele ljude. Takvi incidenti pokazuju stvarne posledice algoritamske pristranosti i podvlače hitnu potrebu za pravednijim sistemima prepoznavanja lica.

Studija NIST-a je dodatno pronašla pristrasne rezultate kada su u pitanju istočnoazijske, domorodačke, američke, indijske, otočanske i pacifičke ostrvljane, a prožimanje tih pristrasnosti u više demografskih grupa ukazuje da je problem sistemski nego izolovan na specifične populacije ili algoritme.

Koreni uzroci bijasa

Tehnologija prepoznavanja lica je napravila velike korake u preciznosti zahvaljujući naprednim modelima veštačke inteligencije (AI) obučenim na masivnim skupovima podataka slika lica, ali ti skupovi podataka često nemaju različitost u pogledu rase, etničke pripadnosti, pola i drugih demografskih kategorija, što uzrokuje da sistemi prepoznavanja lica izvode gore na nedovoljno zastupljenim demografskim grupama u odnosu na grupe sveprisutne u podacima obuke.

Problem pristranosti potiče iz više izvora. Istorijski skupovi podataka koji se koriste za obuku algoritama prepoznavanja lica su pretežno prikazivali lica belih muškaraca, odražavajući demografiju istraživača i institucija koje su ih stvorile. Kada algoritmi uče da prepoznaju lica prvenstveno iz ovog ograničenog skupa podataka, oni prirodno bolje izvode na sličnim licima i bore se sa licima koja se značajno razlikuju od njihovih podataka o obuci.

Mnogi pripisuju većinu ovih pitanja neuravnoteženim skupovima podataka. Međutim, problem se proteže i izvan jednostavnog prikaza. Čak i kada setovi podataka uključuju razna lica, drugi faktori kao što su uslovi osvetljenja, kvaliteta kamere i rezolucija slike mogu nesrazmerno uticati na kvalitet slika za ljude sa tamnijim tonom kože, daljne komponirajuće tačnosti problema.

Napori da se umanji Bias

Istraživači i kompanije tehnologije su prepoznale ozbiljnost problema pristrasnosti i aktivno rade na rešenjima. 2018. godine, Majkrosoft je objavio da je njihov komercijalno dostupan FRT prošao ažuriranja kako bi poboljšao performanse širom rasnih i rodnih kategorija proširivanjem skupova podataka koji su korišteni za obuku algoritama za mašinsko učenje i poboljšanjem klase lica za veću tačnost, a ta poboljšanja su rezultirala, prema navodima kompanije, 20 puta nižim stopama grešaka za tamnije tonove kože i 9 puta nižim stopama grešaka za žene.

Istraživači su prethodno obučili tri modela prepoznavanja lica — ArcFace, AdaFace i ElasticFace — na velikom, uravnoteženom sintetičkom skupu podataka koji su generisali, i rezultat ne samo da je povećao ukupnu tačnost u odnosu na modele obučene na postojećim neravnoteženim skupovima podataka, već i značajno smanjio demografsku pristranost, sa obučenim modelima koji pokazuju pravedniju tačnost u svim rasnim grupama u poređenju sa postojećim modelima koji pokazuju slabu izvedbu na nedovoljno zastupljenim manjinama.

Na FairFace skupu podataka, preciznost se poboljšala sa 92,58% na 96,47%, dok je stepen Bias (DoB) smanjen sa 3,86 na 1,16, što predstavlja smanjenje od oko 70%, a posebno su uočeni značajni rezultati za nedovoljno zastupljene grupe, kao što je poboljšanje tačnosti za crne ženke sa 80,2% na 90,86%, dok je održan snažan performans za već dobro zastupljene grupe.

Debiasing aversarial mreza (DebFace), koristi koder slika-do-faze, cetiri klasifikatora atributa, klasifikator distribucije i agregirajuce osobine, a cetiri klasifikatora - rod, starost, rasa i identitet - pretvaraju potencijalne predrasude u informisane osobine, poboljšavaju performanse u nepredstavljenim grupama. Ove arhitektonske inovacije pokazuju da je ublažavanje pristranosti tehnički izvodljivo, iako značajan rad ostaje da se ta rešenja primene u svim raspoređenim sistemima.

Zabrinutost za privatnost i građanske slobode

Masovna nadzorna i privatna prava

Većina svega moćnog ima mračnu stranu, a FRT nije izuzetak, jer postavlja ozbiljna pitanja i zabrinutosti oko privatnosti, etike i sveukupnog društvenog uticaja. raspoređivanje tehnologije prepoznavanja lica u kontraterorističke svrhe izazvalo je intenzivnu raspravu o ravnoteži između bezbednosti i privatnosti, uz kritičare koji tvrde da široko rasprostranjeni nadzor ugrožava fundamentalne građanske slobode.

Pravni, etički i izazovi u vezi sa privatnošću u vezi sa masovnim nadzorom uključuju zabrinutosti oko pogrešnog identifikacije, prevare i pristrasnosti u bazi podataka. Sposobnost da se prate pokreti pojedinaca širom javnih prostora bez njihovog znanja ili saglasnosti postavlja duboka pitanja o prirodi privatnosti u modernom društvu i odgovarajućim granicama vladinih nadzornih ovlašćenja.

Kritičari ukazuju na značajne rizike privatnosti i potencijalne povrede građanskih sloboda, podizanje zabrinutosti oko neovlaštenog prikupljanja podataka, nedostatka saglasnosti i potencijala za gmizanje funkcijakroz koje se prikupljaju u jednu svrhu koriste u nepovezanu svrhu bez znanja ili saglasnosti pojedinca. Strah je da bi sistemi prvobitno raspoređeni za borbu protiv terorizma mogli postepeno da se šire kako bi pratili obične građane koji su uključeni u zakonite aktivnosti, stvarajući stanje nadzora koje hladi slobodni izraz i asocijaciju.

Razloge za takvu zabranu su da FRT-ovi pate od sveprisutne pristranosti koja rezultira prednostima i štetom koja se nejednako distribuira među grupama, država će neminovno koristiti ove tehnologije u nezakonite svrhe, i da postojanje FRT-a hladi naše ponašanje (tj., uzrokuje da se ljudi cenzurišu iz straha od nadzora). Ovaj kulirajući efekat može da potkopa demokratsko učešće obeshrabrujući ljude da prisustvuju protestima, političkim skupovima ili drugim javnim skupovima gde bi mogli da budu identifikovani i praćeni.

Regulatorni odgovori i zabrane

Godine 2019. San Francisko je postao prvi američki grad koji je zabranio tehnologiju prepoznavanja lica (FRT), posebno veto na njeno korišćenje od strane policije i drugih agencija, a od tada, nekoliko drugih američkih gradova je implementiralo sopstvene slične FRT zabrane, sa Bostonskim gradskim odbornicima eksplicitno naglašavajući jedno posebno pitanje: pristranost tehnologije. Ove zabrane odražavaju rastuću zabrinutost javnosti oko potencijala tehnologije za zloupotrebu i njene demonstrirane probleme sa tačnošću i pravednošću.

Više od desetak velikih gradova zabranilo je tehnologiju, uključujući Minneapolis, Boston i San Francisko. Međutim, ove lokalne zabrane nisu sprečile federalne agencije i mnoge druge nadležnosti da nastave da raspoređuju prepoznavanje lica u bezbednosne svrhe, stvarajući zakrpu propisa koja značajno varira po lokaciji.

Evropska unija je uzela sveobuhvatniji pristup, uz korišćenje tehnologija prepoznavanja lica u kontekstu mirnog protesta podižući rizik od praksi masovnog nadzora i implikacija za zaštitu ljudskih prava. evropski regulatori su predložili stroga ograničenja u korišćenju prepoznavanja lica u javnim prostorima, uz neke koji se zalažu za potpune zabrane osim u usko definisanim okolnostima koje uključuju ozbiljne zločine ili neposredne pretnje.

Balansiranje bezbednosti i slobode

Najvažnije je da ako država može da iskoristi ovu tehnologiju da poveća svoju moć za borbu protiv terorizma, ta moć je ograničena tako da se zloupotrebe i rashlađeno ponašanje ne dešavaju, a država mora da stvori institucionalna ograničenja koja samo omogućavaju da se FRT-ovi koriste na mestima gde ljudi (i ne bi trebalo) uživaju razumno očekivanje privatnosti (npr. aerodromi, granični prelazi).

Kamere opremljene FRT-om moraju biti obeležene da bi se javnosti osiguralo da ih ne nadgledaju na mestima koja bi trebalo da imaju razumno očekivanje privatnosti, a FRT-ovi bi trebalo da budu ograničeni na pronalaženje ozbiljnih kriminalaca (npr. terorista). Ova predložena ograničenja predstavljaju pokušaj očuvanja bezbednosnih prednosti prepoznavanja lica uz ograničavanje njenog potencijala za zloupotrebu i zaštitu građanskih sloboda.

FRT predstavlja moćno sredstvo u arsenalu protiv terorizma, omogućavajući bezbednosne mere koje su ranije bile nedostižne, ali to je tehnologija koja zahteva izuzetno osuđujuću ravnotežu između njegovih jasnih koristi i važnih etičkih razmatranja sa kojima je povezan, a u ovom trenutku, moglo bi biti da je ravnoteža preteška u korist FRT-ovih jasnih prednosti i nedovoljno u korist pravednosti, privatnosti i etičkog integriteta koji bi trebalo da vodi njegovo raspoređivanje.

Pravni i etički okviri

Ustavna i ljudska prava razmatranja

FRT programi koje koriste snage zakona u identifikaciji osumnjičenih za kriminal su znatno više pogrešni na slikama lica koje prikazuju tamnije tonove kože i žene u odnosu na slike lica koje prikazuju muškarce iz belca, i ta pristranost može dovesti do toga da građane policija pogrešno istražuje duž rasnih i rodnih linija, sa time da je primena pristrasnog FRT-a nedosledna klasičnom liberalnom zahtevu da vlada tretira sve građane jednako pred zakonom.

Jednaka zaštitna klauzula mnogih ustava zahteva da vladine akcije ne diskriminišu na osnovu rase, pola ili drugih zaštićenih karakteristika. Kada sistemi za prepoznavanje lica demonstriraju sistematsku pristrasnost prema određenim demografskim grupama, njihova upotreba od strane vladinih agencija može da krši ove ustavne zaštite. To stvara pravnu dilemu: dok tehnologija može da pojača bezbednost, njena pristrasna izvedba može da svoju upotrebu učini neustavnom ili da krši zakon o ljudskim pravima.

Naučnici računara izrazili su zabrinutost zbog upotrebe zakona FRT-a za identifikaciju osumnjičenih za kriminal, ističući da je vrlo verovatno da se takav softver koristi za identifikaciju osumnjičenih, i time, greška u izvođenju algoritma za prepoznavanje lica koji se koristi kao ulaz za druge zadatke može imati ozbiljne posledice, jer bi neko mogao da bude nepravedno optužen za zločin zasnovan na pogrešnoj, ali uverenoj pogrešnoj identifikaciji počinioca iz analize snimaka bezbednosti.

Transparentnost i odgovornost

Preporuča snažnu regulaciju, međunarodnu saradnju i transparentno upravljanje kako bi se osiguralo da je upotreba tehnologije AI prepoznavanja lica kompatibilna sa ljudskim pravima i fundamentalnim slobodama. Transparentnost o tome kako sistemi za prepoznavanje lica funkcionišu, njihove stope preciznosti, i njihova ograničenja su suštinska za javno poverenje i demokratsku odgovornost.

Uspostaviti zakone koji su jasni i sveobuhvatni vezani za upotrebu tehnologije prepoznavanja lica, uskladiti globalne standarde sa nacionalnim okvirima kako bi se osigurala doslednost, i mandat redovnih revizija FRT sistema kako bi se obezbedilo usklađenost sa etičkim smernicama. Redovito revizija može pomoći u identifikaciji problema sa tačnošću ili pristrasnosti pre nego što dovedu do ozbiljnih povreda, dok jasni pravni okviri pružaju navođenje bezbednosnim agencijama o odgovarajućoj upotrebi tehnologije.

Rizici ne bi trebalo da vode ka moratorijumu o upotrebi AI ili zabrani na određenim platformama, već bi trebalo da budu pozvani na akciju da vlade zahtevaju bolji dizajn za svoje AI/ML alate, što znači sticanje boljih podataka i stvaranje napornih režima testiranja koji ograničavaju rizik i izlažu nedostatke koliko god je to moguće, a način da se to pomogne je sprovođenjem obrazloženih AI standarda i politika transparentnosti koje vladama daju uvid u racionalnost za svaku akciju koju sistem uzme.

Zaštita i retencija podataka

Država ne bi trebalo da koristi kompanije treće strane koje krše prva tri uslova tokom stvaranja ili korišćenja njene usluge, a kompanije treće strane ne bi trebalo da mogu da pristupe ili pročitaju osetljive podatke koje je prikupila država. biometrijski podaci prikupljeni sistemima za prepoznavanje lica su veoma osetljivi i lični, koji zahtevaju robusne zaštite od neovlaštenog pristupa, zloupotrebe ili kršenja podataka.

Pitanja o zadržavanju podataka su posebno važna. Koliko dugo treba da se čuvaju podaci o prepoznavanju lica? Ko bi trebalo da ima pristup tome? Pod kojim okolnostima se može podeliti sa drugim agencijama ili zemljama? Ova pitanja nemaju jasne odgovore u mnogim jurisdikcijama, stvarajući neizvesnost o dugoročnim implikacijama raspoređivanja lica.

Rizik od kršenja podataka je takođe značajan. Baza podataka koja sadrži podatke o prepoznavanju lica za milione ljudi bila bi atraktivna meta za hakere, strane obaveštajne službe ili kriminalne organizacije. Ako su takvi podaci kompromitirani, mogla bi se koristiti za krađu identiteta, uhođenje ili druge zlonamerne svrhe, sa posledicama koje bi mogle da traju godinama ili decenijama.

Međunarodne perspektive i deploatacija

Globalni obrasci za usvajanje

Provođenje zakona: Priznavanje lica trenutno se svrstava u najširu usvojenu tehnologiju nadzora AI na globalnom nivou, sa stopom usvajanja 64%, prevazilazeći kako pametne gradske platforme tako i inicijative pametnog policijskog ponašanja. Ovo široko rasprostranjeno usvajanje odražava i percipiranu vrednost tehnologije za bezbednost i različite regulatorne pristupe koje su preduzele različite zemlje.

Zemlje se suočavaju sa različitim bezbednosnim pretnjama i imaju različite kulturne stavove prema privatnosti i nadzoru, što dovodi do značajnih varijacija u tome kako se raspoređuje prepoznavanje lica. Neke zemlje su oduševljeno prihvatile tehnologiju, razmeštajući je u javnim prostorima sa minimalnim ograničenjima. Drugi su uzeli oprezniji pristup, ograničavajući njenu upotrebu u specifičnim visoko-bezbednosnim kontekstima ili nametajući stroge zahteve za nadzor.

Furl et al. (2002) je utvrdio da je FRT razvijen i korišćen u zapadnim zemljama precizniji za slike lica kavkaskih lica, dok su u istočnoazijskim zemljama algoritmi FRT bili precizniji za istočnoazijske slike lica. Ovim nalazom se ističe značaj razvoja sistema za prepoznavanje lica koji su obučeni na raznovrsnim skupovima podataka predstavnika populacija gde će biti raspoređeni.

Međunarodna saradnja i standardi

Terorizam je transnacionalna pretnja koja zahteva međunarodnu saradnju u borbi protiv efikasne. Tehnologija prepoznavanja lica može olakšati ovu saradnju omogućavajući zemljama da dele informacije o poznatim ili osumnjičenim teroristima i koordiniraju svoje napore u pogledu nadzora. Međutim, ova međunarodna dimenzija takođe postavlja složena pitanja o deljenju podataka, zaštiti privatnosti i ljudskim pravima.

Kada se podaci o prepoznavanju lica dele preko granica, mogu biti predmet manje strogih zaštita u zemlji koja prima, nego u zemlji u kojoj je prikupljena.

Međunarodne organizacije kao što je Interpol su razvile sisteme za olakšavanje prekogranične upotrebe prepoznavanja lica za borbu protiv terorizma. Ovi sistemi moraju da se snađu na složenom pravnom i političkom terenu, balansirajući bezbednosne prednosti deljenja informacija protiv zabrinutosti u pogledu privatnosti, ljudskih prava i nacionalnog suvereniteta. Razvoj međunarodnih standarda i sporazuma za odgovornu upotrebu prepoznavanja lica u borbi protiv terorizma ostaje stalni izazov.

Javno opažanje i poverenje

Faktori koji utiču na javno prihvatanje

Zastupnici FRT-a naglašavaju njegov potencijal u javnoj bezbednosti, sprečavanju kriminala, i protivterorizmu, ističući da FRT omogućava agencijama i organizacijama da identifikuju osumnjičene i spreče neovlašteni pristup zaštićenim područjima i prostorima u kojima su prisutna vredna imovina ili ranjivo stanovništvo. javna podrška prepoznavanju lica često zavisi od specifičnog konteksta u kojem se koristi, uz veće prihvatanje sigurnosnih aplikacija u visokorizičnim sredinama kao što su aerodromi.

Poverenje u institucije koje raspoređuju prepoznavanje lica je kritičan faktor u prihvatanju javnosti. Kada ljudi veruju da će bezbednosne agencije koristiti tehnologiju odgovorno i uz odgovarajući nadzor, one će verovatno prihvatiti njeno raspoređivanje. Obrnuto, kada je poverenje nisko zbog prethodnih zloupotreba, nedostatka transparentnosti, ili zabrinutosti oko pristranosti javno protivljenje teži da bude jače.

Uspešno i široko rasprostranjeno usvajanje FRT-a ne zavisi samo od njegove brzine i tačnosti, već i od poverenja javnosti u algoritme da će moći uređaja za prepoznavanje lica, i da će poverenje biti teško izgraditi dok primeri rasne pristrasnosti i lažnih pozitivnih rezultata nastavljaju da zasenjuju godišnje poboljšanje u ukupnoj tačnosti i funkcionalnosti softvera.

Izgradnja javnog samopouzdanja

Uskladiti javno angažovanje da se uhvati u koštac sa brigama i izgradi poverenje. Značajno javno angažovanje zahteva više nego jednostavno informisanje ljudi o raspoređivanju lica; to znači stvaranje mogućnosti za pravi dijalog o prednostima tehnologije, rizicima i odgovarajućim granicama.

Transparentnost u pogledu performansi sistema je od suštinskog značaja za izgradnju poverenja. Bezbednosne agencije treba da javno prijave tačnost stopa, uključujući slomove demografske grupe, lažne pozitivne stope, i informacije o tome kako se tehnologija koristi i nadgleda. Ova transparentnost omogućava javnosti da donese informisane presude o tome da li bezbednosne koristi opravdavaju troškove privatnosti i da li se tehnologija koristi pošteno.

Demonstracija odgovornosti kada se problemi pojave takođe je ključna. Kada sistemi za prepoznavanje lica dovedu do nepravednih pritvora ili drugih povreda, agencije moraju da priznaju te neuspehe, kompenzuju žrtve, i preduzmu konkretne korake da spreče ponavljanje. Obrazac negiranja problema ili odbijanja odgovornosti će erodirati poverenje javnosti i potpiriti protivljenje tehnologiji.

Budući razvoj i emerging tehnologije

Napredak u preciznosti i sposobnosti

Poslednjih godina, sa naprednim arhitekturama i povećanjem broja slojeva i parametara, FR modeli su stekli značajno poboljšanje u svojoj sposobnosti da uče složene prikaze lica, i ove dublje arhitekture, koje često čine preko stotinu slojeva sa milionima parametara, značajno su pojačali sposobnost FR sistema da generalizuju širom izazovnih scenarija, što je rezultiralo većim ukupnim performansama prepoznavanja (kao i smanjenom pristranošću), i dodatno, dostupnost većih, raznovrsnijih skupova podataka doprinela je boljim rezultatima učenja, jer su ti skupovi podataka, koji ugrađuju značajne varijacije demografiju i kovarijatete poput poze, omalovažavanja i izražavanja (PIE), olakšali meauspekulabilni napredak u poboljšanju i preciznosti i pravednosti FR.

Buduci sistemi prepoznavanja lica ce verovatno ukljuciti vise biometrijskih modaliteta, kombinovati prepoznavanje lica sa skeniranjem zenice, analizu hoda, prepoznavanje glasa i druge tehnike. Ovaj multimodalni pristup moze da poboljsa preciznost ukrstanjem vise biometrijskih potpisa, redukovanjem uticaja gresaka u bilo kom sistemu. Takođe moze da oteža teroristima da izbegnu detekciju maskiranjem ili izmenom njihovog izgleda.

Napredak u veštačkoj inteligenciji, posebno u dubokom učenju i neuronskim mrežama, nastavlja da pomera granice onoga što sistemi za prepoznavanje lica mogu da postignu. Ovi sistemi postaju bolji u prepoznavanju lica pod izazovnim uslovima, kao što su loše osvetljenje, delimična okluzija ili ekstremni uglovi. Takođe postaju brži, omogućavajući analizu video tokova visoke rezolucije u realnom vremenu iz više kamera istovremeno.

Integracija sa drugim obaveštajnim sistemima

Budućnost prepoznavanja lica u kontraterorizmu leži ne samo u poboljšanju same tehnologije, već i u integraciji sa drugim inteligencijskim i bezbednosnim sistemima. kada se prepoznavanje lica kombinuje sa analizom ponašanja, kartiranjem društvenih mreža, praćenjem komunikacija, i drugim izvorima inteligencije, postaje deo sveobuhvatnog sistema detekcije pretnje koji je veći od zbira njenih delova.

Na primer, prepoznavanje lica moglo bi da identifikuje osobu od interesa na aerodromu, što bi izazvalo dodatno ispitivanje njihovih obrazaca putovanja, finansijskih transakcija, komunikacija i poznatih saradnika. Ovaj integrisani pristup omogućava bezbednosnim agencijama da izgrade potpuniju sliku potencijalnih pretnji i donesu više informisane odluke o tome kako da odgovore.

Međutim, ova integracija takođe pojačava zabrinutost za privatnost. Sistem koji kombinuje prepoznavanje lica sa opsežnim podacima iz drugih izvora stvara nezabeležene mogućnosti nadzora koje bi mogle da se koriste za praćenje praktično svakog aspekta života ljudi. Osiguravanje da se takvi moćni sistemi koriste samo u legitimne bezbednosne svrhe i uz odgovarajući nadzor biće kritičan izazov za kreatore politika.

Ubrzavanje kontramera i trka oružjem

Kako tehnologija prepoznavanja lica postaje sve više rasprostranjena u borbi protiv terorizma, protivnici razvijaju kontramere za izbegavanje detekcije.

To stvara tekuću tehnološku trku u naoružanju, sa bezbednosnim agencijama koje rade na poboljšanju sistema prepoznavanja lica dok teroristi i drugi protivnici razvijaju nove načine da ih pobede. efikasnost prepoznavanja lica u borbi protiv terorizma zavisiće ne samo od inherentnih mogućnosti tehnologije, već i od toga kako se može prilagoditi evolucionističkim tehnikama izbegavanja.

Neki istraživači istražuju načine da sistemi za prepoznavanje lica budu robusniji protiv kontramera, kao što je korišćenje infracrvenog snimanja da bi se detektovala lica čak i kada su delimično pokrivena, ili da se analiziraju hod i govor tela pored osobina lica. drugi razvijaju sisteme za detekciju živosti koji mogu da razlikuju prava lica i fotografije, maske, ili video prikaze, sprečavajući spoofing napade.

Najbolje prakse i preporuke

Tehnički standardi i testiranje

NIST-ovi tekući testovi prepoznavanja lica Vendor (FRVT) su od 2017. godine ocenili preko 400 algoritama prepoznavanja lica, dajući uvid u ukupnu tačnost svih programera učesnika. Rigorozno, nezavisno testiranje sistema prepoznavanja lica pre raspoređivanja je suštinsko da bi se osiguralo da oni ispunjavaju minimalne standarde za tačnost i pravednost.

Testiranje bi trebalo da uključuje procenu u različitim demografskim grupama kako bi se identifikovale i kvantifikovale bilo kakve pristrasnosti u performansama sistema. Sistemi koji pokazuju neprihvatljiv nivo pristrasnosti ne bi trebalo da se razmeštaju dok se ovi problemi ne isprave. Testiranje treba da proceni performanse i u realnim operativnim uslovima, a ne samo u kontrolisanim laboratorijskim okruženjima.

Praćenje i procena nakon raspoređivanja je jednako važna. performanse sistema mogu da se degradiraju tokom vremena kao algoritmi starosti ili kao što se stanovništvo prati promenama. Redovne revizije mogu da identifikuju nove probleme i da osiguraju da sistemi nastave da ispunjavaju standarde performansi tokom svog operativnog života.

Operativne smernice

Bezbednosne agencije koje raspoređuju prepoznavanje lica za kontraterorizam treba da uspostave jasne operativne smernice koje preciziraju kada i kako tehnologija može da se koristi. Ove smernice treba da se obrađuju na pitanja kao što su: Koji nivo poverenja u meč je potreban pre nego što se preduzme akcija? Koja dodatna verifikacija je potrebna pre nego što se neko zadrži na osnovu poklapanja sa prepoznavanjem lica? Kako treba da se sistem koristi u kombinaciji sa ljudskim rasuđivanjem?

Ni ljudi ni algoritmi nisu nepogrešivi, a slične slabosti ljudskog rasuđivanja mogu uticati na korišćenje tehnologija prepoznavanja lica, jer pojedinci mogu verovati u izlaz algoritma misleći da mora bitiobjektivnoviše od sopstvene prosudbe o tome da li se dve slike poklapaju, uprkos temeljnim pristrasnostima ili netočnostima u tehnologiji. Obuka za osoblje pomoću sistema za prepoznavanje lica treba da naglasi da je tehnologija alat za pomoć u donošenju ljudskih odluka, a ne zamena za ljudsko rasuđivanje.

Operatori treba da budu obučeni da razumeju ograničenja sistema, uključujući i njegov potencijal za pristrasnost i lažne pozitive.Treba ih ohrabriti da vrše nezavisno rasuđivanje i da se ne oslanjaju isključivo na algoritamske izlaze, posebno kada su posledice grešaka teške. jasni protokoli treba da odrede koje dodatne istrage ili provere su potrebne pre nego što preduzmu akciju na osnovu meča prepoznavanja lica.

Mehanizmi nadzora i odgovornosti

Robusni mehanizmi nadzora su od suštinskog značaja da bi se osiguralo da se tehnologija prepoznavanja lica koristi na odgovarajući način i da se zloupotrebe istraže i isprave. Ovaj nadzor treba da uključuje i unutrašnje mehanizme unutar bezbednosnih agencija i spoljni nadzor nezavisnih tela kao što su komesari za privatnost, zakonodavni odbori ili pravosudni pregled.

Agencije treba da održavaju detaljne zapise o tome kako se koriste sistemi za prepoznavanje lica, uključujući i ono što se vrši pretraga, ko ih sprovodi, i koje radnje rezultiraju. Ovi dnevnici treba da budu podložni redovnoj reviziji kako bi se osiguralo usklađenost sa politikama i identifikovali bilo kakvi obrasci zloupotrebe. Kada se problemi identifikuju, treba da postoje jasni mehanizmi odgovornosti kako bi se osiguralo da se odgovorne strane suoče sa odgovarajućim posledicama.

Tela spoljnog nadzora treba da imaju autoritet i resurse za sprovođenje smislenog pregleda programa prepoznavanja lica. To uključuje pristup tehničkim informacijama o tome kako sistemi funkcionišu, podaci o performansama i operativni dnevnici. Nadzorna tela takođe treba da imaju moć da prinude promene programa koji krše pravne ili etičke standarde.

Studije slučaja i aplikacije u stvarnom svetu

Implementacije bezbednosti aerodroma i granice

Aerodromi i granični prelazi su među najranijim i najopsežnijim usvojiteljima tehnologije prepoznavanja lica u kontraterorističke svrhe. Ova kontrolisana okruženja nude nekoliko prednosti za raspoređivanje prepoznavanja lica: putnici moraju proći kroz određene kontrolne punktove, rasvetu i uglove kamere mogu biti optimizovani, a postoji i jasno bezbednosno opravdanje za provjeru identiteta.

Mnoge zemlje su implementirale prepoznavanje lica na imigracionim punktovima kako bi potvrdile da putnici odgovaraju njihovim fotografijama pasoša i da ih provere protiv liste satova poznatih ili osumnjičenih terorista. Ovi sistemi su obradili milione putnika, sa nekim aerodromima koji izveštavaju da im je prepoznavanje lica omogućilo da identifikuju pojedince koji pokušavaju da putuju na lažnim dokumentima ili koriste ukradene identitete.

Tehnologija je takođe raspoređena da ubrza obradu za pouzdane putnike kroz programe koji omogućavaju unapred ekranizovanim pojedincima da koriste automatizovane kapije koje provere njihov identitet putem prepoznavanja lica. Ova dvojna upotrebapojačanje i bezbednosti i praktičnosti doprinela je javnom prihvatanju tehnologije u aerodromskim kontekstima.

Urbane mreže za nadzor

Neki gradovi su postavili široke mreže kamera opremljenih sposobnostima prepoznavanja lica za praćenje javnih prostora za bezbednosne pretnje. Ovi sistemi mogu pratiti kretanje pojedinaca širom grada, potencijalno identifikujući teroriste koji vrše nadzor nad potencijalnim metama ili se sastaju sa suučesnicima.

Međutim, mreže za urbani nadzor takođe su izazvale značajne kontroverze zbog svog potencijala za masovni nadzor običnih građana. Kritičari tvrde da ti sistemi stvaraju jeziv efekat na slobodno izražavanje i udruživanje, jer ljudi mogu da izbegnu određene lokacije ili aktivnosti ako znaju da se prate. Ravnoteža između bezbednosnih beneficija i troškova privatnosti je posebno teška za štrajk u ovim aplikacijama.

Neke nadležnosti su pokušale da se reše ove zabrinutosti ograničavajući korišćenje prepoznavanja lica u javnim prostorima na specifične okolnosti, kao što je istraga ozbiljnih zločina ili odgovor na neposredne pretnje. Drugi su zahtevali da kamere budu jasno označene i da javnost bude obaveštena o tome gde se raspoređuje prepoznavanje lica. Ovi pristupi pokušavaju da sačuvaju neke bezbednosne koristi uz ograničavanje najnametljivijih aspekata masovnog nadzora.

Praćenje događaja i Publika

Veliki javni događaji kao što su političke konvencije, međunarodni samiti ili veliki sportski događaji predstavljaju atraktivne ciljeve za teroriste i zahtevaju intenzivne mere bezbednosti. Prepoznavanje lica je raspoređeno na takvim događajima kako bi se pratila gužva i identifikovala potencijalna pretnja među učesnicima.

Ovi privremeni rasporedi nude neke prednosti u odnosu na trajne mreže za nadzor, ograničeni su vremenom i opsegom, fokusirani na specifične visokorizične događaje, umesto da stalno prate javne prostore, mogu biti opravdani povišenom bezbednosnom pretnjom povezanom sa velikim događajima koji privlače velike gužve i visokoprofilne ciljeve.

Međutim, aplikacije za bezbednost događaja takođe izazivaju zabrinutost, posebno kada se prepoznavanje lica koristi za praćenje političkih protesta ili demonstracija. Tehnologija bi mogla da se koristi za identifikaciju i praćenje političkih aktivista, potencijalno kulirajući legitimni politički izraz. Jasno smernice o tome kada i kako se prepoznavanje lica može koristiti na javnim događajima su suštinske za sprečavanje zloupotrebe.

Put napred: Uravnotežavanje bezbednosti i prava

Razvijam okvire za odgovornu upotrebu

Budućnost prepoznavanja lica u borbi protiv terorizma zavisi od razvoja okvira koji omogućavaju efikasno korišćenje tehnologije u legitimne bezbednosne svrhe, uz zaštitu građanskih sloboda i obezbeđivanje pravednosti. To zahteva tekući dijalog između bezbednosnih profesionalaca, tehnologa, kreatora politika, zagovornika građanskih sloboda i javnosti.

Takvi okviri treba da se zasnovaju na jasnim principima: prepoznavanje lica treba da se koristi samo kada je neophodno i proporcionalno bezbednosnoj pretnji; treba ga rasporediti uz odgovarajuće zaštitne mere protiv zloupotrebe; treba da bude predmet smislenog nadzora i odgovornosti; a treba ga kontinuirano ocenjivati i poboljšavati da bi se problemi rešavali tačnošću i pristrasnošću.

Različiti konteksti mogu zahtevati različite pristupe. Upotreba prepoznavanja lica na graničnim prelazima, gde postoji jasno bezbednosno opravdanje i ograničeno očekivanje privatnosti, može biti prihvatljivija od njegove upotrebe za kontinuirano nadgledanje javnih prostora. okviri specifični za kontekst mogu da obezbede više nijansiranog navođenja od pravila o jedinstvenim pravilima.

Investicija u istraživanje i razvoj

Nastavak ulaganja u istraživanje za poboljšanje tehnologije prepoznavanja lica je od suštinskog značaja. To uključuje ne samo poboljšanje preciznosti i brzine, već posebno rešavanje problema sa pristrasnošću i pravednošću. Široke i standardizovane studije kao što je NIST pomoć da se otkriju zajedničke mane u FRT-u, i kao i naučnici i zaposleni, inženjeri koji razvijaju FRT imaju zadatak da poboljšaju rezultate softvera u prepoznavanju slika tamnijim tonovima kože kao i smanjenje rodnog jaza u lažnim pozitivnim stopama, i kada su skupovi podataka i rezultati stavljeni u rigoroznu, minutnu analizu, naučnici imaju sposobnost da poboljšaju algoritam i time se bave pitanjem pristranosti u budućnosti iteracije softvera.

Istraživanje takođe treba da istraži alternativne pristupe koji mogu da nude bolje zaštite privatnosti uz održavanje bezbednosnih prednosti.Na primer, sistemi koji analiziraju obrasce ponašanja ili detektuju anomalije bez identifikacije specifičnih pojedinaca mogu da pruže korisne bezbednosne informacije sa manjim upadom u privatnost od tradicionalnog prepoznavanja lica.

Interdisciplinarna istraživanja koja okupljaju kompjuterske naučnike, socijalne naučnike, etičare i pravne naučnike mogu da pomognu u identifikaciji i rešavanju složenih izazova koje predstavlja tehnologija prepoznavanja lica. Razumevanje ne samo tehničkih sposobnosti već i društvenih, etičkih i pravnih implikacija je suštinsko za odgovoran razvoj i raspoređivanje.

Međunarodna saradnja i standardi

S obzirom na transnacionalnu prirodu terorizma, međunarodna saradnja na standardima i praksama prepoznavanja lica je važna. Zemlje bi trebalo da rade zajedno na razvoju zajedničkih standarda za tačnost, pravednost i zaštitu privatnosti, uz poštovanje različitih pravnih tradicija i kulturnih vrednosti.

Međunarodni sporazumi mogli bi da uspostave minimalne standarde za sisteme prepoznavanja lica koji se koriste u borbi protiv terorizma, obezbeđujući da podaci koji se dele preko granica ispunjavaju osnovne uslove za tačnost i pouzdanost.

Međutim, međunarodna saradnja mora biti uravnotežena protiv zabrinutosti da bi se autoritarnim režimima omogućilo da koriste prepoznavanje lica za političku represiju. Demokratske zemlje treba da budu oprezne u pogledu deljenja tehnologije prepoznavanja lica ili podataka sa vladama kojima nedostaju snažne zaštite ljudskih prava i vladavine prava. Međunarodni standardi treba da uključuju zaštitne mere da bi sprečile da se tehnologija koristi u nezakonite svrhe.

Zaključak: Navigiranje kompleksnog pejzaža

Tehnologija prepoznavanja lica predstavlja moćno sredstvo u borbi protiv terorizma, nudeći mogućnosti za identifikaciju, nadzor i istragu koja je bila nezamisliva pre samo nekoliko decenija. Nova tehnologija je dala novu moć državi da automatizira identifikaciju ranije poznatih terorista koji organizuju napade na građane koje država treba da zaštiti, a moć da to uradi, ako to funkcioniše efikasno, pomogla bi u suzbijanju terorizma.

Međutim, tehnologija takođe predstavlja značajne izazove vezane za tačnost, pristranost, privatnost i građanske slobode. Ovaj problem je pretežniji u softveru za prepoznavanje lica, koji teži da generiše veću stopu lažnih pozitivnih za nebelce, i za razliku od softvera za prepoznavanje lica koji se koristi za hapšenje nekoga, pogrešno obučeni CT algoritam može da ubije civile, akcija koja se ne može poništiti. Ulozi u protivterorističkim aplikacijama su posebno visoki, gde greške mogu dovesti do toga da nevini ljudi budu pogrešno pritvoreni ili, obrnuto, do opasnog pojedinca koji izbegavaju detekciju.

Put napred zahteva balansiranje ovih konkurencijskih razmatranja kroz pažljiv razvoj politike, robustan nadzor, kontinuirano tehničko poboljšanje i trajni javni dijalog. Ni deka zabrane koje sprečavaju bilo kakvo korišćenje prepoznavanja lica u bezbednosne svrhe niti nekonverzirano raspoređivanje bez zaštite predstavlja odgovoran pristup. Umesto toga, kontekst-specifični okviri koji omogućavaju korisne upotrebe, a sprečavaju zloupotrebu nude najbolju nadu za realizaciju bezbednosnih prednosti prepoznavanja lica uz zaštitu temeljnih prava.

Kako tehnologija nastavlja da se razvija i postaje sposobnija, potreba za promišljenim upravljanjem postaje hitnija. Odluke donesene danas o tome kako se razvija, rasporedi i reguliše će oblikovati ravnotežu između bezbednosti i slobode u godinama koje dolaze. Osiguravanje da su te odluke informisane dokazima, vođene etičkim principima, i podložne demokratskoj odgovornosti je suštinsko za održavanje i bezbednosti i slobode u sve složenijem okruženju pretnje.

Za više informacija o biometrijskim bezbednosnim tehnologijama, posetite Nacionalni institut za standarde i tehnologiju, program za prepoznavanje lica Vendor . Da biste saznali o razmatranju privatnosti u tehnologiji nadzora, istražite resurse Elektronske Frontier Fondacije. Za međunarodne perspektive u pogledu regulacije prepoznavanja lica, pogledajte Rad Evropskog parlamenta o regulaciji AI.