Table of Contents
Razumijevanje tehnologije prepoznavanja lica i njegove uloge u modernoj sigurnosti
Ova moćna tehnologija omogućava brzu i tačnu identifikaciju pojedinaca i pomagala u sprečavanju terorističkih aktivnosti i omogućavanju sigurnijih javnih prostora. Kako se sigurnosne prijetnje nastavljaju razvijati u složenosti i razmjerima, vlade i agencije za provedbu zakona širom svijeta sve se više okreću naprednim biometrijskim sistemima kako bi zaštitile svoje građane i infrastrukturu.
Prema istraživanju tržišta i tržišta, tržište prepoznavanja lica je spremno da dostigne 8,5 milijardi dolara u 2025, više od udvostručenja od 3,8 milijardi dolara u 2020. godini. Ovaj eksplozivni rast odražava ne samo mogućnosti širenja tehnologije već i njegovu kritičnu važnost u okvirima nacionalne sigurnosti. Od aerodroma i graničnih prijelaza do mreža za urbani nadzor i istražnih procesa, prepoznavanje lica postalo je nezaobilazna komponenta modernih strategija protiv terorizma.
U svom jezgru, tehnologija prepoznavanja lica predstavlja sofisticiran brak kompjuterskog vida, vještačke inteligencije i biometrijske analize. tehnologija digitalizira ljudske osobine lica u matematičke prikaze koje računari mogu obraditi i usporediti, analizirajući ključne značajke lica kao što su udaljenost između očiju osobe, širina nosa mosta, vilične konture i struktura jagodičnih kostiju, a zatim stvara jedinstvene biometrijske predloške za provjeru identiteta preko baza podataka koje sadrže milione lica. Ova sposobnost da obrađuje i podudara lica bez presedana brzinom i skalom je u osnovi promijenila način na koji sigurnosne agencije pristupaju detekciji i prevenciji.
Evolucija tehnologije prepoznavanja lica
Od ranih početaka do sistema s moćima za AI
Tehnologija seže u 1960-te kada je tip po imenu Woodrow Wilson Bledsoe prvi put došao do sistema za sortiranje fotografija lica pomoću posebne ploče. Ovi rani sistemi su bili rudimentarni po današnjim standardima, zahtijevajući ručni ulaz i rad pod visoko kontroliranim uvjetima. 70-ih, neki pametni ljudi su koristili 21 specifičnu oznaku, poput boje kose i debljine usana, za automatiziranje prepoznavanja lica, i 80-ih/90-ih su vidjeli novi pristup nazvan Eigenface, koji je postao temelj modernih sistema.
Pravi menjač igara je došao 2000-ih sa društvenim medijima, jer je iznenada bilo milion označenih fotografija online, dajući ovim sistemima ogromnu bazu podataka za učenje. Ovo obilje podataka o obuci, u kombinaciji sa napredovanjem u algoritmima za mašinsko učenje, omogućilo je sistemima prepoznavanja lica da postignu tačnost koja je ranije bila nezamisliva. Danas, sa AI i dubokim učenjem, sistemi prepoznavanja lica za preduzeća su postali neverovatno tačni i brzi.
Kako rade moderni sistemi prepoznavanja lica
Moderni sistemi prepoznavanja lica rade kroz višestupanijski proces koji se dešava u milisekundama. Prva faza uključuje otkrivanje lica, gdje sistem identificira i locira lice unutar okvira slike ili videa. To slijedi ravnanje lica, gdje sistem normalizira položaj lica, veličinu i orijentaciju kako bi osigurao dosljednu analizu bez obzira na ugao ili udaljenost od kamere.
Slijedi ekstrakcija osobina, gdje sistem identificira i mjeri karakteristične osobine lica. Ova mjerenja se pretvaraju u matematički prikaz koji se naziva predložak lica ili biometrijski potpis. Konačno, sistem se poklapa usporedbom ovog predloška sa pohranjenim predlošcima u bazi podataka, generirajući sličnu ocjenu koja ukazuje na vjerovatnoću poklapanja.
Moderni sistemi za prepoznavanje lica hvataju i analiziraju slike ljudi u najtežim uslovima vida i kretanja. Ova sposobnost je ključna za kontraterorističke aplikacije, gde osumnjičeni mogu biti uhvaćeni na snimcima nadzora pod manje-ne-idealnim uslovima, uključujući loše osvjetljenje, delimično okluziju, ili pod uglom kosine.
Strateške prijave u operacijama protiv terorizma
Nadzor i otkrivanje prijetnje u realnom vremenu
Tehnologija prepoznavanja lica pojavila se kao transformativno sredstvo u borbi protiv terorizma, nudeći napredne mogućnosti za prepoznavanje, praćenje i hvatanje pojedinaca od interesa, sa fokusom na tri specifične aplikacije: nadzor u realnom vremenu, kontrolu granica i istražne procese. U prepunim javnim prostorima, transportnim čvorištima, i tokom velikih događaja, sistemi prepoznavanja lica mogu kontinuirano skenirati gužve i odmah upozoriti sigurnosno osoblje kada se osoba od interesa otkrije.
AI omogućava automatsku provjeru uzbunjivanja i identiteta ogromnih grupa ljudi na skali i tempom koji nije moguć prije. Ova sposobnost je posebno vrijedna tokom visokoprofilnih događaja gdje se okupljaju velike gužve, kao što su politički skupovi, sportski događaji ili kulturni festivali. Sigurnosne agencije mogu raspoređivati sisteme prepoznavanja lica kako bi nadzirale ulazne tačke i pokrete gomile, identificirajući potencijalne prijetnje prije nego što se materijaliziraju u napade.
Pojačana sigurnost pruža kontinuirano praćenje u područjima visoke prometne trgovine, identificira osobe od interesa, i locira nestale osobe s neviđenom efikasnošću. Tehnologija sposobnost da radi kontinuirano bez umora čini neprocjenjivu nadopunu za ljudsko osoblje sigurnosti, koji onda može usmjeriti svoju pažnju na istragu upozorenja i reagirati na potencijalne prijetnje.
Granična sigurnost i imigracijska kontrola
Granični prijelazi i aerodromi predstavljaju kritične zapreke u borbi protiv terorizma. Ako osoba (uključujući terorista) dolazi u SAD iz inozemstva, on ili ona vjerovatno prolazi kroz imigracijski punkt u luci ulaska, a iz perspektive protuterorizma, ovaj kontrolni punkt je prevlaka gdje bi-biti terorist je najranjiviji. Tehnologija prepoznavanja lica je postala suštinsko sredstvo u ovim kritičnim junctures.
FRT-i su raspoređeni kako bi potvrdili da je osoba koja prolazi kroz graničnu kontrolu zaista osoba koja je slikana na identifikacijskom dokumentu (npr. pasoš), a Interpol je rasporedio svoj Projekt PRVI sistem kako bi pomogla državnim vlastima da identificiraju strane terorističke borce (FTF-ove). Ovi sistemi mogu brzo obraditi putnike istovremeno provjeravajući svoje identitete protiv nadzornih lista poznatih ili osumnjičenih terorista, značajno povećavajući sigurnost bez stvaranja velikih uskih grla u putničkom toku.
Biometrija može spriječiti krađu identiteta i imigracijsku prevaru u upotrebi putnih isprava, kao biometrijski predložak nečijeg otiska prsta bi bio priložen za dokument, kao što su pasoš ili viza, na barskom kodu, čipu ili magnetnoj traci, što bi otežalo nekome da preuzme tuđi identitet. kada se kombinira sa prepoznavanjem lica, ovaj višeslojni biometrijski pristup stvara robusnu odbranu od terorista koji pokušavaju ući u zemlje koristeći lažne dokumente ili ukradene identitete.
Istražne i forenzičke prijave
Biometrijski sistemi mogu identificirati poznate ili osumnjičene teroriste koristeći biometrijsko prepoznavanje lica ili FaceCheck metodu kada je fotografija dostupna osumnjičenog terorista, a ovo se traži u odnosu na listu ili bazu podataka o predlošcima osumnjičenih terorista. Ova sposobnost se pokazala neprocjenjivom u post-incidentnim istragama, gdje sigurnosne agencije analiziraju nadzorne snimke kako bi identificirale počinitelje i njihove saradnike.
Učinkovitost provođenja zakona ubrzava identifikaciju osumnjičenih i rješavanje slučajeva automatizovanim poklapanjem sa postojećim zapisima. Umjesto ručnog pregleda sati snimaka i usporedbe lica sa očima, istražitelji mogu koristiti prepoznavanje lica za brzo pretraživanje kroz ogromne arhive nadzornog videa, identificiranje osumnjičenih i praćenje njihovih kretanja kroz više lokacija i vremenskih perioda.
Američka vojska je takođe prepoznala stratešku vrednost prepoznavanja lica u kontraterorističkim operacijama. Komanda specijalnih operacija (USOCOM) postavlja temelje za značajno širenje svoje inteligencije identiteta i sposobnosti eksploatacije, ističući široku i tehnički ambicioznu viziju za to kako specijalne operativne snage prikupljaju, analiziraju i iskorištavaju podatke vezane za identitet tokom misija, tražeći uvid u pet primarnih tehnoloških područja: prepoznavanje lica, identifikaciju zvučnika i prepoznavanje glasa, potpuno integrirani ekosistem SOF-a za eksploataciju sajta, brzu analizu DNK, i AI i mašinsko učenje analitike.
Operativne prednosti u sprečavanju terorizma
Brzina i veličina identifikacije
Jedna od najznačajnijih prednosti tehnologije prepoznavanja lica u borbi protiv terorizma je njegova sposobnost da obrađuje i analizira lica pri brzini daleko višim od ljudskih sposobnosti. Nova tehnologija je dala novu moć državi da automatizira identifikaciju ranije poznatih terorista koji organizuju napade na građane koje država treba da zaštiti, a moć da to učini, ako to radi efikasno, pomogla bi u suzbijanju terorizma, jer tehnologije prepoznavanja lica obećavaju da će državi dati upravo tu moć.
Tradicionalne metode identifikacije osumnjičenih su se jako oslanjale na ljudsko pamćenje i ručno poređenje fotografija, procesa koji su bili vremenski konzumirajući i skloni greškama. Oficir sigurnosti koji prati prepun aerodrom mogao je aktivno pratiti samo ograničen broj ljudi odjednom, pa čak i najiskusnije osoblje moglo bi promašiti osumnjičenog u moru lica. Sistemi prepoznavanja lica, suprotno, mogu istovremeno pratiti stotine ili hiljade lica, poredeći svaku od njih sa opsežnim bazama podataka u realnom vremenu.
Kada obaveštajne agencije dobiju informacije o neposrednoj opasnosti, sistemi za prepoznavanje lica mogu brzo da se rasporede da skeniraju mreže za nadgledanje širom grada, potencijalno locirajući osumnjičene u roku od nekoliko minuta, a ne sati ili dana.
Poboljšane mogućnosti nadzora
Kroz biometrijsko prepoznavanje, algoritam za duboko učenje, i veliku analitiku podataka, poboljšava se tačnost i efikasnost rada inteligencije i tradicionalni nadzorni rad postaje napredna i odbrambena borba. prepoznavanje lica transformiše nadzor iz reaktivne alatke koja se koristi prvenstveno za post-incidentnu istragu proaktivnog sistema sposobnog da spreči napade pre nego što se oni pojave.
Tehnologija omogućava sigurnosnim agencijama da stvore sveobuhvatne mreže nadzornih kamera koje funkcioniraju kao integrisani sistem, a ne kao izolovane posmatračke tačke. Kada se osoba od interesa otkrije na jednoj lokaciji, sistem može pratiti njihova kretanja preko mreže, pružajući sigurnosnom osoblju informacije o svojim aktivnostima i udruženjima u realnom vremenu. Ova sposobnost je neprocjenjiva za razumijevanje terorističkih mreža i prepoznavanje ranije nepoznatih članova ekstremističkih organizacija.
Štaviše, sistemi za prepoznavanje lica mogu raditi kontinuirano bez ograničenja ljudske pažnje i umora. dok ljudski operateri mogu propustiti kritične detalje tokom dugih smjena ili perioda niske aktivnosti, automatizirani sistemi održavaju dosljednu budnost, osiguravajući da nijedna potencijalna prijetnja ne prođe nezapaženo.
Efekt odvraćanja
Prisustvo sistema za prepoznavanje lica može poslužiti kao moćno odvraćanje od terorističkih aktivnosti, kada potencijalni napadači znaju da će njihova lica biti uhvaćena i analizirana sofisticiranim biometrijskim sistemima, suočavaju se sa znatno većim rizicima identifikacije i hvatanja.
Efekt odvraćanja se proteže iznad neposredne prijetnje identifikacije. Sistemi prepoznavanja lica stvaraju trajan digitalni zapis koji se može analizirati dugo nakon incidenta. To znači da čak i ako teroristi uspiju izbjeći neposredno otkrivanje, ostavljaju iza sebe dokaze koji se mogu koristiti da ih kasnije identificiraju, prate njihovo kretanje i otkriju svoje mreže. Ova dugoročna odgovornost dodaje još jedan sloj rizika koji teroristi moraju razmotriti prilikom planiranja operacija.
Optimizacija resursa
Tehnologija prepoznavanja lica omogućava sigurnosnim agencijama da optimiziraju svoje ograničene resurse automatizacijom rutinskih identifikacijskih zadataka i fokusiranjem ljudske stručnosti tamo gdje je to najpotrebnije. Umjesto da se osoblje ručno prati nadzorne snimke ili provjerava dokumente na graničnim prijelazima, agencije mogu raspoređivati sisteme za prepoznavanje lica kako bi se bavile tim zadacima dok se ljudski operateri fokusiraju na istraživanje upozorenja, provođenje intervjua i donošenje kritičnih odluka.
Ova optimizacija je posebno važna s obzirom na razmjere modernih sigurnosnih izazova. Sa milionima putnika koji prolaze kroz aerodrome dnevno i bezbroj sati nadzornih snimaka koji se stvaraju u urbanim područjima, bilo bi nemoguće ručno pregledati sve ove informacije. Sistemi prepoznavanja lica mogu automatski obraditi ovu ogromnu količinu podataka, što označava samo mali dio koji zahtijeva ljudsku pažnju.
Kritički izazovi i tehničke granice
Preciznost i lažna pozitivna
Uprkos značajnom napretku u tehnologiji prepoznavanja lica, tačnost ostaje kritična briga, posebno u aplikacijama protiv terorizma gdje posljedice grešaka mogu biti teške. Metoda prepoznavanja lica je identificirana sa tehnološkim nesavršenostima i slabostima, ali se može koristiti operativno da se umanje njegove slabosti. Razumijevanje tih ograničenja je od ključne važnosti za postavljanje tehnologije odgovorno i efikasno.
Iako ljudska bića općenito mogu obavljati procese prepoznavanja lica prilično dobro, te aktivnosti su još uvijek vrlo izazovne za tehnološke sisteme, jer osim ako fotografija nije zarobljena pod vrlo kontroliranim uvjetima, sistem može imati poteškoća u identificiranju pojedinca ili čak otkrivanju njegovog lica na fotografiji, a sistem najbolje funkcionira kada se ekološki faktori poput kuta kamere, osvjetljenja, izraza lica i drugih, kontroliraju u najvećoj mogućoj mjeri.
Lažni pozitivi instance gdje sistem pogrešno identificira nekoga kao osobu od interesa polažu posebne izazove u kontraterorističkim kontekstima. Oni za koje tehnologija ne radi isto tako neće biti u mogućnosti da budu provjereni od strane FRT-auzrokujući sumnju i daljnji nametljivi nadzor, a nadalje, oni će biti pogrešno identificirani češće, što može dovesti do toga da budu osumnjičeni kao terorist ili drugi ozbiljni kriminalac. Takve pogrešno identificirane osobe mogu dovesti do toga da budu pritvorene, ispitivane ili podvrgnute invazivnim sigurnosnim procedurama, sa značajnim ličnim i socijalnim posljedicama.
NIST je nedavno vodio veliko-scale test usmjeren na prepoznavanje pristranosti u FRT-u, s posebnim naglaskom na lažno pozitivnu stopu tj. učestalost kojom algoritam pogrešno identificira imidž jedne osobe, a rezultati su pokazali dapreko demografije, lažne pozitivne stope često variraju faktorima od 10 do iznad 100 puta ovisno o tome koji su algoritmi u upotrebi. Ove varijacije u stopama grešaka preko različitih sistema ističu važnost rigoroznog testiranja i validacije prije nego što se tehnologija prepoznavanja lica rasporedi u visoko-stake sigurnosnim aplikacijama.
Demografska bijasa i algoritmska fernost
Jedan od najozbiljnijih izazova s kojima se suočava tehnologija prepoznavanja lica je demografska pristranost tendencija da sistemi izvode manje precizno na određenim demografskim grupama. tri komercijalno puštena programa za analizu lica od glavnih tehnoloških kompanija pokazuju i vrstu kože i rodne pristranosti, a u eksperimentima istraživača, stopa grešaka tri programa u određivanju spola muškaraca svijetloputih nikada nije bila gora od 0,8 posto, ali za žene tamnije kože, međutim, stopa grešaka se u jednom slučaju umanjila - na više od 20 posto, a u drugom više od 34 posto.
Stopa greške za muškarce svijetloputih je 0,8%, u odnosu na 34,7% za žene tamnije kože, prema studiji iz 2018. pod nazivomPorodne nijanse od strane Joy Buolamwini i Timnit Gebru, koju objavljuje MIT Media Lab. Ova dramatična neslaganja u tačnosti podiže ozbiljne zabrinutosti oko pravednosti i jednakog postupanja prema zakonu kada se prepoznavanje lica koristi u sigurnosnim i zakonskim kontekstima.
Kožni ton značajno utiče na tačnost verifikacije, sa svjetlijim tonom kože dosljedno nadmašuju srednje tamne tonove. Istraživanje je također utvrdilo da su muški subjekti općenito postigli bolju tačnost prepoznavanja od ženskih subjekata, pripisanu faktorima kao što je okluzija uzrokovana dužim izgledom kose i promjenama u izgledu lica zbog šminke.
U augustu 2023. godine, crnkinja je tužila policiju Detroita nakon što su je uhapsili policajci koristeći slabo kalibrirani softver za prepoznavanje lica, a ovaj problem prevladava u softveru za prepoznavanje lica, koji teži generiranju veće stope lažnih pozitivnih za ne-bijele ljude. Takvi incidenti pokazuju stvarne posljedice algoritamske pristranosti i naglašavaju hitnu potrebu za pravednijim sistemima prepoznavanja lica.
Studija NIST-a dodatno je pronašla pristrasne rezultate kada je riječ o istočnoazijskim, američkim, američkim, indijskim, otočanima na Aljasci i Pacifiku.
Korijeni uzroci biasa
Tehnologija prepoznavanja lica je napravila velike korake u preciznosti zahvaljujući naprednim modelima vještačke inteligencije (AI) obučenim na masivnim skupovima podataka slika lica, ali ti skupovi podataka često nedostaju različitosti u smislu rase, etničke pripadnosti, spola, i drugih demografskih kategorija, što uzrokuje da sistemi prepoznavanja lica izvode gore na nedovoljno zastupljenim demografskim grupama u odnosu na grupe sveprisutne u podacima obuke.
Problem pristranosti proizlazi iz više izvora. historijski skupovi podataka koji se koriste za obuku algoritama prepoznavanja lica su pretežno prikazivali lica bijelih muškaraca, odražavajući demografiju istraživača i institucija koje su ih stvorile. Kada algoritmi uče prepoznati lica prvenstveno iz ovog ograničenog skupa podataka, prirodno bolje izvode na sličnim licima i bore se s licima koja se značajno razlikuju od njihovih podataka o obuci.
Mnogi pripisuju većinu ovih pitanja neuravnoteženim skupovima podataka. Međutim, problem se proteže izvan jednostavnog prikaza. Čak i kada skupovi podataka uključuju različita lica, druge faktore kao što su uvjeti rasvjete, kvaliteta kamere, i rezolucija slike može nesrazmjerno utjecati na kvalitet slika za ljude s tamnijim tonom kože, daljnje komponirajućih problema preciznosti.
Napori da se Bias umanji
Istraživači i kompanije tehnologije prepoznale su ozbiljnost problema pristranosti i aktivno rade na rješenjima. 2018. godine, Microsoft je objavio da je njihov komercijalno dostupan FRT prošao ažuriranja kako bi poboljšao performanse širom rasnih i rodnih kategorija širenjem skupova podataka korištenih za obuku algoritama za mašinsko učenje i poboljšanjem klase lica radi veće tačnosti, a ta poboljšanja su rezultirala, prema navodima kompanije, 20 puta nižim stopama grešaka za tamnije tonove kože i 9 puta nižim stopama grešaka za žene.
Istraživači su prethodno obučili tri modela prepoznavanja lica — ArcFace, AdaFace i ElasticFace — na velikom, uravnoteženom sintetičkom skupu podataka koji su generirali, i rezultat ne samo da je povećao ukupnu tačnost u odnosu na modele obučene na postojećim neravnoteženim skupovima podataka, već i značajno smanjio demografsku pristranost, s tim da su obučeni modeli koji pokazuju pravedniju tačnost u svim rasnim grupama u odnosu na postojeće modele koji pokazuju slabu izvedbu na nedovoljno zastupljenim manjinama.
Na FairFace skupu podataka, preciznost se poboljšala sa 92,58% na 96,47%, dok je stupanj Bias (DoB) smanjen sa 3,86 na 1,16, što predstavlja smanjenje od približno 70%, a posebno su uočeni značajni rezultati izvedbenih dobitaka za nedovoljno zastupljene grupe, kao što je poboljšanje tačnosti kod crnih žena sa 80,2% na 90,86%, dok je održana jaka izvedba za već dobro zastupljene grupe.
Debiasing aversarial mreÅ3⁄4a (DebFace), koristi koder slike-do-feature, Ä etiri klasifikatora atributa, razredi distribucije i agregirajuÄ e osobine, a cetiri klasifikatora - spol, dob, rasa i identitet pretvaraju potencijalne predrasude u informirane osobine, te tako poboljšavaju performanse u nepredstavljenim grupama. Ove arhitektonske inovacije pokazuju da je ublažavanje pristranosti tehniÄ ki izvodljivo, iako znaÄ i posao ostaje da se implementiraju ova rjeÅ¡enja u svim rasporeÄ enim sistemima.
Zabrinutost za privatnost i građanske slobode
Masovna nadzorna i privatna prava
Većina svega moćnog ima mračnu stranu, a FRT nije izuzetak, jer postavlja ozbiljna pitanja i zabrinutosti oko privatnosti, etike i sveukupnog društvenog uticaja. raspoređivanje tehnologije prepoznavanja lica u protuterorističke svrhe izazvalo je intenzivnu raspravu o ravnoteži između sigurnosti i privatnosti, a kritičari tvrde da široko rasprostranjeni nadzor ugrožava temeljne građanske slobode.
Pravni, etički i izazovi u vezi sa privatnošću oko masovnog nadzora uključuju zabrinutosti oko pogrešnog identifikacije, prevare i pristranosti u bazi podataka. Sposobnost da se prate pokreti pojedinaca po javnim prostorima bez njihovog znanja ili pristanka postavlja duboka pitanja o prirodi privatnosti u modernom društvu i odgovarajućim granicama ovlasti za nadzor vlade.
Kritičari ukazuju na značajne rizike privatnosti i potencijalne povrede građanskih sloboda, podizanje zabrinutosti oko neovlaštenog prikupljanja podataka, nedostatka pristanka, i potencijala za gmizavce funkcijakroz koji se prikupljaju u jednu svrhu koristi se u nepovezanu svrhu bez znanja ili saglasnosti pojedinca. strah je da bi se sistemi u početku raspoređeni za borbu protiv terorizma mogli postepeno proširiti kako bi se pratili obični građani koji se bave zakonitim aktivnostima, stvarajući stanje nadzora koje hladi slobodnim izražavanjem i udruživanjem.
Razloge koji se izlažu takvoj zabrani su da FRT-ovi pate od sveprisutne pristranosti koja rezultira time da se koristi i štete nejednako raspoređene među grupama, država će neminovno koristiti ove tehnologije u nezakonite svrhe, te da postojanje FRT-a hladi naše ponašanje (tj., uzrokuje da se ljudi cenzuriraju zbog straha od nadzora). Ovaj jezivi efekt mogao bi potkopati demokratsko učešće obeshrabrujući ljude da prisustvuju protestima, političkim skupovima, ili drugim javnim skupovima gdje bi mogli biti identificirani i praćeni.
Regulatorni odgovori i zabrane
U 2019. godini, San Francisco je postao prvi američki grad koji je zabranio tehnologiju prepoznavanja lica (FRT), posebno veto na svoju upotrebu od strane policije i drugih agencija, a od tada, nekoliko drugih američkih gradova provodi vlastite slične FRT zabrane, s tim da su bostonski gradski vijećnici izričito istakli jedno posebno pitanje: pristranost tehnologije. ove zabrane odražavaju rastuću zabrinutost javnosti u pogledu potencijala tehnologije za zloupotrebu i njenog demonstriranog problema sa tačnošću i pravednošću.
Više od desetak velikih gradova zabranilo je tehnologiju, uključujući Minneapolis, Boston i San Francisco. Međutim, ove lokalne zabrane nisu spriječile federalne agencije i mnoge druge nadležnosti da nastave s raspoređivanjem prepoznavanja lica u sigurnosne svrhe, stvarajući zakrpu propisa koja značajno varira po lokaciji.
Evropska unija je uzela sveobuhvatniji pristup, uz upotrebu tehnologija prepoznavanja lica u kontekstu mirnog protesta podizanjem rizika od praksi masovnog nadzora i implikacija za zaštitu ljudskih prava. evropski regulatori su predložili stroga ograničenja u korištenju prepoznavanja lica u javnim prostorima, uz neke koji se zalažu za potpune zabrane osim u usko definiranim okolnostima u kojima se uključuju ozbiljni zločini ili neposredne prijetnje.
Balansiranje sigurnosti i slobode
Najvažnije je da ako država može iskoristiti ovu tehnologiju da poveća svoju moć za suzbijanje terorizma, ta moć je ograničena tako da se zloupotrebe i rashlađeno ponašanje ne događaju, a država mora stvoriti institucionalna ograničenja koja samo omogućuju da se FRT-ovi koriste na mjestima gdje ljudi (i ne bi trebali) uživaju razumno očekivanje privatnosti (npr. aerodromi, granični prijelazi).
Kamere opremljene FRT-om moraju biti označene kako bi se javnosti osiguralo da ih se ne nadzire na mjestima gdje bi trebale imati razumno očekivanje privatnosti, a FRT-i bi trebali biti ograničeni na pronalaženje ozbiljnih kriminalaca (npr. terorista). Ova predložena ograničenja predstavljaju pokušaj očuvanja sigurnosnih prednosti prepoznavanja lica uz ograničavanje njegovog potencijala za zloupotrebu i zaštitu građanskih sloboda.
FRT predstavlja moćno sredstvo u arsenalu protiv terorizma, omogućavajući sigurnosne mjere koje su ranije bile nedostižne, ali to je tehnologija koja zahtijeva izuzetno razboritu ravnotežu između njegovih jasnih koristi i važnih etičkih razmatranja s kojima je povezan, a u ovom trenutku, moglo bi biti da je ravnoteža preteška u korist FRT-ovih jasnih prednosti i nedovoljno u korist pravednosti, privatnosti i etičkog integriteta koji bi trebao voditi njegovo raspoređivanje.
Pravni i etički okviri
Ustavna i ljudska prava razmatranja
FRT programi koje koriste snage zakona u identifikaciji osumnjičenih za kriminal su znatno više pogrešni na slikama lica koje prikazuju tamnije tonove kože i žene u odnosu na slike lica koje prikazuju bijelce, a ta pristranost može dovesti do toga da građane pogrešno istražuje policija duž rasnih i rodnih linija, uz primjenu zakona pristrane FRT-a koji nije u skladu s klasičnim liberalnim zahtjevom da vlada tretira sve građane jednako pred zakonom.
Jednaka zaštitna klauzula mnogih ustava zahtijeva da vladine akcije ne diskriminiraju na osnovu rase, spola ili drugih zaštićenih karakteristika. kada sistemi za prepoznavanje lica demonstriraju sistematsku pristranost prema određenim demografskim grupama, njihova upotreba od strane vladinih agencija može kršiti ove ustavne zaštite. To stvara pravnu dilemu: dok tehnologija može povećati sigurnost, njena pristrasna izvedba može svoju upotrebu učiniti neustavnom ili kršenjem zakona o ljudskim pravima.
Naučnici računara izrazili su zabrinutost zbog upotrebe zakona FRT-a za identifikaciju osumnjičenih za kriminal, ističući da je vrlo vjerovatno da se takav softver koristi za identifikaciju osumnjičenih, i time, greška u izlazu algoritma za prepoznavanje lica koji se koristi kao ulaz za druge zadatke može imati ozbiljne posljedice, jer bi neko mogao biti nepravedno optužen za zločin zasnovan na pogrešnoj, ali pouzdanoj pogrešnoj identifikaciji počinioca iz analize sigurnosnih video snimaka.
Transparentnost i odgovornost
Preporuča snažnu regulaciju, međunarodnu saradnju i transparentno upravljanje kako bi se osiguralo da je upotreba tehnologije prepoznavanja lica AI kompatibilna s ljudskim pravima i temeljnim slobodama. Transparentnost o tome kako sistemi prepoznavanja lica funkcioniraju, njihove stope tačnosti, i njihova ograničenja su od ključne važnosti za javno povjerenje i demokratsku odgovornost.
Uspostaviti zakone koji su jasni i sveobuhvatni vezani za upotrebu tehnologije prepoznavanja lica, uskladiti globalne standarde sa nacionalnim okvirima kako bi se osigurala dosljednost, i mandat redovnim revizijama FRT sistema kako bi se osigurala usklađenost sa etičkim smjernicama. Redovito revizija može pomoći u identificiranju problema sa tačnošću ili pristranošću prije nego što dovedu do ozbiljnih povreda, dok jasni pravni okviri pružaju smjernice sigurnosnim agencijama o primjerenoj upotrebi tehnologije.
Rizici ne bi trebali dovesti do moratorija o upotrebi AI ili zabrane na određenim platformama, nego bi trebali biti pozvani na akciju da vlade zatraže bolji dizajn za svoje AI/ML alate, što znači stjecanje boljih podataka i stvaranje napornih režima testiranja koji ograničavaju rizik i izlažu nedostatke što je više moguće, a način da se to pomogne je provođenjem obrazloženih AI standarda i politika transparentnosti koje vladama daju uvid u racionalnost za svaku akciju koju sistem uzme.
Zaštita i retencija podataka
Država ne bi trebala koristiti treće strane kompanije koje krše prva tri uslova tokom stvaranja ili upotrebe svoje usluge, a kompanije treće strane ne bi trebale moći pristupiti ili čitati osjetljive podatke koje je prikupila država. biometrijski podaci prikupljeni od strane sistema za prepoznavanje lica su vrlo osjetljivi i lični, koji zahtijevaju robusne zaštite od neovlaštenog pristupa, zloupotrebe ili kršenja podataka.
Pitanja o zadržavanju podataka su posebno važna. Koliko dugo treba da se čuvaju podaci o prepoznavanju lica? Ko bi trebao imati pristup tome? Pod kojim okolnostima se može dijeliti s drugim agencijama ili zemljama? Ova pitanja nemaju jasne odgovore u mnogim jurisdikcijama, stvarajući nesigurnost o dugoročnim implikacijama raspoređivanja prepoznavanja lica.
Rizik od kršenja podataka je također značajan. Baza podataka koja sadrži podatke o prepoznavanju lica za milione ljudi bila bi privlačna meta za hakere, strane obavještajne službe ili kriminalne organizacije. Ako su takvi podaci kompromitirani, mogla bi se koristiti za krađu identiteta, uhođenje ili druge zlonamjerne svrhe, s posljedicama koje bi mogle opstati godinama ili decenijama.
Međunarodne perspektive i deploament
Globalni obrasci za usvajanje
Provedba zakona: Priznavanje lica trenutno se svrstava u najširu usvojenu tehnologiju nadzora AI na globalnom nivou, sa stopom usvajanja 64%, nadmašivši kako pametne gradske platforme tako i inicijative za pametno policijsko usvajanje. Ovo široko rasprostranjeno usvajanje odražava i percipiranu vrijednost tehnologije za sigurnost, tako i različite regulatorne pristupe koje poduzimaju različite zemlje.
Zemlje se suočavaju sa različitim sigurnosnim prijetnjama i imaju različite kulturne stavove prema privatnosti i nadzoru, što dovodi do značajnih varijacija u tome kako se raspoređuje prepoznavanje lica. Neke zemlje su entuzijastično prihvatile tehnologiju, raspoređujući je opsežno na javnim prostorima sa minimalnim ograničenjima. Drugi su uzeli oprezniji pristup, ograničavajući njenu upotrebu u specifičnim visoko-sigurnosnim kontekstima ili nametajući stroge zahtjeve za nadzor.
Furl et al. (2002) je ustanovio da su FRT razvijeni i korišteni u zapadnim zemljama bili tačniji za slike lica bijelaca, dok su u istočnoazijskim zemljama algoritmi FRT bili precizniji za istočnoazijske slike lica. Ovim nalazom naglašava se važnost razvoja sistema za prepoznavanje lica koji su obučeni na različitim skupovima podataka predstavnika populacija gdje će biti raspoređeni.
Međunarodna saradnja i standardi
Terorizam je transnacionalna prijetnja koja zahtijeva međunarodnu suradnju u borbi protiv učinkovite. tehnologija prepoznavanja lica može olakšati ovu suradnju omogućavajući zemljama da dijele informacije o poznatim ili osumnjičenim teroristima i koordiniraju svoje napore nadzora. Međutim, ova međunarodna dimenzija također postavlja složena pitanja o dijeljenju podataka, zaštiti privatnosti i ljudskim pravima.
Različite zemlje imaju različite pravne standarde za zaštitu privatnosti, zadržavanje podataka i dubinski proces. Kada se podaci o prepoznavanju lica dijele preko granica, mogu biti predmet manje stroge zaštite u zemlji primaocu nego u zemlji u kojoj je prikupljen. To stvara rizike da se podaci prikupljeni pod strogim zaštitama privatnosti mogu zloupotrebljavati strane vlade sa slabijim zaštitnim mjerama.
Međunarodne organizacije kao Interpol su razvile sisteme za olakšavanje prekogranične upotrebe prepoznavanja lica za borbu protiv terorizma. Ovi sistemi moraju upravljati složenim pravnim i političkim terenom, balansiranjem sigurnosnih prednosti podjele informacija protiv zabrinutosti o privatnosti, ljudskim pravima i nacionalnom suverenitetu. Razvoj međunarodnih standarda i sporazuma za odgovorno korištenje prepoznavanja lica u borbi protiv terorizma ostaje tekući izazov.
Javno opažanje i povjerenje
Faktori koji utječu na javno prihvaćanje
Zagovornici FRT-a naglašavaju njegov potencijal u javnoj sigurnosti, sprečavanju kriminala, te protivterorizmu, ističući da FRT omogućava agencijama i organizacijama da identificiraju osumnjičene i spriječe neovlašteni pristup zaštićenim područjima i prostorima u kojima su prisutna vrijedna imovina ili ranjivo stanovništvo. javna podrška za prepoznavanje lica često zavisi od specifičnog konteksta u kojem se koristi, uz veće prihvatanje sigurnosnih aplikacija u visokorizičnim sredinama kao što su aerodromi.
Povjerenje u institucije koje raspoređuju prepoznavanje lica je kritičan faktor u prihvatanju javnosti. Kada ljudi vjeruju da će sigurnosne agencije koristiti tehnologiju odgovorno i uz odgovarajući nadzor, one će prije prihvatiti njeno raspoređivanje. Nasuprot tome, kada je povjerenje nisko zbog prethodnih zloupotreba, nedostatka transparentnosti ili zabrinutosti oko pristranosti javno protivljenje teži da bude jače.
Uspješno i široko rasprostranjeno usvajanje FRT-a ne zavisi samo od njegove brzine i tačnosti, već i od povjerenja javnosti u algoritme da će se uređaji za prepoznavanje lica moći, a da će se povjerenje teško izgraditi dok primjeri rasne pristranosti i lažnih pozitivnih rezultata nastavljaju zasjenjivati godišnje poboljšanje koje se ostvaruje u ukupnoj tačnosti i funkcionalnosti softvera.
Izgradnja javnog povjerenja
Poticanje javnog angažmana u rješavanju briga i izgradnji povjerenja. Značajno javno angažiranje zahtijeva više nego jednostavno informiranje ljudi o raspoređivanju lica; to znači stvaranje mogućnosti za istinski dijalog o prednostima, rizicima i odgovarajućim granicama tehnologije.
Transparentnost o performansama sistema je ključna za izgradnju povjerenja. Sigurnosne agencije bi trebale javno prijaviti stope tačnosti, uključujući slomove po demografskoj grupi, lažne pozitivne stope, i informacije o tome kako se tehnologija koristi i nadgleda. Ova transparentnost omogućava javnosti da donese informirane presude o tome da li sigurnosne koristi opravdavaju troškove privatnosti i da li se tehnologija koristi pošteno.
Demonstracija odgovornosti kada se problemi pojave je takođe ključna. Kada sistemi za prepoznavanje lica dovedu do nepravednih pritvora ili drugih povreda, agencije moraju priznati te propuste, nadoknaditi žrtve i poduzeti konkretne korake da se spriječi ponavljanje. Obrazac za negiranje problema ili odbijanje odgovornosti će erodirati javno povjerenje i potpiriti protivljenje tehnologiji.
Budući razvoj i emerging tehnologije
Napredak u preciznosti i sposobnosti
Posljednjih godina, sa naprednim arhitekturama i povećanjem broja slojeva i parametara, FR modeli su stekli značajno poboljšanje u svojoj sposobnosti da uče složene prikaze lica, a te dublje arhitekture, koje često čine preko stotinu slojeva sa milionima parametara, značajno su pojačale sposobnost FR sistema da generaliziraju sve izazovne scenarije, što je rezultiralo većim ukupnim performansama prepoznavanja (kao i smanjenom pristranošću), a dodatno, dostupnost većih, raznovrsnijih skupova podataka doprinijela je boljim ishodima učenja, jer su ti skupovi podataka, koji uključuju znatne varijacije demografske i kovarijativne kao što su poza, omagnjenost, i izraz (PIE), olakšali mjerljivi napredak u poboljšanju i preciznosti i pravednosti FR.
Buduci sistemi za prepoznavanje lica ce vjerovatno ukljuciti vise biometrijskih modaliteta, kombinovanjem prepoznavanja lica sa skeniranjem šarenice, analizom hoda, prepoznavanjem glasa i drugim tehnikama. Ovaj multimodalni pristup moze poboljsati preciznost ukrstanjem višestrukih biometrijskih potpisa, smanjujuci uticaj gresaka u bilo kom sistemu. Isto tako, teroristima moze otežati da izbegnu detekciju maskiranjem ili izmjenom njihovog izgleda.
Napredak u veštačkoj inteligenciji, posebno u dubokom učenju i neuronskim mrežama, nastavlja da pomera granice onoga što sistemi za prepoznavanje lica mogu da postignu. Ovi sistemi postaju bolji u prepoznavanju lica pod izazovnim uslovima, kao što su loša rasvjeta, delimična okluzija ili ekstremni uglovi. Takođe postaju brži, omogućavajući analizu video tokova visoke rezolucije u realnom vremenu iz više kamera istovremeno.
Integracija sa drugim obavještajnim sistemima
Budućnost prepoznavanja lica u kontraterorizmu leži ne samo u poboljšanju same tehnologije, već i u integraciji s drugim inteligencijskim i sigurnosnim sistemima. kada se prepoznavanje lica kombinira s analizom ponašanja, kartiranjem društvenih mreža, praćenjem komunikacija i drugim obavještajnim izvorima, postaje dio sveobuhvatnog sistema za otkrivanje opasnosti koji je veći od zbroja njenih dijelova.
Na primjer, prepoznavanje lica moglo bi identificirati osobu od interesa na aerodromu, što bi izazvalo dodatno ispitivanje njihovih obrazaca putovanja, finansijskih transakcija, komunikacija i poznatih saradnika. ovim integriranim pristupom se omogućava sigurnosnim agencijama da izgrade potpuniju sliku potencijalnih prijetnji i donesu informiranije odluke o tome kako odgovoriti.
Međutim, ova integracija također pojačava zabrinutosti u privatnosti. Sistem koji kombinira prepoznavanje lica sa opsežnim podacima iz drugih izvora stvara neviđene sposobnosti nadzora koje bi se mogle koristiti za praćenje praktično svakog aspekta života ljudi. Osiguravanje da se takvi moćni sistemi koriste samo u legitimne sigurnosne svrhe i uz odgovarajući nadzor će biti kritičan izazov za kreatore politika.
Ubrzanje kontramjere i trka oružja
Kako tehnologija prepoznavanja lica postaje sve više raširena u borbi protiv terorizma, protivnici razvijaju protumjere za izbjegavanje otkrivanja. Ovo se kreće od jednostavnih tehnika kao što su nošenje maski ili sunčanih naočala do sofisticiranijih pristupa poput protivničkih obrazaca šminke dizajniranih da zbune algoritme prepoznavanja lica ili korištenje duboke tehnologije za stvaranje lažnih identiteta.
To stvara tekuću tehnološku trku u naoružanju, a sigurnosne agencije koje rade na poboljšanju sistema prepoznavanja lica dok teroristi i drugi protivnici razvijaju nove načine da ih pobede.
Neki istraživači istražuju načine da sistemi za prepoznavanje lica budu robusniji protiv kontramera, kao što je korištenje infracrvenog snimanja da bi se otkrila lica čak i kada su delimično pokrivena, ili analiziranje jezika hoda i tijela pored osobina lica. drugi razvijaju sisteme za otkrivanje živosti koji mogu razlikovati prava lica i fotografije, maske, ili video prikaze, čime se sprečavaju sloofing napada.
Najbolje prakse i preporuke
Tehnički standardi i testiranje
NIST-ovi tekući testovi prepoznavanja lica Vendor (FRVT) su od 2017. godine ocijenili preko 400 algoritama prepoznavanja lica, dajući uvid u ukupnu tačnost rejtinga svih programera učesnika. Rigorozno, nezavisno testiranje sistema prepoznavanja lica prije raspoređivanja je bitno da bi se osiguralo da oni zadovoljavaju minimalne standarde za tačnost i pravednost.
Testiranje bi trebalo uključivati evaluaciju preko različitih demografskih grupa za identifikaciju i kvantifikaciju bilo kakvih pristrasnosti u performansama sistema. Sistemi koji pokazuju neprihvatljiv nivo pristranosti ne bi trebalo da se rasporede dok se ovi problemi ne isprave. Ispitivanje bi trebalo da ocenjuje performanse i u realnim operativnim uslovima, a ne samo u kontrolisanim laboratorijskim okruženjima.
Praćenje i evaluacija nakon raspoređivanja je jednako važno. Izvedbe sistema se mogu vremenom degradirati kao algoritmi starosti ili kao i populacija koja se prati promjene. Redovne revizije mogu identificirati nove probleme i osigurati da sistemi nastave ispunjavati standarde performansi tokom svog operativnog života.
Operativne smjernice
Sigurnosne agencije koje raspoređuju prepoznavanje lica za kontraterorizam trebale bi utvrditi jasne operativne smjernice koje određuju kada i kako tehnologija može biti korištena. Ove smjernice bi trebale rješavati pitanja kao što su: Koji nivo povjerenja u meč je potreban prije poduzimanja akcije? Koja dodatna provjera je potrebna prije zadržavanja nekoga na osnovu poklapanja s prepoznavanjem lica? Kako bi se sistem trebao koristiti u kombinaciji s ljudskim rasuđivanjem?
Niti ljudi niti algoritmi nisu nepogrešivi, a slične slabosti ljudskog rasuđivanja mogu utjecati na korištenje tehnologija prepoznavanja lica, jer pojedinci mogu vjerovati u izlaz algoritma misleći da mora bitiobjektivnoviše nego vlastita procjena o tome da li se dvije slike podudaraju, uprkos temeljnim pristranostima ili netočnostima u tehnologiji. Obuka za osoblje pomoću sistema za prepoznavanje lica treba naglasiti da je tehnologija alat za pomoć u donošenju ljudskih odluka, a ne zamjena za ljudsko rasuđivanje.
Operatore treba obučiti da razumiju ograničenja sistema, uključujući i njegov potencijal za pristranost i lažne pozitive. Treba ih ohrabriti da vrše nezavisno rasuđivanje i da se ne oslanjaju isključivo na algoritamske izlaze, posebno kada su posljedice grešaka teške. Jasni protokoli trebaju navesti koje dodatne istrage ili provjere su potrebne prije poduzimanja akcije na osnovu poklapanja sa prepoznavanjem lica.
Mehanizmi nadzora i odgovornosti
Mehanizmi za strogi nadzor su od ključne važnosti da se osigura da se tehnologija prepoznavanja lica koristi na odgovarajući način i da se zloupotrebe identificiraju i korigiraju. Ovaj nadzor treba uključivati i unutrašnje mehanizme unutar sigurnosnih agencija i vanjski nadzor nezavisnih tijela kao što su povjerenici za privatnost, zakonodavni odbori ili pravosudna revizija.
Agencije bi trebale održavati detaljne zapise o tome kako se koriste sistemi za prepoznavanje lica, uključujući i ono što se vrše pretrage, ko ih provodi, i koje radnje rezultiraju. Ovi dnevnici bi trebali biti podložni redovnoj reviziji kako bi se osigurala usklađenost sa politikama i identifikovali bilo kakvi obrasci zloupotrebe. Kada se problemi identificiraju, trebalo bi postojati jasni mehanizmi odgovornosti kako bi se osiguralo da se odgovorne strane suoče sa odgovarajućim posljedicama.
Vanjska nadzorna tijela trebaju imati ovlasti i resurse za provođenje smislenog pregleda programa prepoznavanja lica. To uključuje pristup tehničkim informacijama o tome kako sistemi rade, podaci o performansama i operativnim zapisima. Nadzorna tijela također trebaju imati moć da prinude promjene programa koji krše pravne ili etičke standarde.
Studije slučaja i aplikacije u stvarnom svijetu
Implementacije sigurnosti aerodroma i granice
Aerodromi i granični prijelazi su među najranijim i najopsežnijim usvojiteljima tehnologije prepoznavanja lica u protuterorističke svrhe. Ova kontrolirana okruženja nude nekoliko prednosti za raspoređivanje prepoznavanja lica: putnici moraju proći kroz određene kontrolne punktove, rasvjetu i kuteve kamere mogu biti optimizirani, a postoji i jasno sigurnosno opravdanje za provjeru identiteta.
Mnoge zemlje su implementirale prepoznavanje lica na imigracijskim punktovima kako bi potvrdile da putnici odgovaraju njihovim fotografijama pasoša i da ih provere protiv liste poznatih ili osumnjičenih terorista. Ovi sistemi su obradili milione putnika, sa nekim aerodromima koji su prijavili da im je prepoznavanje lica omogućilo da identifikuju pojedince koji pokušavaju da putuju na lažnim dokumentima ili koriste ukradene identitete.
Tehnologija je također bila raspoređena da ubrza obradu za pouzdane putnike kroz programe koji omogućavaju unaprijed ekraniziranim pojedincima da koriste automatizirane kapije koje provjeravaju njihov identitet kroz prepoznavanje lica. Ova dvostruka upotrebapojačava i sigurnost i praktičnost doprinijela je javnom prihvatanju tehnologije u kontekstima aerodroma.
Urbane mreže za nadzor
Neki gradovi su postavili opsežne mreže kamera opremljenih sposobnostima prepoznavanja lica za praćenje javnih prostora zbog sigurnosnih prijetnji. Ovi sistemi mogu pratiti kretanje pojedinaca širom grada, potencijalno identificirajući teroriste koji provode nadzor potencijalnih meta ili sastanak sa suučesnicima.
Međutim, mreže za urbani nadzor također su izazvale značajne kontroverze zbog svog potencijala za masovni nadzor običnih građana. Kritičari tvrde da ti sistemi stvaraju jeziv učinak na slobodno izražavanje i udruživanje, jer ljudi mogu izbjeći određene lokacije ili aktivnosti ako znaju da ih prate. Ravnoteža između sigurnosnih pogodnosti i troškova privatnosti je posebno teška za štrajk u tim aplikacijama.
Neke nadležnosti su pokušale da se riješe tih briga ograničavanjem upotrebe prepoznavanja lica u javnim prostorima na specifične okolnosti, kao što je istraga teških zločina ili odgovor na neposredne prijetnje. Drugi su zahtijevali da kamere budu jasno označene i da javnost bude informirana o tome gdje se raspoređuje prepoznavanje lica. Ovi pristupi pokušavaju sačuvati neke sigurnosne koristi uz ograničavanje najnametljivijih aspekata masovnog nadzora.
Sigurnost događaja i praćenje gužve
Veliki javni događaji kao što su političke konvencije, međunarodni samiti ili veliki sportski događaji predstavljaju atraktivne ciljeve za teroriste i zahtijevaju intenzivne sigurnosne mjere. Prepoznavanje lica je raspoređeno na takvim događajima kako bi se pratilo mnoštvo i identificiralo potencijalne prijetnje među prisutnima.
Te privremene implementacije nude neke prednosti u odnosu na trajne mreže nadzora, ograničene su vremenom i opsegom, fokusirane na specifične visokorizične događaje, a ne na kontinuirano praćenje javnih prostora, mogu biti opravdane povišenom sigurnosnom prijetnjom povezanom s velikim događajima koji privlače velike gužve i visokoprofilne ciljeve.
Međutim, aplikacije za sigurnost događaja također izazivaju zabrinutost, posebno kada se prepoznavanje lica koristi za praćenje političkih protesta ili demonstracija. Tehnologija bi se mogla koristiti za identifikaciju i praćenje političkih aktivista, potencijalno kulirajući legitimni politički izraz. Jasno smjernice o tome kada i kako se prepoznavanje lica može koristiti na javnim događajima su od suštinskog značaja za sprečavanje zloupotrebe.
Put naprijed: Balansiranje sigurnosti i prava
Razvijam okvire za odgovornu upotrebu
Budućnost prepoznavanja lica u borbi protiv terorizma zavisi od razvoja okvira koji omogućavaju efikasno korištenje tehnologije u legitimne sigurnosne svrhe, uz zaštitu građanskih sloboda i osiguravanje pravednosti. To zahtijeva tekući dijalog između sigurnosnih profesionalaca, tehnologa, kreatora politika, zagovornika građanskih sloboda i javnosti.
Takvi okviri trebaju biti zasnovani na jasnim principima: prepoznavanje lica treba koristiti samo kada je potrebno i proporcionalno sigurnosnoj prijetnji; treba ga rasporediti uz odgovarajuće zaštitne mjere protiv zloupotrebe; treba biti predmet smislenog nadzora i odgovornosti; a treba ga kontinuirano ocjenjivati i poboljšavati kako bi se problemi rješavali tačnošću i pristranošću.
Različiti konteksti mogu zahtijevati različite pristupe. Korištenje prepoznavanja lica na graničnim prijelazima, gdje postoji jasno sigurnosno opravdanje i ograničeno očekivanje privatnosti, može biti prihvatljivije od njegove upotrebe za kontinuirano praćenje javnih prostora. okviri specifični za kontekst mogu pružiti više nijansiranog navođenja nego pravila svih veličina.
Investicija u istraživanje i razvoj
To uključuje ne samo poboljšanje preciznosti i brzine, nego posebno rješavanje problema sa pristranošću i pravednošću. Široke i standardizovane studije kao što je NIST-ova pomoć da se otkriju zajedničke mane u FRT-u, i kao i naučnici i zaposlenici, inženjeri koji razvijaju FRT imaju zadatak da poboljšaju rezultate softvera u prepoznavanju slika tamnijim tonovima kože kao i smanjenje rodnog jaza u lažnim pozitivnim stopama, i kada su skupovi podataka i rezultati stavljeni u rigoroznu, minutnu analizu, naučnici imaju sposobnost da poboljšaju algoritam i time se bave pitanjem pristranosti u budućnosti iteracije softvera.
Istraživanje bi trebalo istražiti i alternativne pristupe koji mogu ponuditi bolje zaštite privatnosti uz održavanje sigurnosnih prednosti.Na primjer, sistemi koji analiziraju obrasce ponašanja ili otkrivaju anomalije bez identificiranja specifičnih pojedinaca mogu pružiti korisne sigurnosne informacije uz manje upada privatnosti od tradicionalnog prepoznavanja lica.
Interdisciplinarna istraživanja koja okupljaju računarske naučnike, socijalne naučnike, etičare i pravne učenjake mogu pomoći u identifikaciji i rješavanju složenih izazova koje predstavlja tehnologija prepoznavanja lica. Razumijevanje ne samo tehničkih sposobnosti već i društvenih, etičkih i pravnih implikacija je od ključne važnosti za odgovoran razvoj i raspoređivanje.
Međunarodna saradnja i standardi
S obzirom na transnacionalnu prirodu terorizma, međunarodna saradnja na standardima i praksama prepoznavanja lica je važna. zemlje bi trebale raditi zajedno na razvoju zajedničkih standarda za tačnost, pravednost i zaštitu privatnosti, uz poštovanje različitih pravnih tradicija i kulturnih vrijednosti.
Međunarodni sporazumi mogli bi uspostaviti minimalne standarde za sisteme prepoznavanja lica koji se koriste u borbi protiv terorizma, osiguravajući da podaci koji se dijele preko granica ispunjavaju osnovne zahtjeve za tačnost i pouzdanost.
Međutim, međunarodna saradnja mora biti uravnotežena protiv zabrinutosti u pogledu omogućavanja autoritarnih režima da koriste prepoznavanje lica za političku represiju. Demokratske zemlje bi trebale biti oprezne u vezi dijeljenja tehnologije prepoznavanja lica ili podataka s vladama kojima nedostaju snažne zaštite ljudskih prava i vladavina prava. Međunarodni standardi bi trebali uključivati zaštitne mjere kako bi se spriječilo korištenje tehnologije u nezakonite svrhe.
Zaključak: Navigiranje kompleksnog krajolika
Tehnologija prepoznavanja lica predstavlja moćno sredstvo u borbi protiv terorizma, nudeći mogućnosti za identifikaciju, nadzor i istragu koja je bila nezamisliva prije samo nekoliko decenija. Nova tehnologija je dala novu moć državi da automatizira identifikaciju ranije poznatih terorista koji organiziraju napade na građane koje država treba zaštititi, a moć da to učini, ako ona učinkovito radi, pomogla bi u suzbijanju terorizma.
Međutim, tehnologija također predstavlja značajne izazove vezane za preciznost, pristranost, privatnost i građanske slobode. Ovaj problem prevladava u softveru za prepoznavanje lica, koji teži generiranju veće stope lažnih pozitivnih za ne-bijele ljude, i za razliku od softvera za prepoznavanje lica koji se koristi za hapšenje nekoga, pogrešno obučeni CT algoritam može ubiti civile, radnja koja se ne može poništiti. Ulozi u protivterorističkim aplikacijama su posebno visoki, gdje greške mogu dovesti do toga da nevini ljudi budu pogrešno pritvoreni ili, suprotno, na opasno pojedince koji izbjegavaju otkrivanje.
Put naprijed zahtijeva balansiranje tih konkurentnih razmatranja kroz pažljiv razvoj politike, robustan nadzor, kontinuirano tehničko poboljšanje i tekući javni dijalog. Niti deka zabrane koje sprečavaju bilo kakvo korištenje prepoznavanja lica u sigurnosne svrhe niti nekonverzirano raspoređivanje bez zaštite predstavlja odgovoran pristup. Umjesto toga, kontekst-specifični okviri koji omogućavaju korisne upotrebe, a sprečavaju zloupotrebu nude najbolju nadu za realizaciju sigurnosnih prednosti prepoznavanja lica uz zaštitu temeljnih prava.
Kako tehnologija nastavlja da se razvija i postaje sposobnija, potreba za promišljenim upravljanjem postaje hitnija. Odluke donesene danas o tome kako se razvija, rasporedi i regulira će oblikovati ravnotežu između sigurnosti i slobode u godinama koje dolaze. Osiguravanje da su te odluke informirane dokazima, vođene etičkim principima, i podložne demokratskoj odgovornosti je od ključne važnosti za održavanje i sigurnosti i slobode u sve složenijem prijetnjom okruženju.
Za više informacija o biometrijskim sigurnosnim tehnologijama, posjetite Nacionalni institut za standarde i tehnologiju za prepoznavanje lica Vendor Test program. Da biste saznali o razmatranju privatnosti u tehnologiji nadzora, istražite resurse Elektronska Frontier Foundation. Za međunarodne perspektive o regulaciji prepoznavanja lica, pogledajte Rad Evropskog parlamenta o regulaciji AI.