Table of Contents

Razumevanje tehnologije za priznavanje obraza in njene vloge pri sodobni varnosti

Tehnologija za prepoznavanje obraza je postala eno najbolj transformativnih orodij v svetovnem boju proti terorizmu. Ta močna tehnologija omogoča hitro in natančno prepoznavanje posameznikov in pripomočkov pri preprečevanju terorističnih dejavnosti in zagotavljanju varnejšega javnega prostora. Ker se varnostne grožnje še naprej razvijajo v kompleksnosti in obsegu, se vlade in organi kazenskega pregona po vsem svetu vse bolj obračajo na napredne biometrične sisteme za zaščito svojih državljanov in infrastrukture.

Po raziskavah trgov in trgov je trg za prepoznavanje obrazov leta 2025 pripravljen doseči 8,5 milijarde dolarjev, kar je več kot podvojitev s 3,8 milijarde USD leta 2020. Ta eksplozivna rast ne odraža le zmožnosti tehnologije, ampak tudi njen kritični pomen v nacionalnih varnostnih okvirih. Od letališč in mejnih prehodov do mrež za nadzor mest in preiskovalnih procesov je prepoznavanje obraza postalo nepogrešljiv sestavni del sodobnih protiterorističnih strategij.

Tehnologija za prepoznavanje obraza v svojem jedru predstavlja prefinjeno porok računalniškega vida, umetne inteligence in biometrične analize. Tehnologija digitalizira človeške obrazne značilnosti v matematične predstavitve, ki jih računalniki lahko obdelajo in primerjajo, analizira ključne obrazne značilnosti, kot so razdalja med očmi, širino mostu nosu, obrisi čeljusti in strukturo ličnic, ter nato ustvari edinstvene biometrične predloge za preverjanje identitete po zbirkah podatkov, ki vsebujejo milijone obrazov. Ta sposobnost obdelave in ujemanja obrazov z izjemno hitrostjo in obsegom je bistveno spremenila način, kako varnostne agencije pristopajo k odkrivanju in preprečevanju groženj.

Razvoj tehnike pripoznavanja obraza

Od zgodnjih začetkov do sistemov z AI

Tehnologija sega v šestdeseta leta, ko je tip po imenu Woodrow Wilson Bledsoe prvič prišel do sistema za razvrščanje fotografij obrazov s posebno tablico. Ti zgodnji sistemi so bili osnovni po današnjih standardih, ki zahtevajo ročni vnos in delovanje v zelo nadzorovanih pogojih. V 70-ih letih so nekateri pametni ljudje uporabili 21 posebnih označevalcev, kot so barva las in debelina ustnic, za avtomatizacijo prepoznave obraza, 80-90-ti pa so videli nov pristop, imenovan Eigenface, ki je postal temelj sodobnih sistemov.

Prava igra-sprememba prišel v 2000-ih letih z družbenimi mediji, kot nenadoma je bilo na milijone označenih fotografij na spletu, kar daje tem sistemom ogromno bazo podatkov za učenje. Ta številčnost podatkov usposabljanja, skupaj z napredkom v strojno učenje algoritmi, omogoča sisteme za prepoznavanje obraza, da dosežejo natančnost, ki so bili prej nepredstavljivo. Danes, z AI in globoko učenje, obraz prepoznavnih sistemov za podjetja so postali neverjetno točni in hitri.

Kako delujejo sodobni sistemi za priznavanje obraza

Sodobni sistemi za prepoznavanje obraza delujejo skozi večstopenjski proces, ki se dogaja v milisekundah. Prva stopnja vključuje zaznavanje obraza, kjer sistem prepozna in locira obraz znotraj slikovnega ali video okvirja. Temu sledi poravnava obraza, kjer sistem normalizira položaj obraza, velikost in orientacijo, da se zagotovi dosledna analiza ne glede na kot ali oddaljenost od kamere.

Nato pride do ekstrakcije funkcij, kjer sistem prepozna in meri značilne značilnosti obraza. Te meritve se pretvorijo v matematično predstavitev, imenovano obrazna predloga ali biometrični podpis. Nazadnje, sistem izvede ujemanje s primerjavo te predloge s shranjenimi predlogami v bazi podatkov, kar ustvarja podobnost rezultat, ki kaže na verjetnost ujemanja.

Sodobni sistemi za prepoznavanje obrazov zajamejo in analizirajo slike ljudi v najtežjih pogojih vida in gibanja. Ta sposobnost je ključna za protiteroristične aplikacije, kjer se osumljence lahko ujame na posnetkih nadzora v manj kot idealnih pogojih, vključno s slabo osvetljavo, delno okluzijo ali pri poševnih kotih.

Strateške aplikacije v boju proti terorizmu

Nadzor v realnem času in odkrivanje nevarnosti

Tehnologija za prepoznavanje obraza se je pojavila kot transformativno orodje v boju proti terorizmu, ki ponuja napredne zmogljivosti za prepoznavanje, spremljanje in prijemanje posameznikov, ki so zainteresirani, s poudarkom na treh posebnih aplikacijah: nadzoru v realnem času, nadzoru meja in preiskovalnih postopkih. V prenatrpanih javnih prostorih, prometnih središčih in ob večjih dogodkih lahko sistemi za prepoznavanje obrazov nenehno skenirajo množice in takoj opozorijo varnostno osebje, ko odkrijejo interesno osebo.

AI omogoča avtomatsko opozarjanje in preverjanje identitete velikih skupin ljudi v obsegu in hitrosti, ki jih prej ni bilo mogoče. Ta sposobnost je še posebej dragocena na odmevnih dogodkih, kjer se zbirajo velike množice, kot so politični shodi, športni dogodki ali kulturni festivali. Varnostne agencije lahko uporabijo sisteme za prepoznavanje obrazov za spremljanje vstopnih točk in gibanja množic, prepoznavanje potencialnih groženj, preden se lahko uresničijo v napadih.

Okrepljena varnost zagotavlja stalno spremljanje na področjih z visokim prometom, identificira zainteresirane osebe in najde pogrešane posameznike z izjemno učinkovitostjo. Sposobnost tehnologije za neprekinjeno delovanje brez utrujenosti je neprecenljivo dopolnilo človeškemu osebju za varnost, ki lahko nato svojo pozornost usmeri na preiskovanje opozoril in odzivanje na morebitne grožnje.

Varnost meja in nadzor priseljevanja

Mejni prehodi in letališča predstavljajo kritične zaostanke v boju proti terorizmu. Če oseba (vključno s teroristom) prihaja v ZDA iz čezmorskih držav, je verjetno šel skozi kontrolno točko priseljevanja v pristanišču vstopa, in z vidika boja proti terorizmu, je ta kontrolna točka dušilna točka, kjer je domnevni terorist najbolj ranljiv. Tehnologije za prepoznavanje obraza je postalo bistveno orodje v teh kritičnih točkah.

FRT so razporejeni tako, da preverijo, ali je oseba, ki gre skozi mejni nadzor, dejansko oseba, ki je prikazana na identifikacijskem dokumentu (npr. potni list), Interpol pa je uporabil svoj prvi sistem projekta, da bi državnim organom pomagal prepoznati tuje teroristične borce (FTF). Ti sistemi lahko hitro obdelujejo potnike, hkrati pa preverjajo njihovo identiteto pred nadzornimi seznami znanih ali domnevnih teroristov, kar znatno poveča varnost, ne da bi pri tem ustvarili velika ozka grla v pretoku potnikov.

Biometrija lahko prepreči krajo identitete in imigracijo pri uporabi potnih listin, saj bi bila biometrična predloga prstnih odtisov priložena dokumentu, kot je potni list ali vizum, na črtni kodi, čipu ali magnetnem traku, kar bi nekomu otežilo prevzemanje identitete drugega. Ko se ta večplastni biometrični pristop združi s prepoznavanjem obraza, ustvari trdno obrambo pred teroristi, ki poskušajo vstopiti v države z uporabo goljufivih dokumentov ali ukradenih identitet.

Preiskovalne in forenzične aplikacije

Biometrični sistemi bi lahko identificirali znane ali domnevne teroriste z biometrično prepoznavanje obraza ali metodo FaceCheck, ko je na voljo fotografija osumljenega terorista, in to je treba preiskati na seznamu ali bazi podatkov predlog osumljenih teroristov. Ta sposobnost se je izkazala za neprecenljivo pri preiskavah po incidentu, kjer varnostne agencije analizirajo nadzorne posnetke za identifikacijo storilcev in njihovih sodelavcev.

Učinkovitost kazenskega pregona pospešuje identifikacijo osumljencev in reševanje primerov z avtomatiziranim ujemanjem z obstoječimi zapisi. Namesto ročnega pregledovanja ur posnetkov in primerjave obrazov z očmi lahko raziskovalci uporabljajo prepoznavanje obrazov za hitro iskanje preko obsežnih arhivov nadzornih videov, prepoznavanje osumljencev in sledenje njihovih premikov po več lokacijah in časovnih obdobjih.

Ameriška vojska je prepoznala tudi strateško vrednost prepoznave obraza v protiterorističnih operacijah. Ameriško poveljstvo za posebne operacije (USSOCOM) postavlja temelje za znatno razširitev svojih zmogljivosti za inteligenco in izkoriščanje identitete, opisuje široko in tehnično ambiciozno vizijo o tem, kako posebne operativne sile zbirajo, analizirajo in izkoriščajo podatke, povezane z identiteto, med misijami, ter išče vpogled v pet področij primarne tehnologije: prepoznavanje obraza, prepoznavanje govorca in ujemanje glasu, popolnoma integriran ekosistem aplikacij za uporabo SOF Site Exploitation, hitra analiza DNK in AI ter strojno učenje analitike.

Operativne prednosti pri preprečevanju terorizma

Hitrost in velikost identifikacije

Ena od najpomembnejših prednosti tehnologije za prepoznavanje obrazov v boju proti terorizmu je njena sposobnost obdelave in analiziranja obrazov s hitrostjo, ki močno presega človeške zmožnosti. Nova tehnologija je državi dala novo moč, da avtomatizira identifikacijo predhodno znanih teroristov, ki organizirajo napade na državljane, ki naj bi jih država varovala, in moč, da to stori, če bo učinkovito delovalo, bi pomagala pri boju proti terorizmu, saj bi tehnologije za prepoznavanje obrazov obljubile, da bodo državi dale ravno to moč.

Tradicionalne metode za identifikacijo osumljencev so se močno opirale na človeški spomin in ročno primerjavo fotografij, procesov, ki so bili zamudni in nagnjeni k napakam. Varnostni uradnik, ki je spremljal natrpano letališče, je lahko aktivno gledal le omejeno število ljudi naenkrat, in celo najbolj izkušeno osebje bi lahko zgrešilo osumljenca v morju obrazov. Sistemi za prepoznavanje obraza, nasprotno, lahko hkrati spremlja na stotine ali tisoče obrazov, primerja vsakega od njih z obsežnimi bazami podatkov v realnem času.

Ta sposobnost je še posebej pomembna v časovno občutljivih situacijah, kjer vsaka sekunda šteje. Ko obveščevalne agencije prejmejo informacije o neposredni nevarnosti, se lahko sistemi za prepoznavanje obrazov hitro uporabijo za skeniranje nadzornih mrež po vseh mestih, pri čemer se osumljence lahko poišče v nekaj minutah in ne v urah ali dneh.

Večje zmogljivosti nadzora

Z biometrično prepoznavanje, algoritmom globokega učenja in analizo velikih podatkov se izboljšata natančnost in učinkovitost inteligenčnega dela, tradicionalno spremljanje pa postane v prihodnost usmerjen in obrambni boj. Prepoznavnost obraza preoblikuje nadzor iz reaktivnega orodja, ki se uporablja predvsem za popoporodne preiskave v proaktivni sistem, ki lahko prepreči napade, preden se pojavijo.

Tehnologija omogoča varnostnim agencijam, da ustvarijo celovita omrežja nadzornih kamer, ki delujejo kot integriran sistem in ne kot izolirane opazovalne točke. Ko je oseba, ki je zainteresirana, zaznana na eni lokaciji, lahko sistem spremlja njihovo gibanje po mreži, varnostno osebje pa ima v realnem času inteligenco o svojih dejavnostih in združenjih. Ta sposobnost je neprecenljiva za razumevanje terorističnih mrež in prepoznavanje doslej neznanih članov ekstremističnih organizacij.

Poleg tega lahko sistemi za prepoznavanje obraza delujejo neprekinjeno brez omejitev človekove pozornosti in utrujenosti. Medtem ko lahko človeški operaterji zamudijo kritične podrobnosti v dolgih izmenah ali obdobjih nizke aktivnosti, avtomatizirani sistemi ohranjajo dosledno budnost, s čimer se zagotovi, da ne pride do neopažene morebitne grožnje.

Učinek izhlapevanja

Prisotnost sistemov za prepoznavanje obrazov lahko služi kot močan odvračilni ukrep za teroristične dejavnosti. Ko potencialni napadalci vedo, da bodo njihove obraze zajeli in analizirali izpopolnjeni biometrični sistemi, se soočajo z znatno večjimi tveganji za identifikacijo in prikrivanje. Ta zavest lahko prekine procese načrtovanja, prisili teroriste, da sprejmejo manj učinkovite taktike ali pa popolnoma odvrnejo napade.

Učinek odvračanja sega dlje od neposredne grožnje identifikacije. Sistemi za prepoznavanje obraza ustvarjajo trajen digitalni zapis, ki ga je mogoče analizirati dolgo po incidentu. To pomeni, da tudi če se teroristom uspe izogniti takojšnjemu odkrivanju, pustijo za seboj dokaze, ki jih lahko uporabijo za njihovo identifikacijo kasneje, sledenje njihovih gibanj in odkrivanje njihovih omrežij. Ta dolgoročna odgovornost dodaja še eno plast tveganja, ki ga morajo teroristi upoštevati pri načrtovanju operacij.

Optimizacija virov

Tehnologija za prepoznavanje obraza omogoča varnostnim agencijam, da optimizirajo svoje omejene vire z avtomatizacijo nalog rutinske identifikacije in osredotočanjem na človeško strokovno znanje, kjer je najbolj potrebno. Namesto da bi dodelili osebje za ročno spremljanje nadzornih virov ali preverjanje dokumentov na mejnih prehodih, lahko agencije za opravljanje teh nalog uporabijo sisteme za prepoznavanje obrazov, medtem ko se človeški operaterji osredotočajo na preiskovanje opozoril, vodenje razgovorov in sprejemanje kritičnih odločitev.

Ta optimizacija je še posebej pomembna glede na obseg sodobnih varnostnih izzivov. Z milijoni potnikov, ki gredo skozi letališča dnevno in nešteto ur posnetkov nadzora, ustvarjenih po mestnih območjih, bi bilo nemogoče ročno pregledati vse te informacije. Sistemi za prepoznavanje obraza lahko avtomatsko obdelajo to ogromno količino podatkov, ki označujejo le majhen del, ki zahteva človeško pozornost.

Kritični izzivi in tehnične omejitve

Natančnost in lažne pozitivne strani

Kljub znatnemu napredku v tehnologiji za prepoznavanje obrazov je točnost še vedno pomembna skrb, zlasti pri protiterorističnih aplikacijah, kjer so lahko posledice napak hude. Metoda za prepoznavanje obrazov je bila opredeljena s tehnološkimi pomanjkljivostmi in pomanjkljivostmi, vendar jo je mogoče operativno uporabiti za zmanjšanje njenih slabosti. Razumevanje teh omejitev je bistveno za odgovorno in učinkovito uporabo tehnologije.

Čeprav lahko ljudje na splošno dokaj dobro izvajajo postopke prepoznavanja obraza, so te dejavnosti še vedno zelo zahtevne za tehnološke sisteme, saj lahko sistem, razen če je fotografija posneta v zelo nadzorovanih pogojih, težko identificira posameznika ali celo zazna obraz na fotografiji, sistem pa deluje najbolje, kadar se okoljski dejavniki, kot so kot kamere, osvetlitev, izraz obraza in drugi, nadzorujejo v največji možni meri.

Lažni pozitivni – v primerih, ko sistem napačno identificira osebo kot osebo, ki je v interesu – postavljajo posebne izzive v protiterorističnih razmerah. Tisti, za katere tehnologija ne deluje, kot tudi ne bodo mogli preveriti s strani FRT – ki povzročajo sum in nadaljnji vsiljivi nadzor, in bodo poleg tega pogosteje napačno prepoznani, zaradi česar jih lahko sumijo kot teroriste ali druge resne kriminalce. Takšne napačne identifikacije lahko privedejo do tega, da so nedolžni ljudje pridržani, zaslišani ali podvrženi invazivnim varnostnim postopkom, kar ima znatne osebne in socialne posledice.

NIST je pred kratkim opravil obsežen test, ki se je osredotočil na prepoznavanje pristranskosti v FRT, s posebnim poudarkom na lažno pozitivni stopnji – torej pogostosti, s katero algoritem napačno identificira podobo ene osebe, rezultati pa so pokazali, da se "navzkrižna demografska stopnja, napačna pozitivna stopnja pogosto razlikuje za faktorje od 10 do več kot 100 krat", odvisno od tega, kateri algoritmi se uporabljajo. Te razlike v stopnjah napak v različnih sistemih poudarjajo pomen strogega testiranja in potrjevanja pred uporabo tehnologije za prepoznavanje obrazov pri varnostnih aplikacijah z visokimi stopnjami.

Demografska biasa in algoritmična pravda

Eden od najresnejših izzivov, s katerim se sooča tehnologija prepoznavanja obraza, je demografska pristranskost – težnja po sistemih, da bi manj natančno delovali na določenih demografskih skupinah. Trije komercialno sproščeni programi za analizo obraza iz večjih tehnoloških podjetij kažejo tako pristranskost tipa kože kot spola, v poskusih raziskovalcev pa so bile napake treh programov pri določanju spola svetlopoltih moških nikoli slabše od 0,8 odstotka, vendar za temnopolte ženske stopnje napak, ki so se balonirale – na več kot 20 odstotkov v enem primeru in več kot 34 odstotkov v drugih dveh.

Stopnja napak za svetlopolte moške je 0,8 %, v primerjavi s 34,7 % za temnopolte ženske, po podatkih študije iz leta 2018 z naslovom "Gender Shades" Joy Buolamwini in Timnit Gebru, ki jo je izdal MIT Media Lab. Ta dramatična neskladja v stopnji natančnosti vzbujajo resne pomisleke glede pravičnosti in enakega obravnavanja po zakonu, ko se prepoznavanje obraza uporablja v varnostnih in policijskih kontekstih.

Ton kože bistveno vpliva na natančnost preverjanja, z lažjimi toni kože dosledno izboljševati srednje temnih tonov. Raziskave so tudi ugotovili, da moški predmeti na splošno dosegli boljšo natančnost prepoznavanja kot ženske teme, pripisano dejavnikom, kot so okluzija, ki jih daljše lase in spremembe videza obraza zaradi ličila.

Avgusta 2023 je neka črnka tožila policijo Detroita, ko so jo aretirali policisti, ki so uporabljali slabo kalibrirano programsko opremo za prepoznavanje obraza, in ta problem je razširjen v programski opremi za prepoznavanje obraza, ki običajno ustvarja višjo stopnjo lažno pozitivnih učinkov za nebele ljudi. Takšni incidenti kažejo na dejanske posledice algoritemske pristranskosti in poudarjajo nujno potrebo po bolj pravičnih sistemih za prepoznavanje obraza.

Študija NIST je dodatno ugotovila pristranskih rezultatov, ko gre za vzhodnoazijsko, indijansko, ameriško, aljaško indijsko in pacifiških Islanders sooča. Vsestranskost teh pristranskosti v več demografskih skupin kaže, da je problem sistemsko, ne pa izolirana za določene populacije ali algoritme.

Vzroki za težave

Tehnika prepoznavanja obraza je zaradi naprednih modelov umetne inteligence (AI), ki so bili usposobljeni za masivne nabore podatkov obraznih podob, zelo napredovala, vendar ti nabori podatkov pogosto niso dovolj raznoliki glede rase, etnične pripadnosti, spola in drugih demografskih kategorij, zaradi česar se sistemi za prepoznavanje obrazov slabšajo na premalo zastopanih demografskih skupinah v primerjavi s skupinami, ki so v podatkih usposabljanja prisotne.

Problem pristranskosti izhaja iz več virov. Zgodovinski nabor podatkov, ki se uporablja za usposabljanje algoritmov za prepoznavanje obraza, je v glavnem prikazal obraze belih samcev, ki odražajo demografske značilnosti raziskovalcev in institucij, ki so jih ustvarili. Ko se algoritmi naučijo prepoznati obraze predvsem iz tega omejenega nabora podatkov, se seveda bolje obnašajo na podobnih obrazih in se borijo z obrazi, ki se bistveno razlikujejo od njihovih podatkov o usposabljanju.

Mnogi pripisujejo večino teh vprašanj neuravnoteženim naborom podatkov. Vendar pa problem presega preprosto predstavitev. Tudi ko nabori podatkov vključujejo različne obraze, lahko drugi dejavniki, kot so svetlobni pogoji, kakovost kamere in ločljivost slike nesorazmerno vplivajo na kakovost slik za ljudi s temnejšimi kožnimi toni, še dodatno pa še povečujejo težave s točnostjo.

Prizadevanja za mitigate Bias

Raziskovalci in tehnološka podjetja so prepoznali resnost problema pristranskosti in se aktivno ukvarjajo z rešitvami. Leta 2018 je Microsoft objavil, da so njihovi komercialno dostopni FRT opravili posodobitve za izboljšanje uspešnosti v različnih rasnih kategorijah in kategorijah spolov, tako da so razširili nabore podatkov, ki se uporabljajo za usposabljanje algoritmov strojnega učenja, in z izboljšanjem klasifikatorja obraza za večjo natančnost, zaradi česar so bile po mnenju podjetja 20-krat nižje stopnje napak za temnejše tone kože in 9-krat nižje stopnje napak za ženske.

Raziskovalci so predšolsko usposobili tri modele za prepoznavanje obrazov – ArcFace, AdaFace in ElasticFace – na velikem, uravnoteženem sintetičnem naboru podatkov, ki so ga ustvarili, in rezultat ni samo povečal splošne natančnosti v primerjavi z modeli, ki so bili usposobljeni za obstoječe neravnovesne nabore podatkov, ampak tudi znatno zmanjšal demografsko pristranskost, pri čemer so usposobljeni modeli pokazali bolj pravično natančnost v vseh rasnih skupinah v primerjavi z obstoječimi modeli, ki kažejo slabo uspešnost na premalo zastopanih manjšinah.

Na naboru podatkov FairFace se je natančnost izboljšala z 92,58 % na 96,47 %, stopnja bias (DoB) pa se je zmanjšala s 3,86 na 1,16, kar pomeni približno 70 % zmanjšanje, zlasti pa so bile opažene znatne izboljšave uspešnosti za nezadostno zastopane skupine, kot je izboljšanje natančnosti pri temnopoltih samicah z 80,2 % na 90,86 %, pri čemer so se ohranile močne zmogljivosti za že dobro zastopane skupine.

S tem se je pokazalo, da je blažitev pristranskosti tehnično izvedljiva, čeprav je pomembno delo za izvajanje teh rešitev v vseh uporabljenih sistemih.

Zasebnost in državljanske svoboščine

Masovni nadzor in pravice do zasebnosti

Večina najmočnejših ima temno stran, FRT pa ni nobena izjema, saj sproža resna vprašanja in skrbi glede zasebnosti, etike in splošnega družbenega vpliva. Uporaba tehnologije za prepoznavanje obrazov za namene boja proti terorizmu je sprožila intenzivno razpravo o ravnovesju med varnostjo in zasebnostjo, kritiki pa trdijo, da široko razširjen nadzor ogroža temeljne državljanske svoboščine.

Pravni, etični in zasebnostni izzivi v zvezi z množičnim nadzorom vključujejo zaskrbljenost glede napačne identifikacije, goljufij in pristranskosti v bazi podatkov. Sposobnost za sledenje posameznikovega gibanja po javnih prostorih brez njihovega znanja ali soglasja odpira globoka vprašanja o naravi zasebnosti v sodobni družbi in o ustreznih mejah vladnih nadzornih pooblastil.

Kritiki opozarjajo na znatna tveganja za zasebnost in morebitne kršitve državljanskih svoboščin, vzbujajo zaskrbljenost zaradi nepooblaščenega zbiranja podatkov, pomanjkanja soglasja in možnosti za delovanje, skozi katero se podatki, zbrani za en namen, uporabljajo za nepovezan namen brez vednosti ali privolitve posameznika. Strah je, da bi se sistemi, ki so bili prvotno uporabljeni za boj proti terorizmu, lahko postopoma razširili za spremljanje navadnih državljanov, ki se ukvarjajo z zakonitimi dejavnostmi, in ustvarili nadzorno državo, ki ohlaja svobodno izražanje in združevanje.

Razlogi za tako prepoved so, da FRT trpijo zaradi vsestranske pristranskosti, ki povzroča neenakopravne koristi in škodo, ki jo imajo med skupinami, država bo te tehnologije neizogibno uporabljala v nezakonite namene in da obstoj FRT ohlaja naše vedenje (tj. ljudi prisili, da se cenzurirajo zaradi strahu pred nadzorom). Ta mrzlični učinek bi lahko spodkopal demokratično sodelovanje, ki bi ljudi odvračalo od udeležbe na protestih, političnih shodih ali drugih javnih srečanjih, kjer bi jih lahko prepoznali in izsledili.

Regulativni odzivi in prepovedi

Leta 2019 je San Francisco postal prvo ameriško mesto, ki je prepovedalo tehnologijo za prepoznavanje obrazov (FRT), s posebnim vetom na policiji in drugih agencijah, od takrat pa je več drugih ameriških mest izvajalo podobne prepovedi FRT, pri čemer so Bostonski mestni svetniki izrecno izpostavili eno posebno vprašanje: pristranskost tehnologije. Te prepovedi odražajo vse večjo zaskrbljenost javnosti glede potenciala tehnologije za zlorabo in njene dokazane težave z natančnostjo in poštenostjo.

Več kot ducat velikih mest je prepovedalo tehnologijo, vključno z Minneapolis, Boston in San Francisco. Vendar pa te lokalne prepovedi niso preprečile zveznih agencij in veliko drugih jurisdikcij, da še naprej uporabljajo prepoznavanje obrazov za varnostne namene, ustvarjanje patchwork predpisov, ki se bistveno razlikuje glede na lokacijo.

Evropska unija je sprejela celovitejši pristop, pri čemer je uporabila tehnologije za prepoznavanje obrazov v okviru miroljubnega protesta, ki povečuje tveganje množičnih nadzornih praks in posledice za varstvo človekovih pravic. Evropski regulatorji so predlagali stroge omejitve uporabe priznavanja obrazov na javnih mestih, nekateri pa so zagovarjali popolne prepovedi, razen v ozko opredeljenih okoliščinah, ki vključujejo huda kazniva dejanja ali neposredne grožnje.

Uravnoteževanje varnosti in svobode

Če lahko država uporabi to tehnologijo za povečanje svoje moči za boj proti terorizmu, je ta moč omejena tako, da se zlorabe in ohlajano vedenje ne pojavijo, država pa mora ustvariti institucionalne omejitve, ki omogočajo uporabo FRT le na mestih, kjer ljudje ne (in ne bi smeli) uživati razumnega pričakovanja zasebnosti (npr. letališča, mejni prehodi).

Kamere, opremljene z FRT, morajo biti označene, da se zagotovi, da se javnosti ne nadzira na mestih, kjer bi morale razumno pričakovati zasebnost, in da se FRT omeji na iskanje resnih kriminalcev (npr. teroristov). Te predlagane omejitve predstavljajo poskus ohranjanja varnostnih koristi pri prepoznavanju obraza, hkrati pa omejujejo njegov potencial za zlorabo in zaščito državljanskih svoboščin.

FRT je močno orodje v arzenalu za boj proti terorizmu, ki omogoča varnostne ukrepe, ki so bili prej nedosegljivi, vendar je to tehnologija, ki zahteva izredno razumno ravnovesje med njegovimi jasnimi koristmi in pomembnimi etičnimi vidiki, s katerimi je povezana, in v tem trenutku bi lahko bilo ravnovesje preveč nagneno v prid jasnim koristim FRT in premalo v korist poštenosti, zasebnosti in etične celovitosti, ki bi morala usmerjati njeno uvajanje.

Pravni in etični okviri

Ustavne zadeve in človekove pravice

Programi FRT, ki jih uporabljajo organi pregona pri ugotavljanju osumljencev kaznivih dejanj, so bistveno bolj napačni na obraznih slikah, ki prikazujejo temnejše tone kože in ženske v primerjavi s podobami obraza, ki prikazujejo belce, in ta pristranskost lahko vodi do tega, da policija po krivem preiskuje vse državljane po rasni in spolni liniji, pri čemer je uporaba pristranske FRT v kazenskem pregonu v nasprotju s klasično liberalno zahtevo, da vlada vse državljane obravnava enako pred zakonom.

Klavzula o enakem varstvu v mnogih ustavah zahteva, da vladne dejavnosti ne diskriminirajo na podlagi rase, spola ali drugih zaščitenih značilnosti. Kadar sistemi za prepoznavanje obrazov kažejo sistematično pristranskost do določenih demografskih skupin, lahko njihova uporaba s strani vladnih agencij krši ta ustavna varstva. To ustvarja pravno dilemo: medtem ko lahko tehnologija poveča varnost, bi lahko njena pristranska uspešnost povzročila, da bi se njena uporaba neustavna ali kršenje prava človekovih pravic.

Računalniški znanstveniki so izrazili zaskrbljenost zaradi uporabe FRT pri pregonu za identifikacijo osumljencev kaznivih dejanj, pri čemer so ugotovili, da je zelo verjetno, da se takšna programska oprema uporablja za identifikacijo osumljencev, in tako ima lahko napaka pri izdelavi algoritma za prepoznavanje obraza, ki se uporablja kot vhod za druge naloge, resne posledice, saj bi lahko nekdo po krivici obtožil zločin, ki temelji na napačni, vendar samozavestni napačni identifikaciji storilca iz varnostne analize video posnetkov.

Preglednost in odgovornost

Priporoča močno ureditev, mednarodno sodelovanje in pregledno upravljanje, da bi zagotovili skladnost uporabe tehnologije za prepoznavanje obrazov z AI s človekovimi pravicami in temeljnimi svoboščinami. Preglednost delovanja sistemov za prepoznavanje obrazov, njihove stopnje natančnosti in njihove omejitve so bistvenega pomena za zaupanje javnosti in demokratično odgovornost.

Vzpostaviti zakone, ki so jasni in celoviti v zvezi z uporabo tehnologije za prepoznavanje obrazov, uskladiti globalne standarde z nacionalnimi okviri za zagotovitev skladnosti in naročiti redne revizije sistemov FRT za zagotovitev skladnosti z etičnimi smernicami. Redna revizija lahko pomaga pri ugotavljanju težav s točnostjo ali pristranskostjo, preden povzročijo resne poškodbe, medtem ko jasni pravni okviri zagotavljajo smernice za varnostne agencije o ustrezni uporabi tehnologije.

Tveganja ne bi smela voditi v moratorije na uporabo aviarne influence ali prepoved nekaterih platform, temveč bi jih bilo treba pozvati k ukrepanju, da bi vlade zahtevale boljšo zasnovo svojih orodij za umetno inteligenco/prenovitev, kar pomeni pridobivanje boljših podatkov in oblikovanje zahtevnih sistemov preskušanja, ki omejujejo tveganje in čim bolj izpostavljajo pomanjkljivosti, in način, kako pomagati pri tem, je uveljavljanje pojasnjenih standardov in politik za preglednost, ki vladam omogočajo vpogled v utemeljitev vsakega ukrepa, ki ga sprejme sistem.

Varstvo in hramba podatkov

Država ne bi smela uporabljati podjetij tretjih oseb, ki kršijo prve tri pogoje med vzpostavitvijo ali uporabo svojih storitev, in podjetja tretjih oseb ne bi smela imeti dostopa do občutljivih podatkov, ki jih zbere država, ali jih brati. Biometrični podatki, ki jih zbirajo sistemi za prepoznavanje obrazov, so zelo občutljivi in osebni, zahtevajo pa tudi močno zaščito pred nepooblaščenim dostopom, zlorabo ali kršitvami podatkov.

Vprašanja o hrambi podatkov so še posebej pomembna. Kako dolgo naj se shranjujejo podatki o prepoznavanju obraza? Kdo naj bi imel dostop do njih? V kakšnih okoliščinah se lahko delijo z drugimi agencijami ali državami? Ta vprašanja v mnogih jurisdikcijah nimajo jasnih odgovorov, kar povzroča negotovost glede dolgoročnih posledic uvedbe prepoznavanja obraza.

Tveganje za kršitve podatkov je tudi pomembno. Baza podatkov, ki vsebuje podatke o prepoznavanju obrazov za milijone ljudi, bi bila privlačna tarča za hekerje, tuje obveščevalne službe ali kriminalne organizacije. Če bi bili takšni podatki ogroženi, bi se lahko uporabila za krajo identitete, zalezovanje ali druge zlonamerne namene, s posledicami, ki bi lahko trajali več let ali desetletij.

Mednarodne perspektive in uvajanje

Globalni vzorci posvojitve

Organi pregona: Priznavanje obraza je trenutno najbolj razširjena tehnologija nadzora nad AI na svetovni ravni, s 64-odstotno stopnjo sprejemanja, ki presega tako pametne mestne platforme kot pametne policijske pobude. Ta široko razširjena posvojitev odraža tako zaznano vrednost tehnologije za varnost kot različne regulativne pristope, ki jih sprejemajo različne države.

Države se soočajo z različnimi varnostnimi grožnjami in imajo različne kulturne odnose do zasebnosti in nadzora, kar vodi do pomembnih razlik v načinu uporabe prepoznavanja obraza. Nekatere države so navdušeno sprejele tehnologijo, jo obsežno razporedile na javne prostore z minimalnimi omejitvami. Druge so sprejele bolj previden pristop, omejile njeno uporabo na posebne visoko varovane kontekste ali uvedle stroge zahteve glede nadzora.

Furl et al. (2002) je ugotovil, da je FRT, ki se je razvil in uporabljal v zahodnih državah, bolj natančen za kavkaške podobe obraza, medtem ko so v vzhodnoazijskih državah, FRT algoritmi bolj točni za vzhodnoazijske podobe obraza. Ta ugotovitev poudarja pomen razvoja sistemov za prepoznavanje obrazov, ki so usposobljeni na različnih naborih podatkov, reprezentativnih za populacije, kjer bodo razporejeni.

Mednarodno sodelovanje in standardi

Terorizem je nadnacionalna grožnja, ki zahteva učinkovito mednarodno sodelovanje. Tehnologije za priznavanje obraza lahko to sodelovanje olajšajo tako, da državam omogočijo izmenjavo informacij o znanih ali domnevnih teroristih in usklajevanje njihovih nadzornih prizadevanj. Vendar ta mednarodna razsežnost odpira tudi zapletena vprašanja o izmenjavi podatkov, varstvu zasebnosti in človekovih pravicah.

Različne države imajo različne pravne standarde za varstvo zasebnosti, hrambo podatkov in za to ustrezen postopek. Kadar se podatki o prepoznavanju obrazov izmenjujejo prek meja, se lahko v državi sprejemnici zaščitijo manj strogo kot v državi, kjer so bili zbrani. To ustvarja tveganje, da bi tuje vlade lahko zlorabile podatke, zbrane v okviru stroge zaščite zasebnosti, s šibkejšimi zaščitnimi ukrepi.

Mednarodne organizacije, kot je Interpol, so razvile sisteme za lažjo čezmejno uporabo priznavanja obrazov za boj proti terorizmu. Ti sistemi morajo usmerjati kompleksne pravne in politične terene, uravnotežiti varnostne koristi izmenjave informacij pred zaskrbljenostjo glede zasebnosti, človekovih pravic in nacionalne suverenosti. Razvoj mednarodnih standardov in sporazumov za odgovorno uporabo priznavanja obrazov v boju proti terorizmu ostaja stalen izziv.

Javno dojemanje in zaupanje

Dejavniki, ki vplivajo na sprejemanje javnosti

Zagovorniki FRT poudarjajo njegov potencial na področju javne varnosti, preprečevanja kriminala in boja proti terorizmu, pri čemer ugotavljajo, da FRT organom pregona in organizacijam omogoča identifikacijo osumljencev in preprečevanje nedovoljenega dostopa do zaščitenih območij in prostorov, kjer so prisotne dragoceno premoženje ali ranljivo prebivalstvo. Javna podpora za prepoznavanje obrazov je pogosto odvisna od posebnega konteksta, v katerem se uporablja, pri čemer je večja sprejemljivost za varnostne aplikacije v zelo tveganih okoljih, kot so letališča.

Zaupanje v institucije, ki uporabljajo prepoznavanje obrazov, je ključni dejavnik pri sprejemanju javnosti. Ko ljudje zaupajo, da bodo varnostne agencije tehnologijo uporabljale odgovorno in z ustreznim nadzorom, je verjetneje, da bodo sprejeli njeno uporabo. Nasprotno pa je zaupanje, ko je majhno – zaradi preteklih zlorab, pomanjkanja preglednosti ali pomislekov glede pristranskosti –, javno nasprotovanje ponavadi močnejše.

Uspešno in široko sprejetje FRT ni odvisno le od njegove hitrosti in natančnosti, ampak tudi od zaupanja javnosti v algoritme, ki napajajo naprave za prepoznavanje obraza, in da bo zaupanje težko graditi, medtem ko primeri rasne pristranskosti in lažno pozitivnih rezultatov še naprej zasenčujejo izboljšave, ki se izvajajo vsako leto v splošni natančnosti in funkcionalnosti programske opreme.

Gradnja zaupanja javnosti

Spodbujanje sodelovanja javnosti pri reševanju težav in vzpostavljanju zaupanja. Za smiselno sodelovanje javnosti je potrebno več kot le obveščanje ljudi o uvedbi prepoznave obraza; to pomeni ustvarjanje priložnosti za resničen dialog o koristih, tveganjih in ustreznih omejitvah tehnologije.

Preglednost delovanja sistema je bistvena za vzpostavitev zaupanja. Varnostne agencije bi morale javno poročati o stopnji natančnosti, vključno z razčlenitvami po demografskih skupinah, lažno pozitivnimi stopnjami in informacijami o tem, kako se tehnologija uporablja in nadzira. Ta preglednost omogoča javnosti, da na podlagi informacij presodi, ali varnostne koristi upravičujejo stroške zasebnosti in ali se tehnologija uporablja pošteno.

Ko sistemi za prepoznavanje obrazov vodijo do neupravičenih priporov ali drugih poškodb, morajo agencije priznati te neuspehe, nadomestiti žrtve in sprejeti konkretne ukrepe za preprečevanje ponovitve. Vzorec zanikanja težav ali odklonitve odgovornosti bo spodkopal zaupanje javnosti in spodbudil nasprotovanje tehnologiji.

Prihodnji razvoj in nastajajoče tehnologije

Napredki v točnosti in zmogljivosti

V zadnjih letih so se z naprednimi arhitekturami in povečanjem števila plasti in parametrov močno izboljšale zmogljivosti modelov FR za učenje kompleksnih obraznih prikazov, te globlje arhitekture, ki pogosto obsegajo več sto plasti z milijoni parametrov, pa so znatno izboljšale zmožnost sistemov FR, da se posplošijo med zahtevnimi scenariji, kar je povzročilo večjo splošno prepoznavnost (in zmanjšano pristranskost), poleg tega pa je razpoložljivost večjih, bolj raznolikih podatkov prispevala k boljšim učnim rezultatom, saj so ti nabori podatkov, ki vključujejo znatne spremembe demografskih in sospremenljivih značilnosti, kot so poza, osvetlitev in izražanje (PIE), olajšali merljiv napredek pri izboljšanju tako natančnosti kot poštenosti FR.

Prihodnji sistemi za prepoznavanje obrazov bodo verjetno vključevali več biometričnih načinov, ki bodo združevali prepoznavanje obraza s skeniranjem šarenice, analizo hoja, prepoznavanje glasu in drugimi tehnikami. Ta multimodalni pristop lahko izboljša natančnost z navzkrižnim primerjanjem več biometričnih podpisov, kar bo zmanjšalo vpliv napak v vsakem posameznem sistemu. Teroristi se lahko tudi težje izognejo odkrivanju z zakritjem ali spreminjanjem njihovega videza.

Napredek v umetni inteligenci, zlasti v globokih učnih in živčnih omrežjih, še naprej potiska meje, kaj lahko dosežejo sistemi za prepoznavanje obraza. Ti sistemi postajajo vse boljši pri prepoznavanju obrazov v zahtevnih pogojih, kot so slaba osvetlitev, delna okluzija ali skrajni koti. Prav tako postajajo hitrejši, kar omogoča realno analizo visokoresolucijskih video tokov iz več kamer hkrati.

Vključevanje v druge obveščevalne sisteme

Prihodnost prepoznavanja obrazov v boju proti terorizmu ni le v izboljšanju tehnologije, temveč v njeni integraciji z drugimi obveščevalnimi in varnostnimi sistemi. Ko je prepoznavanje obraza povezano z vedenjsko analizo, kartiranjem socialnih omrežij, spremljanjem komunikacij in drugimi viri obveščevalnih podatkov, postane del celovitega sistema odkrivanja groženj, ki je večji od vsote njegovih delov.

Na primer, prepoznavanje obraza bi lahko identificiralo osebo, ki je zainteresirana na letališču, kar bi sprožilo dodatni pregled njihovih potovalnih vzorcev, finančnih transakcij, komunikacij in znanih sodelavcev. Ta celostni pristop omogoča varnostnim agencijam, da izdelajo popolnejšo sliko potencialnih groženj in sprejmejo bolj premišljene odločitve o tem, kako se odzvati.

Vendar pa to povezovanje povečuje tudi pomisleke glede zasebnosti. Sistem, ki združuje prepoznavanje obrazov z obsežnimi podatki iz drugih virov, ustvarja zmogljivosti za nadzor brez primere, ki bi jih lahko uporabili za spremljanje praktično vseh vidikov življenja ljudi. Zagotavljanje, da se tako močni sistemi uporabljajo le za legitimne varnostne namene in z ustreznim nadzorom, bo odločilen izziv za oblikovalce politik.

Nastajajoči protiukrepi in dirka orožja

Ker tehnologija prepoznavanja obraza postaja bolj razširjena v boju proti terorizmu, nasprotniki razvijajo protiukrepe za izogibanje odkrivanju. Ti segajo od preprostih tehnik, kot so nošenje mask ali sončnih očal, do bolj prefinjenih pristopov, kot so protislovni ličila vzorci, namenjeni za zmedo algoritme za prepoznavanje obraza ali uporaba tehnologije globokega ponarejanja za ustvarjanje lažnih identitet.

To ustvarja stalno tehnološko oboroževalno tekmo, varnostne agencije pa si prizadevajo izboljšati sisteme za prepoznavanje obrazov, medtem ko teroristi in drugi nasprotniki razvijajo nove načine za njihovo premagovanje. Učinkovitost prepoznavanja obrazov v boju proti terorizmu ne bo odvisna le od prirojenih zmogljivosti tehnologije, ampak od tega, kako se lahko dobro prilagodi razvijajočim se tehnikam izogibanja.

Nekateri raziskovalci raziskujejo načine, kako narediti sisteme za prepoznavanje obraza bolj robustne proti protiukrepom, kot so infrardeče slikanje za odkrivanje obrazov tudi, ko so delno pokriti, ali analiziranje hoje in govorice telesa poleg obraznih značilnosti. Drugi razvijajo sisteme za zaznavanje živosti, ki lahko razlikujejo med resničnimi obrazi in fotografijami, maskami ali video prikazovalniki, ki preprečujejo spoofing napade.

Najboljše prakse in priporočila

Tehnični standardi in preskušanje

NIST-ovi tekoči testi za prepoznavanje obrazov (FRVT) so od leta 2017 ocenili več kot 400 algoritmov za prepoznavanje obrazov, kar daje vpogled v splošno oceno natančnosti vseh sodelujočih razvijalcev. Otrplo, neodvisno testiranje sistemov za prepoznavanje obrazov pred uvedbo je bistveno, da se zagotovi izpolnjevanje minimalnih standardov za točnost in poštenost.

Testiranje mora vključevati ocenjevanje različnih demografskih skupin, da se ugotovijo in količinsko opredelijo morebitne pristranskosti pri delovanju sistema. Sistemov, ki kažejo nesprejemljive ravni pristranskosti, ne bi smeli uporabljati, dokler se te težave ne odpravijo. Testiranje mora oceniti tudi učinkovitost v realnih pogojih delovanja, ne le v nadzorovanih laboratorijskih okoljih.

Stalno spremljanje in vrednotenje po uvedbi je enako pomembno. Sistemske zmogljivosti se lahko sčasoma poslabšajo kot algoritmi starosti ali kot prebivalstvo, ki se spremlja spremembe. Redne revizije lahko ugotovijo nastajajoče težave in zagotovijo, da sistemi še naprej izpolnjujejo standarde uspešnosti v celotnem operativnem obdobju.

Operativne smernice

Varnostne agencije, ki uporabljajo prepoznavanje obrazov za boj proti terorizmu, morajo določiti jasne operativne smernice, ki določajo, kdaj in kako se lahko tehnologija uporablja. Te smernice bi morale obravnavati vprašanja, kot so: Kakšna stopnja zaupanja v ujemanje je potrebna pred ukrepanjem? Kakšno dodatno preverjanje je potrebno, preden se nekoga zadrži na podlagi ujemanja za prepoznavanje obraza? Kako naj se sistem uporablja v povezavi s človeško presojo?

Niti ljudje niti algoritmi niso nezmotljivi in podobne slabosti človeške presoje lahko vplivajo na uporabo tehnologij za prepoznavanje obraza, saj posamezniki lahko zaupajo izhodu algoritma – misleč, da mora biti "objektivno" – več kot njihova lastna presoja o tem, ali se dve sliki ujemata, kljub temeljnim pristranskostim ali netočnostim v tehnologiji. Usposabljanje za osebje, ki uporablja sisteme za prepoznavanje obraza, bi moralo poudariti, da je tehnologija orodje za pomoč pri odločanju ljudi, ne pa zamenjava za presojo ljudi.

Izvajalce je treba usposobiti, da razumejo omejitve sistema, vključno z njegovim potencialom za pristranskost in lažne pozitivne učinke. Spodbujati jih je treba, da izvajajo neodvisno presojo in se ne zanašajo zgolj na algoritmične izide, zlasti kadar so posledice napak hude. Jasni protokoli morajo določiti, katere dodatne preiskave ali preverjanje je potrebno pred ukrepanjem na podlagi tekme za prepoznavanje obraza.

Nadzor in mehanizmi odgovornosti

Za zagotovitev ustrezne uporabe tehnologije za prepoznavanje obrazov ter za odkrivanje in odpravljanje zlorab so bistveni mehanizmi za strog nadzor, ki bi morali vključevati notranje mehanizme znotraj varnostnih agencij in zunanji nadzor neodvisnih organov, kot so komisarji za zasebnost, zakonodajni odbori ali sodni nadzor.

Agencije bi morale voditi podrobne dnevnike o tem, kako se uporabljajo sistemi za prepoznavanje obrazov, vključno s tem, kaj se izvaja, kdo jih izvaja in kakšne so posledice ukrepov. Ti dnevniki bi morali biti predmet redne revizije, da se zagotovi skladnost s politikami in opredelijo kakršni koli vzorci zlorabe. Ko se ugotovijo težave, bi morali obstajati jasni mehanizmi odgovornosti, ki bi odgovornim stranem zagotovili ustrezne posledice.

Zunanji nadzorni organi bi morali imeti pooblastila in vire za izvajanje smiselnega pregleda programov za prepoznavanje obrazov, kar vključuje dostop do tehničnih informacij o tem, kako sistemi delujejo, podatki o uspešnosti in operativni dnevniki. Nadzorni organi bi morali imeti tudi pooblastila za izvajanje sprememb programov, ki kršijo pravne ali etične standarde.

Študije primerov in aplikacije v realnem svetu

Izvajanje varnosti na letališčih in mejah

Letališča in mejni prehodi so bili med prvimi in najbolj obsežnimi uporabniki tehnologije za prepoznavanje obrazov za namene boja proti terorizmu. Ta nadzorovana okolja ponujajo več prednosti za prepoznavanje obrazov: potniki morajo iti skozi določene kontrolne točke, razsvetljavo in koti kamere se lahko optimizirajo, in obstaja jasna varnostna utemeljitev za preverjanje identitete.

Številne države so uvedle prepoznavanje obrazov na kontrolnih točkah za priseljevanje, da bi preverile, ali potniki ustrezajo fotografijam potnega lista in jih preverjajo pred seznami znanih ali domnevnih teroristov. Ti sistemi so obdelali milijone potnikov, pri čemer so nekatera letališča poročala, da jim je prepoznavanje obrazov omogočilo identifikacijo posameznikov, ki poskušajo potovati z lažnimi dokumenti ali uporabo ukradenih identitet.

Tehnologija je bila uporabljena tudi za pospešitev obdelave za zaupanja vredne potnike prek programov, ki omogočajo predhodno pregledanim posameznikom uporabo avtomatiziranih vrat, ki preverjajo njihovo identiteto z prepoznavanjem obraza. Ta dvojna uporaba – izboljšanje varnosti in udobje – je prispevala k javnemu sprejemanju tehnologije v letaliških kontekstih.

Mreže za nadzor v mestih

Nekatera mesta so vzpostavila obsežne mreže kamer, opremljenih z zmožnostmi za prepoznavanje obrazov, za spremljanje javnih prostorov za varnostne grožnje. Ti sistemi lahko spremljajo gibanje posameznikov po mestu, kar lahko pomeni, da teroristi izvajajo nadzor nad možnimi tarčami ali se srečujejo s somišljeniki.

Vendar pa so mestne mreže za nadzor prav tako povzročile precejšnje polemike zaradi njihovega potenciala za množični nadzor nad navadnimi državljani. Kritiki trdijo, da ti sistemi ustvarjajo mrzli učinek na svobodno izražanje in asociacijo, saj se ljudje lahko izognejo določenim lokacijam ali dejavnostim, če vedo, da jih zasledujejo. Ravnovesje med varnostnimi koristmi in stroški zasebnosti je še posebej težko najti v teh aplikacijah.

Nekatere jurisdikcije so poskušale te pomisleke obravnavati z omejitvijo uporabe priznavanja obrazov v javnih prostorih na posebne okoliščine, kot so preiskovanje hudih kaznivih dejanj ali odzivanje na neposredne grožnje. Druge so zahtevale, da so kamere jasno označene in da je javnost obveščena o tem, kje se uporablja prepoznavanje obrazov. Ti pristopi poskušajo ohraniti nekatere varnostne koristi, hkrati pa omejiti najbolj vsiljive vidike množičnega nadzora.

Varnost dogodkov in spremljanje množice

Večji javni dogodki – kot so politične konvencije, mednarodni vrhi ali veliki športni dogodki – predstavljajo privlačne cilje za teroriste in zahtevajo intenzivne varnostne ukrepe. Na takih dogodkih je bilo uvedeno priznanje obraza za spremljanje množic in prepoznavanje potencialnih groženj med udeleženci.

Te začasne napotitve ponujajo nekaj prednosti pred stalnimi nadzornimi mrežami, ki so časovno omejene in omejene, osredotočene na posebne dogodke z visokim tveganjem in ne na stalno spremljanje javnih prostorov. Te lahko upraviči povečana varnostna grožnja, povezana z velikimi dogodki, ki privabljajo velike množice in visoko prepoznavne cilje.

Vendar pa se pri varnostnih aplikacijah za dogodke pojavljajo tudi pomisleki, zlasti kadar se prepoznavanje obrazov uporablja za spremljanje političnih protestov ali demonstracij. Tehnologija bi se lahko uporabila za prepoznavanje in sledenje političnih aktivistov, ki bi lahko ohlajali legitimno politično izražanje. Jasne smernice o tem, kdaj in kako se lahko prepoznavanje obrazov uporablja na javnih dogodkih, so bistvene za preprečevanje zlorab.

Pot naprej: uravnoteženje varnosti in pravic

Razvoj odgovornih okvirov uporabe

Prihodnost priznavanja obrazov v boju proti terorizmu je odvisna od razvijanja okvirov, ki omogočajo učinkovito uporabo tehnologije za legitimne varnostne namene, hkrati pa ščitijo državljanske svoboščine in zagotavljajo pravičnost. Za to je potreben stalen dialog med strokovnjaki na področju varnosti, tehnologi, oblikovalci politik, zagovorniki državljanskih svoboščin in javnostjo.

Takšni okviri bi morali temeljiti na jasnih načelih: priznavanje obrazov bi se moralo uporabljati le, kadar je to potrebno in sorazmerno z varnostno grožnjo; uporabljati bi ga bilo treba z ustreznimi zaščitnimi ukrepi proti zlorabam; izvajati bi ga bilo treba pod smiselnim nadzorom in odgovornostjo; nenehno bi ga bilo treba ocenjevati in izboljšati za reševanje problemov s točnostjo in pristranskostjo.

Različni konteksti lahko zahtevajo različne pristope. Uporaba prepoznavanja obrazov na mejnih prehodih, kjer obstaja jasna varnostna utemeljitev in omejeno pričakovanje zasebnosti, je lahko bolj sprejemljiva od njene uporabe za stalni nadzor javnih prostorov. Kontekstno specifični okviri lahko zagotovijo več niansiranih smernic kot eno-primerna pravila.

Vlaganje v raziskave in razvoj

Nadaljnje naložbe v raziskave za izboljšanje tehnologije za prepoznavanje obraza so bistvene. To ne vključuje samo izboljšanja natančnosti in hitrosti, ampak tudi posebej reševanje problemov s pristranskostjo in pravičnostjo. Širokoobsežne in standardizirane študije, kot je NIST-ova pomoč pri odkrivanju skupnih pomanjkljivosti v FRT, in kot znanstveniki in zaposleni, so inženirji, ki razvijajo FRT, zadolženi za izboljšanje rezultatov programske opreme pri prepoznavanju slik s temnejšimi kožnimi toni – kot tudi zmanjšanje razlik med spoloma v lažno pozitivnih stopnjah, in ko so nabori podatkov in rezultati postavljeni v strogo, minutno analizo, znanstveniki imajo sposobnost izboljšati algoritem in s tem obravnavati vprašanje pristranskosti v prihodnosti iteracije programske opreme.

Raziskave bi morale raziskati tudi alternativne pristope, ki bi lahko nudili boljšo zaščito zasebnosti, hkrati pa bi ohranili varnostne koristi. Na primer, sistemi, ki analizirajo vedenjske vzorce ali odkrivajo anomalije, ne da bi identificirali določene posameznike, bi lahko zagotovili koristne varnostne informacije z manj vdora v zasebnost kot tradicionalno prepoznavanje obraza.

Interdisciplinarne raziskave, ki združujejo računalničarje, socialne znanstvenike, etike in pravne znanstvenike, lahko pomagajo prepoznati in obravnavati zapletene izzive, ki jih prinaša tehnologija za prepoznavanje obrazov. Razumevanje ne le tehničnih sposobnosti, temveč tudi družbene, etične in pravne posledice je bistvenega pomena za odgovoren razvoj in uvajanje.

Mednarodno sodelovanje in standardi

Glede na nadnacionalno naravo terorizma je pomembno mednarodno sodelovanje na področju standardov in praks za priznavanje obrazov. Države bi morale sodelovati pri razvoju skupnih standardov za točnost, pravičnost in varstvo zasebnosti, pri čemer bi morale spoštovati različne pravne tradicije in kulturne vrednote.

Mednarodni sporazumi bi lahko vzpostavili minimalne standarde za sisteme za prepoznavanje obrazov, ki se uporabljajo v boju proti terorizmu, s čimer bi zagotovili, da skupni podatki izpolnjujejo osnovne zahteve za točnost in zanesljivost.

Vendar pa mora mednarodno sodelovanje biti uravnoteženo glede na pomisleke glede omogočanja avtoritarnih režimov, da za politično represijo uporabljajo priznanje obraza. Demokratične države morajo biti pazljive pri izmenjavi tehnologije za prepoznavanje obrazov ali podatkov z vladami, ki nimajo močne zaščite človekovih pravic in pravne države. Mednarodni standardi morajo vključevati zaščitne ukrepe, da se prepreči uporaba tehnologije v nezakonite namene.

Zaključek: Navigacija po kompleksni pokrajini

Tehnologija za prepoznavanje obraza predstavlja močno orodje v boju proti terorizmu, ki ponuja zmogljivosti za identifikacijo, nadzor in preiskavo, ki si je pred nekaj desetletji ni bilo mogoče predstavljati. Nova tehnologija je državi dala novo moč, da avtomatizira identifikacijo predhodno znanih teroristov, ki organizirajo napade na državljane, ki naj bi jih država varovala, in moč, da to stori, če deluje učinkovito, bi pomagala pri boju proti terorizmu.

Vendar pa tehnologija predstavlja tudi pomembne izzive, povezane z natančnostjo, pristranskostjo, zasebnostjo in državljanskimi svoboščinami. Ta problem je razširjen v programski opremi za prepoznavanje obrazov, ki za nebele ljudi ustvarja višjo stopnjo lažno pozitivnih učinkov, za razliko od programske opreme za prepoznavanje obrazov, ki se uporablja za aretacijo nekoga, lahko napačno izurjen CT algoritem ubija civiliste, kar je neodkrito. Vložki v protiteroristične aplikacije so še posebej visoki, kjer lahko napake privedejo do tega, da se nedolžni ljudje neupravičeno zadržujejo ali, nasprotno, do nevarnega zaznavanja posameznikov.

Za nadaljnje ukrepanje je treba te konkurenčne vidike uskladiti s skrbnim razvojem politike, strogim nadzorom, stalnim tehničnim izboljšanjem in stalnim javnim dialogom. Niti splošne prepovedi, ki preprečujejo uporabo priznanja obrazov za varnostne namene niti neomejeno uvajanje brez zaščitnih ukrepov, ne predstavljajo odgovornega pristopa. Namesto tega okviri, specifični za kontekst, ki omogočajo koristno uporabo, hkrati pa preprečujejo zlorabo, ne ponujajo najboljšega upanja za uresničitev varnostnih koristi priznanja obraza ob hkratnem varovanju temeljnih pravic.

Ker se tehnologija še naprej razvija in postaja bolj sposobna, postaja potreba po premišljenem upravljanju nujnejša. Odločitve, sprejete danes o razvoju, uporabi in ureditvi priznavanja obrazov, bodo oblikovale ravnovesje med varnostjo in svobodo za prihodnja leta. Zagotavljanje, da bodo te odločitve informirane z dokazi, ki jih vodijo etična načela, in da bodo podvržene demokratični odgovornosti, je bistveno za ohranjanje varnosti in svobode v vse bolj zapletenem okolju groženj.

Za več informacij o biometričnih varnostnih tehnologijah obiščite Nacionalni inštitut za standarde in tehnologijo za testiranje pripoznavanja obraza []. Da bi spoznali vprašanja zasebnosti v tehnologiji nadzora, raziščite vire iz Elektronske fundacije Frontier[]. Za mednarodne vidike glede ureditve pri prepoznavanju obraza glej Del Evropskega parlamenta na področju uredbe o AI].