Table of Contents

Pochopenie technológie rozpoznávania tváre a jej úlohy v modernej bezpečnosti

Technológia na uznávanie tvárí sa objavila ako jeden z najtransformatívnejších nástrojov v globálnom boji proti terorizmu. Táto výkonná technológia umožňuje rýchlu a presnú identifikáciu jednotlivcov a pomoci pri predchádzaní teroristickým činnostiam a zvyšovaní bezpečnosti verejných priestorov. Vzhľadom na to, že bezpečnostné hrozby sa naďalej vyvíjajú v komplexnosti a rozsahu, vlády a agentúry presadzovania práva na celom svete sa čoraz viac obracajú na moderné biometrické systémy na ochranu svojich občanov a infraštruktúry.

Podľa prieskumu trhov a trhov je trh s rozpoznaním tvárí pripravený dosiahnuť v roku 2025 8,5 miliardy dolárov, čo je viac ako zdvojnásobenie z 3,8 miliardy dolárov v roku 2020. Tento rast výbušniny odráža nielen rozširujúce sa schopnosti technológie, ale aj jej rozhodujúci význam v národných bezpečnostných rámcoch. Od letísk a hraničných priechodov po mestské siete dohľadu a vyšetrovacie procesy sa rozpoznávanie tvárí stalo nevyhnutnou súčasťou moderných stratégií boja proti terorizmu.

Technológia digitalizuje ľudské tvárové prvky do matematických reprezentácií, ktoré počítače dokážu spracovávať a porovnávať, analyzuje kľúčové črty tváre, ako je vzdialenosť medzi očami osoby, šírka nosového mosta, čeľuste a štruktúra lícnej kosti, a potom vytvára jedinečné biometrické šablóny na kontrolu totožnosti v databázach obsahujúcich milióny tvárí. Táto schopnosť spracovávať a prispôsobovať tváre bezprecedentnou rýchlosťou a rozsahom zásadne zmenila spôsob, akým bezpečnostné agentúry pristupujú k odhaľovaniu a prevencii hrozieb.

Vývoj technológie rozpoznávania tvárí

Od skorého začiatku až po systémy s AI-powered

Technológia sa vracia do 60. rokov, keď chlapík menom Woodrow Wilson Bledsoe prvýkrát prišiel so systémom na triedenie fotografií tváre pomocou špeciálneho tabletu. Tieto skoré systémy boli redukčné podľa dnešných štandardov, vyžadujúci manuálne vstupy a fungujú za vysoko kontrolovaných podmienok. V 70. rokoch niektorí šikovní ľudia používali 21 špecifických markerov, ako napríklad farbu vlasov a hrúbku pery, automatizovať rozpoznávanie tváre, a 80. 90. rokoch videli nový prístup Eigenface, ktorý sa stal základom pre moderné systémy.

Skutočný herný menič prišiel v 2000s so sociálnymi médiami, ako náhle tam boli milióny označené fotografie on-line, dáva tieto systémy masívne databázy sa učiť z. Táto hojnosť tréningových dát, v kombinácii s pokrokom v strojových algoritmov, umožnil rozpoznávanie tvárí systémy na dosiahnutie presnosti, ktoré boli predtým nepredstaviteľné. Dnes, s AI a hlboké učenie, systémy na rozpoznávanie tvárí pre podniky sa stali neuveriteľne presné a rýchle.

Ako fungujú moderné systémy rozpoznávania tváre

Moderné systémy rozpoznávania tváre fungujú prostredníctvom viacstupňového procesu, ktorý sa odohráva v milisekundách. Prvá etapa zahŕňa detekciu tváre, kde systém identifikuje a lokalizuje tvár v obraze alebo videoráme. Po nej nasleduje nastavenie tváre, kde systém normalizuje polohu, veľkosť a orientáciu tváre, aby sa zabezpečila konzistentná analýza bez ohľadu na uhol alebo vzdialenosť od kamery.

Ďalej prichádza extrakcia funkcie, kde systém identifikuje a meria charakteristické črty tváre. Tieto merania sa prevedú na matematické znázornenie s názvom šablóna tváre alebo biometrický podpis. Nakoniec, systém vykonáva zodpovedajúce porovnanie tejto šablóny s uloženými šablónami v databáze, generujúce podobnosť skóre, ktoré naznačuje pravdepodobnosť zhody.

Moderné systémy rozpoznávania tvárí zachytávajú a analyzujú obrazy ľudí v najťažších podmienkach videnia a pohybu. Táto schopnosť je rozhodujúca pre protiteroristické aplikácie, kde podozriví môžu byť zachytení na záberoch z dohľadu za menej než ideálnych podmienok, vrátane zlého osvetlenia, čiastočného oklúzie, alebo v šikmých uhloch.

Strategické aplikácie v boji proti terorizmu

Dohľad a odhaľovanie hrozieb v reálnom čase

Technológia na rozpoznávanie tváre sa objavila ako transformačný nástroj v boji proti terorizmu, ktorý ponúka pokročilé možnosti na identifikáciu, monitorovanie a zadržanie jednotlivcov, ktorí majú záujem, so zameraním na tri konkrétne aplikácie: dohľad v reálnom čase, kontrola hraníc a vyšetrovacie procesy. V preplnených verejných priestoroch, dopravných uzloch a počas veľkých udalostí môžu systémy rozpoznávania tváre nepretržite skenovať zástupy ľudí a okamžite upozorniť bezpečnostný personál, keď je osoba záujmu detekovaná.

UI umožňuje automatické upozorňovanie a kontrolu totožnosti veľkých skupín ľudí v rozsahu a tempe, ktoré nie je možné predtým. Táto schopnosť je obzvlášť cenná počas vysoko-profilových udalostí, kde sa zhromažďujú veľké davy, ako sú politické zhromaždenia, športové podujatia, alebo kultúrne festivaly. Bezpečnostné agentúry môžu nasadiť systémy rozpoznávanie tváre na monitorovanie vstupných miest a pohybu davu, identifikovať potenciálne hrozby, než sa zhmotnia do útokov.

Posilnená bezpečnosť zabezpečuje nepretržité monitorovanie v oblastiach s vysokou dopravou, identifikuje osoby, ktoré sú predmetom záujmu, a lokalizuje nezvestných osôb s bezprecedentnou účinnosťou. Schopnosť technológie nepretržite fungovať bez únavy z neho robí neoceniteľný doplnok k personálu v oblasti bezpečnosti ľudí, ktorý potom môže sústrediť svoju pozornosť na vyšetrovanie varovaní a reakciu na potenciálne hrozby.

Bezpečnosť hraníc a imigračná kontrola

Hraničné priechody a letiská predstavujú kritické uškrtenia v boji proti terorizmu. Ak osoba (vrátane teroristu) prichádza do Spojených štátov zo zahraničia, on alebo ona pravdepodobne prechádza cez imigračný kontrolný bod v prístave vstupu, a z hľadiska boja proti terorizmu, tento kontrolný bod je uškrtením, kde by-be terorista je najzraniteľnejší. Technológia pre rozpoznávanie tváre sa stala základným nástrojom v týchto kritických okamihoch.

Nasadzujú sa FRT, aby sa overilo, či osoba, ktorá prechádza hraničnej kontrole, je skutočne osobou zobrazenou na identifikačnom doklade (napr. pas) a Interpol nasadil svoj systém Projektu FIRST na pomoc štátnym orgánom pri identifikácii zahraničných teroristických bojovníkov (FTF). Tieto systémy môžu rýchlo spracovávať cestujúcich a zároveň kontrolovať ich totožnosť proti zoznamom známych alebo podozrivých teroristov, čo výrazne zvyšuje bezpečnosť bez vytvárania veľkých prekážok v pohybe cestujúcich.

Biometrické údaje môžu zabrániť krádeži identity a podvodom pri prisťahovalectve pri používaní cestovných dokladov, pretože biometrický vzor odtlačku prsta by bol pripojený k dokumentu, ako je pas alebo vízum, na čiarový kód, čip alebo magnetický pás, čo by niekomu sťažilo prevziať identitu. V kombinácii s rozpoznaním tváre tento viacvrstvový biometrický prístup vytvára robustnú obranu proti teroristom, ktorí sa pokúšajú vstúpiť do krajín, kde používajú podvodné dokumenty alebo ukradnuté identity.

Vyšetrovacie a forenzné aplikácie

Biometrické systémy by mohli identifikovať známych teroristov alebo podozrivých teroristov pomocou biometrického rozpoznania tváre alebo metódy FaceCheck, keď je k dispozícii fotografia podozrivého teroristu, a to je vyhľadávaný proti zoznamu sledovaných údajov alebo databáze šablón podozrivých teroristov. Táto schopnosť sa ukázala neoceniteľná pri vyšetrovaní po zabití, kde bezpečnostné agentúry analyzujú záznamy z dohľadu na identifikáciu páchateľov a ich spoločníkov.

Účinnosť presadzovania práva urýchľuje identifikáciu podozrivých a riešenie prípadov prostredníctvom automatizovaného priraďovania sa k existujúcim záznamom. Namiesto manuálneho prezerania hodín záznamu a porovnávania tvárí očami môžu vyšetrovatelia použiť rozpoznávanie tváre na rýchle vyhľadávanie prostredníctvom rozsiahlych archívov videa z dohľadu, identifikáciu podozrivých a sledovanie ich pohybu na viacerých miestach a časových úsekoch.

Americká armáda tiež uznala strategickú hodnotu rozpoznania tváre v protiteroristických operáciách. Americké velenie špeciálnych operácií (USSOCOM) kladie základy pre významné rozšírenie svojej identity inteligencie a možností využívania, načrtáva širokú a technicky ambicióznu víziu, ako špeciálne operačné sily zhromažďujú, analyzujú a využívajú údaje súvisiace s identitou počas misií, hľadajúc pohľad do piatich primárnych technologických oblastí: rozpoznávanie tváre, identifikácia hovorcov a hlasové zladenie, plne integrovaný ekosystém využitia SOF Site, rýchla analýza DNA a AI a analýza strojov a zariadení.

Prevádzkové výhody v oblasti predchádzania terorizmu

Rýchlosť a stupnica identifikácie

Jednou z najvýznamnejších výhod technológie rozpoznávania tvárí v boji proti terorizmu je jej schopnosť spracovávať a analyzovať tváre rýchlosťou, ktorá ďaleko prevyšuje ľudské schopnosti. Nová technológia dala štátu novú moc automatizovať identifikáciu predtým známych teroristov, ktorí organizujú útoky na občanov, ktorých má štát chrániť, a moc, aby to dokázal, ak to bude fungovať efektívne, by pomohla v boji proti terorizmu, pretože technológie na rozpoznávanie tvárí sľubujú, že poskytnú štátu presne túto moc.

Tradičné metódy identifikácie podozrivých sa silne spoliehali na ľudskú pamäť a ručné porovnávanie fotografií, procesov, ktoré boli časovo náročné a náchylné k chybe. Bezpečnostný dôstojník, ktorý monitoruje preplnené letisko, mohol aktívne sledovať len obmedzený počet ľudí naraz a dokonca aj najskúsenejší personál mohol vynechať podozrivého v mori tvárí. Systémy rozpoznávania tváre, naopak, môžu súčasne sledovať stovky alebo tisíce tvárí, porovnávať každý s rozsiahlymi databázami v reálnom čase.

Táto schopnosť je mimoriadne dôležitá v časovo citlivých situáciách, kde sa počíta každá druhá. Keď spravodajské agentúry dostanú informácie o bezprostrednej hrozbe, systémy rozpoznávania tváre sa môžu rýchlo zaviesť na skenovanie sietí dohľadu v rámci celých miest, potenciálne lokalizovať podozrivých v priebehu niekoľkých minút, a nie hodín alebo dní.

Posilnené možnosti dohľadu

Prostredníctvom biometrického rozpoznania, hĺbkového algoritmu učenia a analýzy veľkých dát sa zlepšuje presnosť a efektívnosť práce inteligencie a tradičné monitorovacie práce sa stávajú výhľadovým a defenzívnym bojom. Rozpoznávanie tváre premieňa dohľad z reaktívneho nástroja používaného predovšetkým na postintidentské vyšetrovanie na proaktívny systém schopný predchádzať útokom pred ich výskytom.

Technológia umožňuje bezpečnostným agentúram vytvárať komplexné siete kamier, ktoré fungujú skôr ako integrovaný systém ako izolované pozorovacie body. Keď je osoba, ktorá má záujem, detekovaná na jednom mieste, systém môže sledovať pohyby po celej sieti, poskytovať bezpečnostný personál s v reálnom čase spravodajské informácie o ich činnosti a združenia. Táto schopnosť je neoceniteľná pre pochopenie teroristických sietí a identifikáciu predtým neznámych členov extrémistických organizácií.

Okrem toho systémy rozpoznávania tváre môžu fungovať nepretržite bez obmedzenia ľudskej pozornosti a únavy. Zatiaľ čo ľudskí operátori môžu chýbať kritické detaily počas dlhých zmien alebo období nízkej aktivity, automatizované systémy zachovávajú dôslednú bdelosť a zabezpečujú, aby nedošlo k povšimnutiu žiadnej potenciálnej hrozby.

Účinok odstrašenia

Prítomnosť systémov rozpoznávania tvárí môže slúžiť ako silný odstrašujúci prostriedok proti teroristickým činnostiam. Keď potenciálni útočníci vedia, že ich tváre budú zachytené a analyzované sofistikovanými biometrickými systémami, čelia podstatne vyšším rizikám identifikácie a obáv. Toto povedomie môže narušiť proces plánovania, prinútiť teroristov, aby prijali menej účinné taktiky alebo aby úplne odradili od útokov.

Odradzujúci účinok presahuje bezprostrednú hrozbu identifikácie. Systémy rozpoznania tváre vytvárajú trvalý digitálny záznam, ktorý možno analyzovať dlho po incidente. To znamená, že aj keď teroristi dokážu zabrániť okamžitému odhaleniu, zanechajú za sebou dôkazy, ktoré môžu byť použité na ich identifikáciu neskôr, sledovať ich pohyby a odhaliť ich siete. Táto dlhodobá zodpovednosť zvyšuje ďalšiu vrstvu rizika, ktoré teroristi musia brať do úvahy pri plánovaní operácií.

Optimalizácia zdrojov

Technológia na rozpoznávanie tváre umožňuje bezpečnostným agentúram optimalizovať svoje obmedzené zdroje automatizáciou bežných identifikačných úloh a zameraním sa na ľudské znalosti tam, kde je to najviac potrebné. Namiesto toho, aby personál ručne monitorovali kanály sledovania alebo kontrolovali dokumenty na hraničných priechodoch, agentúry môžu nasadiť systémy na rozpoznávanie tváre, aby zvládli tieto úlohy, zatiaľ čo ľudskí prevádzkovatelia sa zameriavajú na vyšetrovanie varovaní, vedenie rozhovorov a prijímanie kritických rozhodnutí.

Táto optimalizácia je obzvlášť dôležitá vzhľadom na rozsah moderných bezpečnostných výziev. S miliónmi cestujúcich, ktorí denne prechádzajú letiskami a nespočetnými hodinami sledovania naprieč mestskými oblasťami, by nebolo možné ručne preskúmať všetky tieto informácie. Rozpoznavacie systémy môžu spracovávať toto obrovské množstvo údajov automaticky, pričom sa zobrazí len malá časť, ktorá vyžaduje ľudskú pozornosť.

Kritické výzvy a technické obmedzenia

Presnosť a falošné pozitívne výsledky

Napriek výraznému pokroku v technológii rozpoznávania tvárí zostáva presnosť aj naďalej kritickým problémom, najmä v protiteroristických aplikáciách, kde môžu byť následky chýb vážne. Metóda rozpoznávania tváre bola identifikovaná s technologickými nedostatkami a slabosťami, ale môže sa použiť operatívne na minimalizáciu jej nedostatkov. Pochopenie týchto obmedzení je nevyhnutné pre zodpovednú a účinnú realizáciu technológie.

Hoci ľudia vo všeobecnosti dokážu celkom dobre vykonávať procesy rozpoznávania tváre, tieto činnosti sú stále veľmi náročné pre technologické systémy, pretože ak fotografia nie je zachytená za veľmi kontrolovaných podmienok, systém môže mať ťažkosti s identifikáciou jednotlivca alebo dokonca s detekciou jeho tváre na fotografii a systém funguje najlepšie, keď sú environmentálne faktory ako uhol kamery, osvetlenie, výraz tváre a iné kontrolované v maximálnej možnej miere.

Falošné pozitíva

NIST nedávno spustil rozsiahly test zameraný na identifikáciu predsudkov v FRT, s osobitným dôrazom na falošne pozitívnu rýchlosť , tj, frekvencia, s akou algoritmus nesprávne identifikuje obraz jednej osoby, a výsledky ukázali, že "krížové demografické údaje, falošné pozitívne miery sa často líšia podľa faktorov 10 až viac ako 100 krát," v závislosti od toho, ktoré algoritmy sú v prevádzke. Tieto rozdiely v chybovosti v rôznych systémoch zdôrazňujú dôležitosť dôsledného testovania a validácie pred zavedením technológie rozpoznávanie tváre vo vysoko prijímaných bezpečnostných aplikáciách.

Demografické prejavy a algoritmus

Jednou z najvážnejších výziev, ktorým čelí technológia rozpoznávania tvárí je demografický sklon k tomu, aby systémy fungovali menej presne na určitých demografických skupinách. Tri komerčne uvoľnené programy analýzy tvárí od hlavných technologických spoločností demonštrujú kožné a rodové predsudky a pri pokusoch výskumníkov, miera chybovosti troch programov pri určovaní pohlavia mužov s ľahkou pokožkou nikdy nebola horšia ako 0,8 percenta, ale u žien s tmavšou pokožkou, avšak chybovosť ↑ na viac ako 20 percent v jednom prípade a viac ako 34 percent v ostatných dvoch prípadoch.

Podľa štúdie z roku 2018 s názvom "Gender Shades" od Joy Buolamwini a Timnit Gebru, ktorú uverejnili MIT Media Lab, je miera chybovosti v porovnaní s 34,7% u žien s tmavšou pokožkou 0,8%. Táto dramatická rozdielnosť v miere presnosti vyvoláva vážne obavy o spravodlivosť a rovnaké zaobchádzanie podľa zákona, keď sa uznanie tváre používa v bezpečnostných a právnych podmienkach.

Koža tón významne ovplyvňuje presnosť overovania, s ľahšími tónmi pokožky neustále prekoná stredne tmavé tóny. Výskum tiež zistil, že mužské subjekty všeobecne dosiahli lepšiu presnosť rozpoznávania ako ženy, pripisované faktory, ako je oklúzia spôsobené dlhšími vlasmi a zmeny vzhľadu tváre kvôli make-up.

V auguste 2023 čierna žena žalovala Detroit policajné oddelenie potom, čo bol zatknutý policajnými dôstojníkmi s použitím zle kalibrovaného softvéru na rozpoznávanie tváre, a tento problém je rozšírený v softvéri na rozpoznávanie tváre, ktorý má tendenciu vytvárať vyššiu mieru falošne pozitívnych pre nebielych ľudí. Takéto incidenty ukazujú reálne dôsledky algoritmických predsudkov a podčiarkujú naliehavú potrebu spravodlivejších systémov na rozpoznávanie tváre.

Štúdia NIST navyše zistila skreslené výsledky, keď prišlo na východoázijské, domorodé americkej, americkej indickej, aljašskej a tichomorskej Islanders čelí. Rozšírenosť týchto predsudkov v rámci viacerých demografických skupín naznačuje, že problém je systémový skôr než izolovaný na špecifické populácie alebo algoritmy.

Koreňové príčiny biasu

Technológia na rozpoznávanie tvárí urobila veľké pokroky v presnosti vďaka modelom pokročilej umelej inteligencie (AI) vyškoleným na masívne súbory obrazov tváre, ale tieto súbory údajov často nemajú rozmanitosť, pokiaľ ide o rasu, etnickú príslušnosť, pohlavie a iné demografické kategórie, čo spôsobuje, že systémy na rozpoznávanie tvárí sa v porovnaní so skupinami všadeprítomnými v údajoch o odbornej príprave zhoršujú.

Problém predsudkov pochádza z viacerých zdrojov. Historické súbory údajov používané na trénovanie algoritmov rozpoznávania tváre mali prevažne tváre bielych mužov, odrážajúc demografiu výskumníkov a inštitúcií, ktoré ich vytvorili. Keď sa algoritmy naučia rozpoznať tváre predovšetkým z tohto obmedzeného súboru údajov, prirodzene sa lepšie prejavujú na podobných tvárach a zápasia s tvárami, ktoré sa výrazne líšia od ich údajov o tréningu.

Mnohé pripisujú väčšinu týchto problémov nevyváženým súborom údajov. Problém však presahuje jednoduché znázornenie. Aj keď súbory údajov obsahujú rôzne tváre, iné faktory, ako sú svetelné podmienky, kvalita fotoaparátu a rozlíšenie obrazu, môžu neprimerane ovplyvniť kvalitu obrazov pre ľudí s tmavšími odtieňmi kože, ďalšie problémy s zlúčením presnosti.

Úsilie o minitovanie Bias

Výskumníci a technologické spoločnosti uznali závažnosť problému predsudkov a aktívne pracujú na riešeniach. V roku 2018 spoločnosť Microsoft oznámila, že ich komerčne dostupné FRT prešla aktualizáciami na zlepšenie výkonnosti v rámci rasových a rodových kategórií rozšírením súborov údajov používaných na školenie algoritmov strojového učenia a zlepšením klasifikátora tváre pre väčšiu presnosť a výsledkom týchto zlepšení je podľa spoločnosti 20-krát nižšia chybovosť za tmavšie kožné tóny a 9-krát nižšia chybovosť u žien.

Výskumníci predtrénovali tri modely rozpoznávanie tvárí , ArcFace, AdaFace a ElasticFace , na veľké, vyvážené syntetické súbory údajov , ktoré vytvorili , a výsledok nielen posilnil celkovú presnosť v porovnaní s modelmi vyškolenými na existujúce nevyvážené súbory údajov , ale aj výrazne znížil demografické predsudky , pričom cvičené modely preukázali spravodlivejšiu presnosť vo všetkých rasových skupinách v porovnaní s existujúcimi modelmi vykazujúci slabé výkony na menej zastúpených menšinách.

V súbore údajov FairFace sa presnosť zlepšila z 92,58% na 96,47%, zatiaľ čo stupeň Bias (DoB) sa znížil z 3,86 na 1,16, čo predstavuje zníženie o približne 70%, a najmä sa zaznamenali výrazné zisky v oblasti výkonnosti v prípade nedostatočne zastúpených skupín, ako napríklad zlepšenie presnosti u žien čiernej pleti z 80,2% na 90,86%, pričom sa zachoval silný výkon v prípade skupín, ktoré už boli dobre zastúpené.

Debiasing adversarial sieť (DebFace), používa imidž-to-feature enkodér, štyri atribúty triedič, distribučný triedič, a sieť agregácie funkcií, a štyri triedni chápatelia, vek, rasa, a identita

Ochrana súkromia a občianske slobody

Masový dohľad a práva na súkromie

Väčšina všetkého, čo je mocné, má temnú stránku a FRT nie je výnimkou, pretože vyvoláva vážne otázky a obavy týkajúce sa súkromia, etiky a celkového spoločenského vplyvu. Nasadenie technológie rozpoznávania tvárí na účely boja proti terorizmu vyvolalo intenzívnu diskusiu o rovnováhe medzi bezpečnosťou a súkromím, pričom kritici tvrdia, že rozšírený dohľad ohrozuje základné občianske slobody.

Právne, etické a súkromné výzvy v súvislosti s masovým dohľadom zahŕňajú obavy o nesprávnu identifikáciu, podvody a predpojatosť v databáze. Schopnosť sledovať pohyby jednotlivcov naprieč verejnými priestormi bez ich vedomia alebo súhlasu vyvoláva hlboké otázky o povahe súkromia v modernej spoločnosti a o vhodných obmedzeniach vládnych dozorných právomocí.

Kritici poukazujú na významné riziká ochrany súkromia a možné porušenia občianskych slobôd, vyvoláva obavy o neoprávnené zhromažďovanie údajov, nedostatok súhlasu, a potenciál pre funkciu prekríženia, cez ktoré sa údaje zhromaždené na jeden účel používa na nesúvisiaci účel bez vedomia alebo súhlasu jednotlivca. Obava je, že systémy pôvodne nasadené na boj proti terorizmu by sa mohli postupne rozšíriť na monitorovanie bežných občanov zapojených do zákonných činností, vytvorenie štátu dohľadu, ktorý chills voľný výraz a asociácie.

Dôvodom takéhoto zákazu je, že FRT trpia všadeprítomnými predsudkami, ktoré vedú k tomu, že sa medzi skupinami nerovnako rozdeľujú výhody a škody, štát tieto technológie nevyhnutne využije na nezákonné účely a že existencia FRT schladí naše správanie (t. j. spôsobí, že sa ľudia budú cenzurovať zo strachu z dohľadu). Tento mrazivý účinok by mohol narušiť demokratickú účasť tým, že ľudí odradí od účasti na protestoch, politických zhromaždeniach alebo iných verejných zhromaždeniach, kde by mohli byť identifikovaní a sledovaní.

Regulačné reakcie a zákazy

V roku 2019 sa San Francisco stalo prvým mestom USA, ktoré zakázalo technológiu rozpoznávania tvárí (FRT), konkrétne vetovaním jej používania políciou a inými agentúrami, a odvtedy niekoľko ďalších amerických miest zaviedlo svoje vlastné podobné zákazy FRT, pričom členovia mestskej rady Bostonu jasne zdôraznili jednu konkrétnu otázku: predpojatosť technológie. Tieto zákazy odrážajú rastúce obavy verejnosti o potenciál tejto technológie zneužívať a jej demonštrované problémy s presnosťou a spravodlivosťou.

Viac ako tucet veľkých miest zakázalo technológiu, vrátane Minneapolis, Boston a San Francisco. Tieto miestne zákazy však nebránili federálnym agentúram a mnohým iným jurisdikciám v tom, aby pokračovali v rozmiestňovaní rozpoznávania tvárí na bezpečnostné účely, čím sa vytvára rôznorodosť predpisov, ktoré sa výrazne líšia podľa miesta.

Európska únia zaujala komplexnejší prístup, pričom v kontexte pokojných protestov sa využíva technológia na rozpoznávanie tvárí, čím sa zvyšuje riziko masového dohľadu a dôsledky na ochranu ľudských práv. Európske regulačné orgány navrhli prísne obmedzenia používania rozpoznávania tvárí na verejných priestranstvách, pričom niektoré obhajujú úplné zákazy s výnimkou úzko vymedzených okolností, ktoré zahŕňajú závažné trestné činy alebo bezprostredné hrozby.

Vyrovnávanie bezpečnosti a slobody

Je prvoradé, že ak štát môže túto technológiu využiť na zvýšenie svojej moci na boj proti terorizmu, táto moc je obmedzená tak, aby k zneužívaniu a chladenému správaniu nedošlo a štát musí vytvoriť inštitucionálne obmedzenia, ktoré umožnia používať FRT len na miestach, kde ľudia nemajú (a nemali by) mať primerané očakávania súkromia (napr. letiská, hraničné priechody).

Kamery vybavené FRT musia byť označené, aby sa verejnosť uistila, že nie sú pod dohľadom na miestach, kde by mali mať primerané očakávania súkromia, a FRT by sa mali obmedziť na nájdenie závažných zločincov (napr. teroristov). Tieto navrhované obmedzenia predstavujú pokus o zachovanie bezpečnostných výhod rozpoznávania tváre a zároveň obmedziť jej potenciál na zneužívanie a ochranu občianskych slobôd.

FRT predstavuje silný nástroj v protiteroristickom arzenále, ktorý umožňuje bezpečnostné opatrenia, ktoré boli predtým nedosiahnuteľné, ale je to technológia, ktorá si vyžaduje mimoriadne rozumnú rovnováhu medzi jej jasnými prínosmi a dôležitými etickými aspektmi, s ktorými je spojená, a v súčasnosti by sa mohlo stať, že rovnováha je príliš ďaleko v prospech jasných prínosov FRT a nie dosť v prospech spravodlivosti, súkromia a etickej integrity, ktoré by mali byť základom jej zavádzania.

Právne a etické rámce

Úvahy o ústave a ľudských právach

Programy FRT používané orgánmi presadzovania práva pri identifikácii podozrivých z trestnej činnosti sú podstatne viac náchylné na chyby na tvárových snímkach zobrazujúcich tmavšie kožné tóny a ženy v porovnaní s tvárovými obrazmi zobrazujúcimi belochov a táto zaujatosť môže viesť k tomu, že občania budú neoprávnene vyšetrovaní políciou podľa rasových a rodových línií, pričom presadzovanie práva sa týka zaujatých FRT, ktoré je v rozpore s klasickou liberálnou požiadavkou, že vláda zaobchádza so všetkými občanmi rovnako pred zákonom.

V článku o rovnakej ochrane mnohých ústav si vyžaduje, aby vládne opatrenia nediskriminovali na základe rasy, pohlavia alebo iných chránených vlastností. Ak systémy rozpoznávania tvárí preukážu systematickú zaujatosť voči určitým demografickým skupinám, ich použitie vládnymi agentúrami môže porušovať tieto ústavné ochrany. To vytvára právnu dilemu: zatiaľ čo technológia môže zvýšiť bezpečnosť, jej zaujaté správanie by mohlo spôsobiť, že jej použitie by bolo protiústavné alebo by bolo v rozpore s právom ľudských práv.

Počítačoví vedci vyjadrili obavy z využívania FRT na účely presadzovania práva na identifikáciu podozrivých z trestnej činnosti, pričom uviedli, že je veľmi pravdepodobné, že takýto softvér sa používa na identifikáciu podozrivých, a teda chyba vo výstupe algoritmu na rozpoznávanie tváre, ktorý sa používa ako vstup na iné úlohy, môže mať vážne následky, pretože niekto môže byť neoprávnene obvinený z trestného činu založeného na chybnej, ale istej nesprávnej identifikácii páchateľa z analýzy bezpečnostných videozáznamov.

Transparentnosť a zodpovednosť

Odporúča silnú reguláciu, medzinárodnú spoluprácu a transparentné riadenie s cieľom zabezpečiť, aby bolo používanie technológie na rozpoznávanie tvárí umelej inteligencie zlučiteľné s ľudskými právami a základnými slobodami. Transparentnosť v súvislosti s fungovaním systémov na rozpoznávanie tvárí, ich miera presnosti a ich obmedzenia sú nevyhnutné pre dôveru verejnosti a demokratickú zodpovednosť.

Stanoviť právne predpisy, ktoré sú jasné a komplexné v súvislosti s používaním technológie na rozpoznávanie tváre, zosúladiť globálne normy s vnútroštátnymi rámcami s cieľom zabezpečiť konzistentnosť a poveriť pravidelné audity systémov FRT, aby sa zabezpečil súlad s etickými usmerneniami. Pravidelný audit môže pomôcť identifikovať problémy s presnosťou alebo zaujatosťou predtým, ako vedú k vážnym škodám, zatiaľ čo jasné právne rámce poskytujú bezpečnostné agentúry usmernenia o vhodnom používaní technológie.

Riziká by nemali viesť k moratóriám na používanie MH alebo k zákazu používania určitých platforiem, ale skôr by mali byť vyzývané na konanie, aby vlády požadovali lepšiu koncepciu svojich nástrojov MH/ML, čo znamená získanie lepších údajov a vytvorenie namáhavých testovacích režimov, ktoré čo najviac obmedzujú riziko a odhaľujú nedostatky, a spôsob, ako to pomôcť, je presadzovanie vysvetľujúcich noriem MH a politík transparentnosti, ktoré vládam poskytujú prehľad o dôvodoch každého opatrenia, ktoré systém prijíma.

Ochrana a uchovávanie údajov

Štát by nemal používať tretie strany spoločnosti, ktoré porušujú prvé tri podmienky počas vytvárania alebo využívania jeho služby, a tretie strany by nemali mať možnosť prístupu k citlivým údajom, ktoré štát zozbieral, ani ich čítať. Biometrické údaje zhromaždené systémami rozpoznávania tváre sú veľmi citlivé a osobné, vyžadujúce si spoľahlivé ochranu pred neoprávneným prístupom, zneužitím alebo porušením údajov.

Otázky týkajúce sa uchovávania údajov sú obzvlášť dôležité. Ako dlho by sa mali uchovávať údaje o rozpoznávaní tváre? Kto by mal mať k nim prístup? Za akých okolností sa o ne môžu podeliť s inými agentúrami alebo krajinami? Tieto otázky chýbajú v mnohých jurisdikciách jasné odpovede, čo vytvára neistotu o dlhodobých dôsledkoch rozmiestnenia rozpoznávania tváre.

Riziko porušenia údajov je tiež významné. Databáza obsahujúca údaje o rozpoznávaní tváre pre milióny ľudí by bola atraktívnym cieľom pre hackerov, zahraničné spravodajské služby alebo zločinecké organizácie. Ak by boli takéto údaje ohrozené, mohli by sa použiť na krádež identity, sledovanie alebo iné škodlivé účely, s dôsledkami, ktoré by mohli pretrvávať celé roky alebo desaťročia.

Medzinárodné perspektívy a zavádzanie

Celosvetové vzory adopcie

Presadzovanie práva: Uznanie tváre sa v súčasnosti považuje za najrozšírenejšie všeobecne prijatú technológiu sledovania ľudských inteligencií na celom svete, pričom miera adopcie je 64%, pričom prekračuje platformy inteligentných miest a iniciatívy inteligentnej polície.

Krajiny čelia rôznym bezpečnostným hrozbám a majú rôzne kultúrne postoje k súkromiu a dohľadu, čo vedie k významným rozdielom v tom, ako sa rozmiestňuje rozpoznávanie tvárí. Niektoré krajiny s nadšením prijali technológiu, rozmiestňujú ju vo veľkom rozsahu vo verejných priestoroch s minimálnymi obmedzeniami. Iní zaujali opatrnejší prístup, obmedzujúc jej používanie na špecifické vysoko bezpečné súvislosti alebo ukladajú prísne požiadavky na dohľad.

Furl et al. (2002) zistil, že FRT vyvinuté a používané v západných krajinách boli presnejšie pre kaukazské tváre, zatiaľ čo vo východoázijských krajinách boli algoritmy FRT presnejšie pre východoázijské tváre. Toto zistenie zdôrazňuje dôležitosť rozvoja systémov rozpoznávania tváre, ktoré sú vyškolené na rôzne súbory údajov reprezentujúce populácie, kde sa budú rozmiestňovať.

Medzinárodná spolupráca a normy

Terorizmus je nadnárodná hrozba, ktorá si vyžaduje medzinárodnú spoluprácu v záujme účinného boja. Technológia na uznávanie tváre môže uľahčiť túto spoluprácu tým, že umožní krajinám vymieňať si informácie o známych alebo podozrivých teroristoch a koordinovať ich úsilie v oblasti dohľadu. Tento medzinárodný rozmer však vyvoláva aj zložité otázky týkajúce sa zdieľania údajov, ochrany súkromia a ľudských práv.

V rôznych krajinách existujú rôzne právne normy ochrany súkromia, uchovávania údajov a riadneho procesu. Ak sa údaje o rozpoznávaní tváre vymieňajú cez hranice, môžu byť predmetom menej prísnych noriem ochrany v prijímajúcej krajine ako v krajine, v ktorej boli zhromaždené. To vytvára riziko, že údaje zhromaždené za prísnych ochrany súkromia by mohli zahraničné vlády zneužívať so slabšími zárukami.

Medzinárodné organizácie ako Interpol vyvinuli systémy na uľahčenie cezhraničného používania rozpoznávania tvárí na boj proti terorizmu. Tieto systémy musia prechádzať zložitým právnym a politickým terénom, vyvažovať bezpečnostné výhody zdieľania informácií proti obavám o súkromie, ľudské práva a národnú suverenitu. Vyvíjanie medzinárodných noriem a dohôd o zodpovednom používaní rozpoznávania tvárí v boji proti terorizmu zostáva pretrvávajúcou výzvou.

Vnímanie a dôvera verejnosti

Faktory ovplyvňujúce akceptáciu verejnosťou

Advokáti FRT zdôrazňujú svoj potenciál v oblasti verejnej bezpečnosti, predchádzania trestnej činnosti a boja proti terorizmu, pričom poznamenávajú, že FRT umožňuje orgánom a organizáciám presadzovania práva identifikovať podozrivých a predchádzať neoprávnenému prístupu do chránených oblastí a priestorov, kde sú prítomné cenné aktíva alebo zraniteľné skupiny obyvateľstva. Verejná podpora rozpoznania tváre často závisí od špecifického kontextu, v ktorom sa používa, s vyšším akceptovaním bezpečnostných aplikácií vo vysoko rizikových prostrediach, ako sú letiská.

Dôvera v inštitúcie nasadenie rozpoznávanie tvárí je rozhodujúcim faktorom pri akceptácii verejnosti. Keď ľudia dôverujú, že bezpečnostné agentúry budú používať technológiu zodpovedne a s príslušným dohľadom, sú viac pravdepodobné, že prijme jeho rozmiestnenie. Naopak, keď dôvera je nízka a vzhľadom na minulé zneužívanie, nedostatok transparentnosti, alebo obavy o zaujatosť verejného odporu má tendenciu byť silnejší.

Úspešné a rozšírené prijatie FRT závisí nielen od jeho rýchlosti a presnosti, ale aj od dôvery verejnosti k algoritmom, ktoré poháňajú zariadenia na rozpoznávanie tvárí, a táto dôvera sa bude ťažko budovať, zatiaľ čo príklady rasovej zaujatosti a falošne pozitívnych výsledkov naďalej zatienia každoročné zlepšenia celkovej presnosti a funkčnosti softvéru.

Budovanie dôvery verejnosti

Podpora zapojenia verejnosti do riešenia obáv a budovania dôvery. Významná angažovanosť verejnosti si vyžaduje viac ako len informovanie ľudí o rozmiestnení rozpoznávania tváre; znamená vytvorenie príležitostí na skutočný dialóg o výhodách, rizikách a primeraných limitoch technológie.

Transparentnosť výkonnosti systému je nevyhnutná pre budovanie dôvery. Bezpečnostné agentúry by mali verejne hlásiť mieru presnosti vrátane rozpisov podľa demografickej skupiny, falošne pozitívnych sadzieb a informácií o tom, ako sa technológia používa a ako sa na ňu dohliada. Táto transparentnosť umožňuje verejnosti robiť informované rozhodnutia o tom, či bezpečnostné výhody odôvodňujú náklady na súkromie a či sa technológia používa spravodlivo.

Preukázanie zodpovednosti, keď sa vyskytnú problémy, je tiež rozhodujúce. Ak systémy rozpoznávania tvárí vedú k neoprávnenému zadržaniu alebo iným škodám, agentúry musia uznať tieto zlyhania, odškodniť obete a podniknúť konkrétne kroky na zabránenie opakovaniu. Vzor popierania problémov alebo odkláňania zodpovednosti naruší dôveru verejnosti a podnecuje odpor voči technológii.

Budúci vývoj a vznikajúce technológie

Pokrok v presnosti a schopnosti

V posledných rokoch, s pokročilou architektúrou a zvýšením počtu vrstiev a parametrov, modely FR získali výrazné zlepšenie v schopnosti učiť sa komplexné reprezentácie tváre a tieto hlbšie architektúry, ktoré často zahŕňajú viac ako sto vrstiev s miliónmi parametrov, výrazne zlepšili schopnosť FR systémov zovšeobecňovať v náročných scenároch, čo viedlo k vyššej celkovej výkonnosti uznávania (ako aj k zníženej zaujatosti), a navyše dostupnosť väčších, rozmanitejších súborov údajov prispela k lepším výsledkom vzdelávania, keďže tieto súbory údajov, ktoré zahŕňajú podstatné rozdiely v demografii a kovariáty, ako sú napríklad póza, osvetlenie a výraz (PIE), uľahčili merateľný pokrok pri zlepšovaní presnosti a spravodlivosti FR.

Budúce systémy rozpoznávania tváre budú pravdepodobne zahŕňať viaceré biometrické metódy, ktoré kombinujú rozpoznávanie tváre so skenovaním dúhovky, analýzou chôdze, rozpoznávaním hlasu a inými technikami. Tento multimodálny prístup môže zlepšiť presnosť krížovým odkazovaním na viaceré biometrické podpisy, čím sa zníži vplyv chýb v každom jednom systéme.

Pokroky v umelej inteligencii, najmä v oblasti hlbokého učenia a neurálnych sietí, pokračujú v posúvaní hraníc toho, čo môžu systémy rozpoznávania tváre dosiahnuť. Tieto systémy sa stávajú lepšími pri rozpoznávaní tvárí v náročných podmienkach, ako je zlé osvetlenie, čiastočné oklúzie alebo extrémne uhly. Tiež sa stávajú rýchlejšími, čo umožňuje analýzu video prúdov s vysokým rozlíšením v reálnom čase z viacerých kamier súčasne.

Integrácia s inými spravodajskými systémami

Budúcnosť rozpoznania tvárí v boji proti terorizmu spočíva nielen v zlepšení samotnej technológie, ale aj v jej integrácii s inými inteligentnými a bezpečnostnými systémami. Keď je rozpoznávanie tvárí kombinované s analýzou správania, mapovaním sociálnych sietí, monitorovaním komunikácie a inými zdrojmi informácií, stáva sa súčasťou komplexného systému na detekciu hrozieb, ktorý je väčší ako súčet jeho častí.

Napríklad rozpoznávanie tváre by mohlo identifikovať osobu, ktorá je na letisku zaujímavá, čo by vyvolalo ďalšiu kontrolu ich cestovných modelov, finančných transakcií, komunikácie a známych spoločníkov. Tento integrovaný prístup umožňuje bezpečnostným agentúram vytvoriť si ucelenejší obraz o potenciálnych hrozbách a robiť viac informovanejších rozhodnutí o tom, ako reagovať.

Táto integrácia však tiež zvyšuje obavy o súkromie. Systém, ktorý kombinuje rozpoznávanie tváre s rozsiahlymi údajmi z iných zdrojov vytvára bezprecedentné možnosti dohľadu, ktoré by sa mohli použiť na monitorovanie prakticky všetkých aspektov života ľudí. Zabezpečenie toho, aby sa takéto výkonné systémy používali len na legitímne bezpečnostné účely a s primeraným dohľadom bude pre tvorcov politiky rozhodujúcou výzvou.

Vznikajúce protiopatrenia a preteky so zbraňami

Ako sa technológia rozpoznávanie tváre stáva čoraz rozšírenejšou v boji proti terorizmu, protivníci vyvíjajú protiopatrenia na zabránenie odhaleniu. Tieto techniky siahajú od jednoduchých techník, ako je nosenie masiek alebo slnečných okuliarov až po sofistikovanejšie prístupy, ako sú protivnícke make-upové vzory, ktoré sú určené na zmätie algoritmov rozpoznávania tváre alebo používanie technológie deepfalkake na vytvorenie falošných identít.

To vytvára pokračujúce technologické preteky v zbrojení, pričom bezpečnostné agentúry pracujú na zlepšení systémov rozpoznávania tvárí, zatiaľ čo teroristi a iní protivníci vyvíjajú nové spôsoby, ako ich poraziť. Účinnosť rozpoznania tvárí v boji proti terorizmu bude závisieť nielen od vlastných schopností technológie, ale aj od toho, ako dobre sa dokáže prispôsobiť vyvíjajúcim sa metódam vyhýbania sa daňovým povinnostiam.

Niektorí výskumníci skúmajú spôsoby, ako urobiť systémy rozpoznávanie tváre robustnejšími proti opatreniam, ako je použitie infračerveného zobrazovania na detekciu tvárí, aj keď sú čiastočne pokryté, alebo analyzovať chôdzu a reč tela okrem tvárových funkcií. Iní vyvíjajú systémy detekcie živosti, ktoré dokážu rozlíšiť skutočné tváre a fotografie, masky alebo video displeje, zabraňujúce tlmeniu útokov.

Osvedčené postupy a odporúčania

Technické normy a skúšky

Prebiehajúce testy na predaj predajcu na tvár (FRVT) NIST hodnotia od roku 2017 viac ako 400 algoritmov rozpoznávania tváre, ktoré umožňujú nahliadnuť do celkového hodnotenia presnosti všetkých zúčastnených vývojárov. Rigorózne, nezávislé testovanie systémov rozpoznávania tváre pred nasadením je nevyhnutné na zabezpečenie toho, aby spĺňali minimálne štandardy presnosti a spravodlivosti.

Testovanie by malo zahŕňať hodnotenie rôznych demografických skupín s cieľom identifikovať a kvantifikovať akékoľvek odchýlky vo výkonnosti systému. Systémy, ktoré preukazujú neprijateľné úrovne zaujatosti, by sa nemali používať, kým sa tieto problémy neopravia. Testovanie by malo tiež hodnotiť výkonnosť za realistických prevádzkových podmienok, nielen v kontrolovaných laboratórnych prostrediach.

Priebežné monitorovanie a hodnotenie po nasadení je rovnako dôležité. Výkonnosť systému sa môže časom zhoršovať, pretože algoritmy starnú alebo keď sa populácia monitoruje zmeny. Pravidelné audity môžu identifikovať vznikajúce problémy a zabezpečiť, aby systémy naďalej spĺňali výkonnostné normy počas celej ich prevádzkovej životnosti.

Prevádzkové usmernenia

Bezpečnostné agentúry, ktoré rozmiestňujú rozpoznávanie tváre na boj proti terorizmu, by mali stanoviť jasné operačné usmernenia, ktoré určia, kedy a ako možno technológiu použiť. Tieto usmernenia by sa mali zaoberať otázkami, ako je: Aká úroveň dôvery v zhodu je potrebná pred prijatím opatrení? Aké ďalšie overenie sa vyžaduje pred zadržaním niekoho na základe zhody s rozpoznávaním tváre? Ako by sa mal systém používať v spojení s ľudským úsudkom?

Ani ľudia, ani algoritmy sú neomylné, a podobné slabosti ľudského úsudku môže ovplyvniť použitie technológií rozpoznávania tváre, ako jednotlivci môžu dôverovať výstup algoritmu si myslí, že to musí byť "cieľ"

Prevádzkovatelia by mali byť vyškolení, aby pochopili obmedzenia systému vrátane jeho potenciálu pre zaujatosť a falošné pozitíva. Mali by byť nabádaní, aby vykonávali nezávislý úsudok a nespoliehali sa výlučne na algoritmické výstupy, najmä ak sú dôsledky chýb vážne. Jasné protokoly by mali špecifikovať, aké dodatočné vyšetrovanie alebo overenie sa vyžaduje pred prijatím opatrení na základe zhody rozpoznávania tváre.

Mechanizmy dohľadu a zodpovednosti

V záujme zabezpečenia primeraného využívania technológie na rozpoznávanie tváre a identifikácie a nápravy zneužívania by mali byť do tohto dohľadu zahrnuté vnútorné mechanizmy v rámci bezpečnostných agentúr, ako aj externý dohľad nezávislých orgánov, ako sú komisári pre ochranu osobných údajov, legislatívne výbory alebo súdne preskúmanie.

Agentúry by mali viesť podrobné záznamy o tom, ako sa používajú systémy na rozpoznávanie tváre vrátane toho, čo sa vykonáva, kto ich vykonáva a aké opatrenia sa z toho vyvodia. Tieto záznamy by mali podliehať pravidelnému auditu, aby sa zabezpečil súlad s politikami a identifikovali akékoľvek formy zneužitia.

Externé dozorné orgány by mali mať právomoc a zdroje na vykonávanie zmysluplného preskúmania programov na rozpoznávanie tváre. To zahŕňa prístup k technickým informáciám o tom, ako systémy fungujú, výkonnostné údaje a prevádzkové záznamy. Dohľad by mal mať tiež právomoc prinútiť k zmenám programov, ktoré porušujú právne alebo etické normy.

Prípadové štúdie a aplikácie v reálnom svete

Implementácia letiska a hraničnej bezpečnosti

Letiská a hraničné priechody patria medzi najranejších a najrozsiahlejších adoptívnych užívateľov technológie rozpoznávania tvárí na účely boja proti terorizmu. Tieto kontrolované prostredia ponúkajú niekoľko výhod pre rozpoznávanie tvárí: cestovatelia musia prejsť cez určené kontrolné miesta, osvetlenie a uhly fotoaparátu môžu byť optimalizované a existuje jasné bezpečnostné odôvodnenie pre overenie identity.

Mnohé krajiny zaviedli rozpoznávanie tváre na imigračných kontrolných miestach, aby sa overilo, či cestujúci súhlasia s ich fotografiami z pasov a či ich nekontrolujú proti zoznamu známych alebo podozrivých teroristov. Tieto systémy spracovávali milióny cestujúcich, pričom niektoré letiská oznámili, že rozpoznávanie tváre im umožnilo identifikovať jednotlivcov, ktorí sa pokúšajú cestovať na podvodných dokladoch alebo používať ukradnuté identity.

Technológia bola tiež nasadená na urýchlenie spracovania pre dôveryhodných cestujúcich prostredníctvom programov, ktoré umožňujú pred-screened jednotlivci používať automatizované brány, ktoré overujú ich identitu cez rozpoznávanie tváre. Toto duálne použitie

Mestské dozorné siete

Niektoré mestá nasadili rozsiahle siete kamier vybavených schopnosťami rozpoznávať tváre na monitorovanie verejných priestorov na účely bezpečnostných hrozieb. Tieto systémy môžu sledovať pohyby jednotlivcov po celom meste, potenciálne identifikovať teroristov, ktorí sledujú potenciálne ciele alebo sa stretávajú so spolukonšpirátormi.

Avšak siete mestského dozoru tiež vyvolali značné polemiky v dôsledku ich potenciálu masového dohľadu nad bežnými občanmi. Kritici tvrdia, že tieto systémy vytvárajú chladivý účinok na voľný výraz a asociáciu, pretože ľudia sa môžu vyhnúť určitým miestam alebo činnostiam, ak vedia, že sú sledovaní. Rovnováha medzi prínosmi bezpečnosti a nákladmi na súkromie je obzvlášť ťažké zasiahnuť v týchto aplikáciách.

Niektoré jurisdikcie sa pokúsili riešiť tieto obavy obmedzením používania rozpoznávania tváre vo verejných priestoroch na špecifické okolnosti, ako je vyšetrovanie závažných trestných činov alebo reakcia na bezprostredné hrozby. Iné požadovali, aby boli kamery jasne označené a aby verejnosť bola informovaná o tom, kde sa rozpoznávanie tváre rozmiestňuje. Tieto prístupy sa pokúšajú zachovať niektoré bezpečnostné výhody a zároveň obmedziť najrušnejšie aspekty masového dohľadu.

Bezpečnosť udalostí a monitorovanie davu

Veľké verejné akcie

Tieto dočasné nasadenie ponúka určité výhody v porovnaní s trvalými sieťami dohľadu. Sú časovo obmedzené a sú zamerané skôr na špecifické vysoko rizikové udalosti, než na nepretržité monitorovanie verejných priestorov. Môžu byť odôvodnené zvýšenou bezpečnostnou hrozbou spojenou s významnými udalosťami, ktoré priťahujú veľké davy a ciele vysokého profilu.

Avšak, bezpečnostné aplikácie na udalosti vyvolávajú obavy, najmä keď sa rozpoznávanie tváre používa na monitorovanie politických protestov alebo demonštrácií. Technológia by sa mohla použiť na identifikáciu a sledovanie politických aktivistov, potenciálne chladiace legitímne politické vyjadrenie. Jasné usmernenia o tom, kedy a ako možno rozpoznávanie tváre použiť na verejných podujatiach sú nevyhnutné na zabránenie zneužívaniu.

Cesta vpred: Vyváženie bezpečnosti a práv

Vypracovanie rámcov zodpovedného využívania

Budúcnosť rozpoznania tvárí v boji proti terorizmu závisí od rozvoja rámcov, ktoré umožňujú efektívne využívanie technológie na legitímne bezpečnostné účely a zároveň ochranu občianskych slobôd a zabezpečenie spravodlivosti. To si vyžaduje neustály dialóg medzi odborníkmi v oblasti bezpečnosti, technológmi, tvorcami politiky, obhajcami občianskych slobôd a verejnosťou.

Takéto rámce by mali byť založené na jasných zásadách: rozpoznávanie tváre by sa malo používať len v prípade potreby a primerané bezpečnostnej hrozbe; malo by sa využívať s primeranými zárukami proti zneužívaniu; malo by podliehať zmysluplnému dohľadu a zodpovednosti; malo by sa neustále hodnotiť a zlepšovať, aby sa riešili problémy s presnosťou a zaujatosťou.

Rôzne súvislosti si môžu vyžadovať rôzne prístupy. Používanie rozpoznávania tváre na hraničných priechodoch, kde existuje jasné bezpečnostné odôvodnenie a obmedzené očakávanie súkromia, môže byť prijateľnejšie ako jeho používanie na nepretržitý dohľad nad verejnými priestormi. Kontextové rámce môžu poskytovať viac diferencované usmernenia ako univerzálne pravidlá.

Investície do výskumu a vývoja

Nevyhnutné je pokračovať v investíciách do výskumu na zlepšenie technológie rozpoznania tváre. To zahŕňa nielen zlepšenie presnosti a rýchlosti, ale aj konkrétne riešenie problémov s predpojatosťou a spravodlivosťou. Širokospektrálne a štandardizované štúdie, ako napríklad NIST pomáha odhaliť spoločné nedostatky v FRT a ako vedci aj zamestnanci, inžinieri, ktorí vyvíjajú FRT, sú poverení zlepšením výsledkov softvéru pri rozpoznávaní snímok s tmavšími kožnými tónmi , ako aj znižovaním rodovej medzery v falošne pozitívnych sadzbách, a keď sa súbory údajov a výsledky uvádzajú do dôkladnej, minútovej analýzy, vedci majú schopnosť zlepšiť algoritmus a tým riešiť problém predpojatosti v budúcich iteráciách softvéru.

Výskum by mal tiež preskúmať alternatívne prístupy, ktoré môžu ponúknuť lepšiu ochranu súkromia pri zachovaní bezpečnostných výhod. Napríklad, systémy, ktoré analyzujú správanie obrazce alebo detekovať anomálie bez identifikácie konkrétnych jednotlivcov by mohli poskytnúť užitočné bezpečnostné informácie s menej narušenia súkromia ako tradičné rozpoznávanie tváre.

Interdisciplinárny výskum, ktorý spája počítačových vedcov, sociálnych vedcov, etikov a právnych učencov, môže pomôcť identifikovať a riešiť zložité výzvy, ktoré predstavuje technológia rozpoznávania tvárí. Pre zodpovedný vývoj a nasadenie je nevyhnutné nielen pochopenie technických schopností, ale aj sociálnych, etických a právnych dôsledkov.

Medzinárodná spolupráca a normy

Vzhľadom na nadnárodný charakter terorizmu je dôležitá medzinárodná spolupráca v oblasti noriem a postupov na uznávanie tvárí. Krajiny by mali spolupracovať na vypracovaní spoločných noriem pre presnosť, spravodlivosť a ochranu súkromia, pričom by sa mali rešpektovať rôzne právne tradície a kultúrne hodnoty.

Medzinárodné dohody by mohli stanoviť minimálne normy pre systémy na rozpoznávanie tvárí používané v boji proti terorizmu, čím by sa zabezpečilo, že údaje zdieľané cezhranične spĺňajú základné požiadavky na presnosť a spoľahlivosť. Mohli by tiež vytvoriť protokoly na zdieľanie údajov, ktoré chránia súkromie a ľudské práva, a zároveň by umožnili účinnú spoluprácu proti teroristickým hrozbám.

Medzinárodná spolupráca však musí byť vyvážená s obavami, pokiaľ ide o umožnenie autoritárskych režimov používať uznávanie tvárí na politické represie. Demokratické krajiny by mali byť opatrné pri zdieľaní technológie na rozpoznávanie tvárí alebo údajov s vládami, ktoré nemajú silnú ochranu ľudských práv a právny štát. Medzinárodné normy by mali zahŕňať záruky, ktoré zabránia používaniu technológie na nezákonné účely.

Záver: Navigácia na komplexnú krajinu

Technológia na rozpoznávanie tváre predstavuje silný nástroj v boji proti terorizmu, ktorý ponúka možnosti na identifikáciu, sledovanie a vyšetrovanie, ktoré boli nepredstaviteľné len pred niekoľkými desaťročiami. Nová technológia dala štátu novú moc automatizovať identifikáciu predtým známych teroristov, ktorí organizujú útoky na občanov, ktorých má štát chrániť, a moc na to, ak to bude fungovať efektívne, by pomohla v boji proti terorizmu.

Avšak, technológia tiež predstavuje významné výzvy týkajúce sa presnosti, predsudky, súkromia a občianskych slobôd. Tento problém je prevláda v softvéri na rozpoznávanie tvárí, ktorý má tendenciu vytvárať vyššiu mieru falošne pozitívnych pre nebielych ľudí, a na rozdiel od softvéru na rozpoznávanie tváre používaného na zatýkanie niekoho, nesprávne vyškolený CT algoritmus môže zabiť civilistov, akcia, ktorá nemôže byť odčinená. V stávke v protiteroristických aplikáciách je obzvlášť vysoká, kde chyby môžu viesť k tomu, že nevinní ľudia sú neoprávnene zadržaní alebo naopak, k nebezpečným jednotlivcom vyhýbajúcim sa odhaleniu.

Cesta vpred si vyžaduje vyváženie týchto konkurenčných úvah prostredníctvom dôkladného politického rozvoja, dôkladného dohľadu, neustáleho technického zlepšenia a prebiehajúceho verejného dialógu. Ani všeobecný zákaz, ktorý bráni akémukoľvek používaniu rozpoznávania tváre na bezpečnostné účely, ani neobmedzenému rozmiestneniu bez záruk, nepredstavuje zodpovedný prístup. Namiesto toho rámce špecifické pre kontext, ktoré umožňujú prospešné využitie a zároveň bránia zneužívaniu, ponúkajú najlepšiu nádej na realizáciu bezpečnostných výhod rozpoznávania tváre pri súčasnej ochrane základných práv.

Keďže technológia sa naďalej vyvíja a stáva sa schopnejšou, potreba premysleného riadenia sa stáva naliehavejšou. Rozhodnutia, ktoré sa dnes prijímajú o tom, ako sa rozvíja, zavádza a reguluje rozpoznávanie tvárí, budú formovať rovnováhu medzi bezpečnosťou a slobodou na nasledujúce roky. Zabezpečenie toho, aby boli tieto rozhodnutia informované dôkazmi, usmerňované etickými zásadami a podliehajúce demokratickej zodpovednosti, je nevyhnutné pre zachovanie bezpečnosti a slobody v čoraz zložitejšom prostredí ohrozenia.

Viac informácií o technológiách biometrickej bezpečnosti nájdete na [Národnom inštitúte noriem a technológií pre Face Receining Vendor Test program . Ak sa chcete dozvedieť o otázkach ochrany súkromia v technológii sledovania, preskúmajte zdroje z [Elektronickej hraničnej nadácie[. Pre medzinárodné perspektívy v oblasti regulácie rozpoznávania tváre pozri Prácu Európskeho parlamentu na nariadení o AI.