Table of Contents
Sejas atpazīšanas tehnoloģijas izpratne un tās nozīme mūsdienu drošībā
Sejas atpazīšanas tehnoloģija ir kļuvusi par vienu no vispārveidojošākajiem instrumentiem globālajā cīņā pret terorismu. Šī spēcīgā tehnoloģija ļauj ātri un precīzi identificēt indivīdus un palīdzēt novērst teroristu darbības un padarīt sabiedriskās telpas drošākas. Tā kā drošības draudi turpina attīstīties sarežģītības un mēroga ziņā, valdības un tiesībaizsardzības iestādes visā pasaulē arvien vairāk pievēršas progresīvām biometriskām sistēmām, lai aizsargātu savus pilsoņus un infrastruktūru.
Saskaņā ar Markets and Markets pētījumu, sejas atpazīšanas tirgus ir gatavs sasniegt $8,5 miljardus 2025. gadā, vairāk nekā divkāršojot no $3,8 miljardiem 2020. gadā. Šī sprādzienbīstamā izaugsme atspoguļo ne tikai tehnoloģiju paplašināšanās spējas, bet arī tās kritisko nozīmi valsts drošības sistēmās. No lidostām un robežu šķērsošanas līdz pilsētu uzraudzības tīkliem un izmeklēšanas procesiem sejas atpazīšana ir kļuvusi par neatņemamu sastāvdaļu mūsdienu pretterorisma stratēģijās.
Sejas atpazīšanas tehnoloģija savā pamatā ir sarežģītas laulības ar datorredzi, mākslīgo intelektu un biometrisko analīzi. Tehnoloģija digitalizē cilvēka sejas iezīmes matemātiskās attēlos, ko datori var apstrādāt un salīdzināt, analizējot galvenās sejas iezīmes, piemēram, attālumu starp cilvēka acīm, deguna tilta platumu, žokļa līnijas kontūrām un vaigu kaula struktūru, un pēc tam izveido unikālus biometriskos šablonus, lai pārbaudītu identitātes datubāzēs, kurās ir miljoniem seju. Šī spēja apstrādāt un saskaņot sejas nepieredzētā ātrumā un mērogā ir būtiski mainījusi to, kā drošības aģentūras piekļūst draudu atklāšanai un novēršanai.
Sejas atpazīšanas tehnoloģiju attīstība
No agrīniem pirmsākumiem līdz AI-Powered sistēmām
Tehnoloģijas iet atpakaļ uz 1960, kad puisis nosaukts Woodrow Wilson Bledsoe pirmo reizi nāca klajā ar sistēmu, lai šķirotu sejas fotogrāfijas, izmantojot īpašu tableti. Šīs agrīnās sistēmas bija rudimentary pēc šodienas standartiem, pieprasot manuālu ievadi un darbojas augsti kontrolētos apstākļos. 70-to gadu laikā daži gudri cilvēki izmantoja 21 īpašu marķieri, piemēram, matu krāsu un lūpu biezums, automatizēt sejas atpazīšanu, un 80-to gadu redzēja jaunu pieeju sauc Eigenface, kas kļuva par pamatu modernām sistēmām.
Īstais spēles mainītājs nāca 2000. gados ar sociālajiem medijiem, jo pēkšņi bija miljoniem tagged fotogrāfijas tiešsaistē, dodot šīm sistēmām masveida datu bāzi, no kuras mācīties. Šī pārpilnība mācību datu, apvienojumā ar sasniegumiem mašīnmācīšanās algoritmiem, ļāva sejas atpazīšanas sistēmas, lai sasniegtu precizitātes rādītājus, kas iepriekš nebija iedomājams. Šodien, ar MI un dziļas mācīšanās, sejas atpazīšanas sistēmas uzņēmumiem ir kļuvušas neticami precīzas un ātras.
Kā darbojas modernās sejas atpazīšanas sistēmas
Mūsdienu sejas atpazīšanas sistēmas darbojas daudzpakāpju procesā, kas notiek milisekundēs. Pirmais posms ietver sejas noteikšanu, kur sistēma identificē un atrod seju attēla vai video kadrā. Tam seko sejas izlīdzināšana, kur sistēma normalizē sejas stāvokli, izmēru un orientāciju, lai nodrošinātu konsekventu analīzi neatkarīgi no leņķa vai attāluma no kameras.
Nākamais nāk iezīme iegūšana, kur sistēma identificē un mēra atšķirīgu sejas īpašības. Šie mērījumi tiek pārvērsti matemātisko attēlojumu sauc sejas veidni vai biometrisko parakstu. Visbeidzot, sistēma veic saskaņošanu, salīdzinot šo veidni ar saglabāto veidnes datu bāzē, radot līdzības punktu skaitu, kas norāda varbūtību atbilstību.
Mūsdienu sejas atpazīšanas sistēmas uztver un analizē cilvēku attēlus vissarežģītākajos redzes un kustības apstākļos. Šī spēja ir būtiska pretterorisma lietojumiem, kur aizdomās turētās personas var tikt notvertas uz novērošanas kadriem mazāk nekā ideālos apstākļos, ieskaitot sliktu apgaismojumu, daļēju oklūziju vai slīpos leņķos.
Stratēģiskie pielietojumi terorisma apkarošanas operācijās
Reālā laika uzraudzība un draudu noteikšana
Sejas atpazīšanas tehnoloģija ir kļuvusi par transformējošu līdzekli terorisma apkarošanā, piedāvājot uzlabotas spējas identificēt, uzraudzīt un aizturēt interesējošas personas, koncentrējoties uz trim konkrētiem lietojumiem: reālā laika uzraudzību, robežkontroli un izmeklēšanas procesiem. Sablīvētās sabiedriskajās telpās, transporta centros un lielāko notikumu laikā sejas atpazīšanas sistēmas var nepārtraukti skenēt pūļus un uzreiz brīdināt drošības personālu, ja tiek atklāta ieinteresēta persona.
AI ļauj automātiski brīdināt un identitātes pārbaudes plašām cilvēku grupām, kas nav iespējamas pirms tam. Šī spēja ir īpaši vērtīga augsta līmeņa pasākumos, kuros pulcējas liels pūlis, piemēram, politiskās mītiņas, sporta pasākumi vai kultūras festivāli. Drošības aģentūras var izvietot sejas atpazīšanas sistēmas, lai uzraudzītu ieejas punktus un pūļa kustības, identificējot iespējamos draudus, pirms tie var materializēties uzbrukumos.
Uzlabota drošība nodrošina nepārtrauktu uzraudzību augstas satiksmes zonās, identificē interesējošās personas un atrod pazudušas personas ar nepieredzētu efektivitāti. Tehnoloģijas spēja darboties nepārtraukti bez noguruma padara to par nenovērtējamu papildinājumu cilvēku drošības personālam, kurš pēc tam var koncentrēt savu uzmanību uz brīdinājumu izmeklēšanu un reaģēšanu uz iespējamiem draudiem.
Robežu drošība un imigrācijas kontrole
Robežšķērsošana un lidostas ir kritiskie aizsprosti terorisma apkarošanā. Ja persona (ieskaitot teroristu) ierodas ASV no ārzemēm, viņš vai viņa, iespējams, šķērso imigrācijas kontrolpunktu iebraukšanas ostā, un no pretterorisma viedokļa šis kontrolpunkts ir aizsprosts, kur topošais terorists ir visneaizsargātākais. Sejas atpazīšanas tehnoloģija ir kļuvusi par svarīgu instrumentu šajos kritiskajos apstākļos.
FRT tiek izvietotas, lai pārbaudītu, ka persona, kas iziet robežkontroli, patiešām ir persona, kas attēlota identifikācijas dokumentā (piemēram, pasē), un Interpols ir izmantojis savu First projekta sistēmu, lai palīdzētu valsts iestādēm identificēt ārvalstu teroristu kaujiniekus (FTF). Šīs sistēmas var ātri apstrādāt ceļotājus, vienlaikus pārbaudot viņu identitāti pret zināmo vai aizdomās turēto teroristu sargu sarakstiem, būtiski uzlabojot drošību, neradot būtiskas vājās vietas pasažieru plūsmā.
Biometrijas var novērst identitātes zādzību un krāpšanu imigrācijas jomā, izmantojot ceļošanas dokumentus, jo dokumentam tiktu pievienota biometriskā veidne ar pirkstu nospiedumu, piemēram, pase vai vīza, svītrkodā, mikroshēmā vai magnētiskajā joslā, kas apgrūtinātu kāda cita personas identitāti. Apvienojumā ar sejas atpazīšanu šī daudzslāņainā biometriskā pieeja rada stingru aizsardzību pret teroristiem, kuri mēģina ieceļot valstīs, izmantojot viltotus dokumentus vai nozagtas identitātes.
Izmeklēšanas un tiesu prakses lietojumi
Biometriskās sistēmas varētu identificēt zināmos vai aizdomās turētos teroristus, izmantojot biometrisko sejas atpazīšanu vai FaceCheck metodi, kad ir pieejama fotogrāfija par aizdomās turēto teroristu, un to meklē, izmantojot kontrolsarakstu vai datu bāzi ar aizdomās turēto teroristu veidnēm. Šī spēja ir izrādījusies nenovērtējama izmeklēšanā pēc incidenta, kur drošības aģentūras analizē novērošanas materiālus, lai identificētu vainīgos un viņu līdzgaitniekus.
Tiesībaizsardzības efektivitāte paātrina aizdomās turēto identifikāciju un lietu atrisināšanu, automatizēti saskaņojot ar esošajiem ierakstiem. Tā vietā, lai manuāli pārskatītu videomateriālu stundas un salīdzinātu sejas, izmeklētāji var izmantot sejas atpazīšanu, lai ātri meklētu ar plaša mēroga novērošanas video arhīvā, identificētu aizdomās turētos un izsekotu to kustību dažādās vietās un laika periodos.
ASV militārie spēki ir arī atzinuši sejas atpazīšanas stratēģisko vērtību pretterorisma operācijās. ASV īpašo operāciju pavēlniecība (USSOCOM) veido pamatu būtiskai identitātes izlūkošanas un ekspluatācijas iespēju paplašināšanai, iezīmējot plašu un tehniski vērienīgu redzējumu par to, kā īpašo operāciju spēki misiju laikā vāc, analizē un izmanto ar identitāti saistītus datus, meklējot ieskatu piecās primārajās tehnoloģiju jomās: sejas atpazīšana, skaļruņu identificēšana un balss saskaņošana, pilnībā integrēta SOF vietnes izmantošanas ekosistēmu, ātru DNS analīzi un AI un mašīnmācīšanās analītiku.
Darbības priekšrocības terorisma novēršanā
Identifikācijas ātrums un mērogs
Viena no nozīmīgākajām sejas atpazīšanas tehnoloģijas priekšrocībām pretterorismā ir tās spēja apstrādāt un analizēt sejas, pārsniedzot cilvēku spējas. Jauna tehnoloģija ir devusi valstij jaunas pilnvaras automatizēt iepriekš zināmo teroristu identificēšanu, kuri organizē uzbrukumus pilsoņiem, kurus valstij ir jāaizsargā, un vara to darīt, ja tā darbojas efektīvi, palīdzētu terorisma apkarošanā, jo sejas atpazīšanas tehnoloģijas sola valstij dot tieši šo varu.
Tradicionālās metodes, lai identificētu aizdomās turēto lielā mērā paļāvās uz cilvēka atmiņu un manuālo salīdzinājumu fotogrāfijas, procesi, kas bija laikietilpīgi un nosliece uz kļūdām. Drošības virsnieks, kas uzrauga pārpildīto lidostu, varēja aktīvi skatīties tikai ierobežotu skaitu cilvēku uzreiz, un pat visvairāk pieredzējuši darbinieki varētu palaist garām aizdomās par jūras sejām. Sejas atpazīšanas sistēmas, gluži pretēji, var vienlaicīgi uzraudzīt simtiem vai tūkstošiem sejas, salīdzinot katru no tiem ar plašu datu bāzēm reālā laikā.
Šī spēja ir īpaši svarīga laikā jutīgās situācijās, kurās ik sekundi tiek skaitīta. Ja izlūkošanas aģentūras saņem informāciju par nenovēršamiem draudiem, sejas atpazīšanas sistēmas var ātri izvietot novērošanas tīklu skenēšanai visās pilsētās, potenciāli atrodot aizdomās turētās personas dažu minūšu, nevis stundu vai dienu laikā.
Pastiprinātas uzraudzības spējas
Ar biometrisko atpazīšanu, dziļu mācīšanās algoritmu un lielo datu analītikas palīdzību tiek uzlabota intelekta darba precizitāte un efektivitāte un tradicionālais uzraudzības darbs kļūst par uz nākotni vērstu un aizsardzības cīņu. Sejas atpazīšana pārveido novērošanu no reaktīva rīka, ko izmanto galvenokārt izmeklēšanai pēc incidenta, par proaktīvu sistēmu, kas spēj novērst uzbrukumus pirms to rašanās.
Tehnoloģija ļauj drošības aģentūrām izveidot visaptverošus novērošanas kameru tīklus, kas darbojas kā integrēta sistēma, nevis izolēti novērošanas punkti. Ja kādu personu konstatē vienā vietā, sistēma var izsekot viņu kustības visā tīklā, nodrošinot drošības personālu ar reāllaika inteliģenci par viņu darbībām un asociācijām. Šī spēja ir nenovērtējama, lai izprastu teroristu tīklus un identificētu iepriekš nezināmus ekstrēmistu organizāciju locekļus.
Turklāt sejas atpazīšanas sistēmas var darboties nepārtraukti bez cilvēku uzmanības un noguruma ierobežojumiem. Lai gan cilvēku operatori var izlaist kritisko informāciju ilgās maiņās vai periodos ar zemu aktivitāti, automatizētās sistēmas saglabā pastāvīgu modrību, nodrošinot, ka nekādi potenciāli draudi netiek pamanīti.
Noturības efekts
Sejas atpazīšanas sistēmu klātbūtne var kalpot kā spēcīgs atbaidīšanas līdzeklis pret teroristu darbībām. Kad potenciālie uzbrucēji zina, ka viņu sejas tiks notvertas un analizētas ar sarežģītām biometriskām sistēmām, viņi saskaras ar ievērojami lielāku identifikācijas un aizturēšanas risku. Šī apziņa var traucēt plānošanas procesus, piespiest teroristus pieņemt mazāk efektīvu taktiku vai vispār atturēt uzbrukumus.
Atvairīšanas efekts sniedzas tālāk par tūlītējiem identifikācijas draudiem. Sejas atpazīšanas sistēmas rada pastāvīgu digitālo ierakstu, ko var analizēt ilgi pēc incidenta. Tas nozīmē, ka pat tad, ja teroristiem izdodas izvairīties no tūlītējas atklāšanas, viņi atstāj aiz sevis pierādījumus, kurus var izmantot, lai tos vēlāk identificētu, izsekotu viņu kustības un atklātu viņu tīklus. Šī ilgtermiņa atbildība palielina vēl vienu riska līmeni, kas teroristiem ir jāņem vērā, plānojot operācijas.
Resursu optimizācija
Sejas atpazīšanas tehnoloģija ļauj drošības aģentūrām optimizēt savus ierobežotos resursus, automatizējot ikdienas identifikācijas uzdevumus un koncentrējot cilvēku zināšanas tur, kur tas ir visvairāk nepieciešams. Tā vietā, lai norīkotu personālu manuāli uzraudzīt novērošanas plūsmas vai pārbaudīt dokumentus robežšķērsošanas vietās, aģentūras var izvietot sejas atpazīšanas sistēmas, lai veiktu šos uzdevumus, kamēr cilvēku operatori koncentrējas uz brīdinājumu izmeklēšanu, interviju veikšanu un kritisku lēmumu pieņemšanu.
Šī optimizācija ir īpaši svarīga, ņemot vērā mūsdienu drošības izaicinājumu mērogu. Ar miljoniem ceļotāju, kas ik dienas šķērso lidostas, un neskaitāmu stundu novērošanas video, kas ģenerēti pilsētu teritorijās, nebūtu iespējams manuāli pārskatīt visu šo informāciju. Sejas atpazīšanas sistēmas var automātiski apstrādāt šo milzīgo datu apjomu, atzīmējot tikai to mazo daļu, kas prasa cilvēku uzmanību.
Kritiskas problēmas un tehniski ierobežojumi
Precizitāte un nepatiesi pozitīvi rezultāti
Lai gan sejas atpazīšanas tehnoloģijas ir ievērojami attīstījušās, tomēr ļoti liela nozīme joprojām ir precizitātei, jo īpaši terorisma apkarošanas lietojumos, kur kļūdu sekas var būt smagas.Sejas atpazīšanas metode ir identificēta ar tehnoloģiskām nepilnībām un trūkumiem, bet to var izmantot operatīvi, lai mazinātu tās trūkumus.
Lai gan kopumā cilvēki var diezgan labi veikt sejas atpazīšanas procesus, šīs darbības joprojām ir ļoti sarežģītas tehnoloģiju sistēmām, jo, ja fotogrāfija netiek uzņemta ļoti kontrolētos apstākļos, sistēmai var būt grūtības identificēt indivīdu vai pat noteikt viņa seju fotogrāfijā, un sistēma darbojas vislabāk, kad vides faktori, piemēram, kameras leņķis, apgaismojums, sejas izteiksme un citi, tiek kontrolēti maksimāli.
Viltus pozitīvi – gadījumi, kad sistēma nepareizi identificē kādu kā ieinteresētu personu – rada īpašas problēmas terorisma apkarošanas kontekstā. Tie, kuriem tehnoloģija nedarbojas, arī nevarēs tikt pārbaudīti FRT, radot aizdomas un turpmāku uzmācīgu uzraudzību, turklāt tie tiks biežāk identificēti nepareizi, kas var izraisīt aizdomas par teroristu vai citu smagu noziedznieku. Šādi nepareizas identificēšanas rezultātā nevainīgi cilvēki var tikt aizturēti, iztaujāti vai pakļauti invazīvām drošības procedūrām, kas var izraisīt būtiskas personiskas un sociālas sekas.
NIST nesen veica liela mēroga testu, kura mērķis bija identificēt neobjektivitāti FRT, īpašu uzmanību pievēršot kļūdaini pozitīvajam rādītājam, proti, biežumam, ar kādu algoritms nepareizi identificē vienas personas tēlu, un rezultāti liecināja, ka "visā demogrāfijā viltus pozitīvie rādītāji bieži atšķiras 10 līdz vairāk nekā 100 reizes" atkarībā no tā, kurus algoritmus izmanto. Šīs kļūdu īpatsvara atšķirības dažādās sistēmās izceļ stingras testēšanas un validācijas nozīmi pirms sejas atpazīšanas tehnoloģiju izmantošanas augsta līmeņa drošības lietojumprogrammās.
Demogrāfiskās atšķirības un algoritmiskā godīgums
Viens no nopietnākajiem izaicinājumiem sejas atpazīšanas tehnoloģijai ir demogrāfiska neobjektivitāte – tendence, ka sistēmas uz noteiktām demogrāfiskajām grupām darbojas neprecīzāk. Trīs komerciāli atbrīvotās sejas analīzes programmas no lielākajiem tehnoloģiju uzņēmumiem parāda gan ādas tipa, gan dzimumu neobjektivitāti, un pētnieku eksperimentos trīs programmu kļūdu līmenis, nosakot dzimumu gaišā ādas krāsā vīriešiem, nekad nebija sliktāks par 0,8 procentiem, bet tumšākā ādas krāsā nosēdinātām sievietēm tomēr kļūdu līmenis balonēja — līdz vairāk nekā 20 procentiem vienā gadījumā un vairāk nekā 34 procentiem pārējos divos.
Vieglās ādas vīriešu kļūdu īpatsvars ir 0,8%, salīdzinot ar 34,7% tumšākas ādas sievietēm, saskaņā ar 2018. gada pētījumu ar nosaukumu "Dziedis Shades", ko publicējuši Joy Buolamwini un Timnit Gebru. Šī krasā precizitātes atšķirība rada nopietnas bažas par taisnīgumu un vienlīdzīgu attieksmi saskaņā ar likumu, kad sejas atpazīšanu izmanto drošības un tiesībaizsardzības kontekstā.
Ādas tonis būtiski ietekmē pārbaudes precizitāti, ar vieglāku ādas toņi konsekventi pārspēj vidējas tumšs toņi. Pētījumi ir arī konstatēts, ka vīrieši parasti sasniedza labāku atzīšanas precizitāti nekā sievietes subjekti, ko attiecina uz faktoriem, piemēram, oklūzija izraisa garāku matu un izmaiņas sejas izskatu dēļ grims.
2023. gada augustā melnādaina sieviete iesūdzēja tiesā Detroitas policijas departamentu pēc tam, kad policisti arestēja viņu ar slikti kalibrētu sejas atpazīšanas programmatūru, un šī problēma ir izplatīta sejas atpazīšanas programmatūrā, kas mēdz radīt lielāku viltus pozitīvu rādītāju skaitu nebaltajiem cilvēkiem. Šādi incidenti parāda algoritmiskās aizspriedumu reālās pasaules sekas un uzsver steidzamo vajadzību pēc taisnīgākām sejas atpazīšanas sistēmām.
NIST pētījumā tika atrasti arī neobjektīvi rezultāti, kad tas nonāca pie Austrumāzijas, Amerikas pamatiedzīvotāju, Amerikas indiāņu, Aļaskas indiāņu un Klusā okeāna salu iedzīvotāju sejām. Šo neobjektīvu apstākļu izplatība dažādās demogrāfiskajās grupās liecina, ka problēma ir sistēmiska, nevis izolēta no konkrētām populācijām vai algoritmiem.
Bias saknes
Sejas atpazīšanas tehnoloģija ir guvusi lielus panākumus precizitātes ziņā, pateicoties progresīviem mākslīgā intelekta (AI) modeļiem, kas apmācīti par sejas attēlu masveida kopumiem, bet šīm datu kopām bieži vien trūkst dažādības rases, etniskās piederības, dzimuma un citu demogrāfisko kategoriju ziņā, kas izraisa sejas atpazīšanas sistēmu sliktāku sniegumu attiecībā uz nepietiekami pārstāvētām demogrāfiskajām grupām salīdzinājumā ar visuresošām grupām mācību datos.
Aizspriedumu problēma rodas no vairākiem avotiem. Vēsturiskās datu kopas, ko izmanto sejas atpazīšanas algoritmu apmācīšanai, galvenokārt ir attēlotas balto vīriešu sejās, atspoguļojot pētnieku un to veidojošo institūciju demogrāfiju. Kad algoritmi iemācās atpazīt sejas galvenokārt no šīs ierobežotās datu kopas, tie, protams, labāk veic līdzīgus sejas un cīnās ar sejām, kas ievērojami atšķiras no viņu apmācības datiem.
Daudzi šo jautājumu lielāko daļu piedēvē nelīdzsvarotām datu kopām. Tomēr problēma sniedzas tālāk par vienkāršu attēlojumu. Pat ja datu kopās ir dažādas sejas, citi faktori, piemēram, apgaismojums, kameras kvalitāte, attēla izšķirtspēja var nesamērīgi ietekmēt attēlu kvalitāti cilvēkiem ar tumšāku ādas toņiem, vēl vairāk saasinot precizitātes problēmas.
Centieni panākt Biasu
Pētnieki un tehnoloģiju uzņēmumi ir atzinuši aizspriedumu problēmas nopietnību un aktīvi strādā pie risinājumiem. 2018. gadā Microsoft paziņoja, ka to komerciāli pieejamā FRT ir piedzīvojusi atjauninājumus, lai uzlabotu sniegumu visās rases un dzimumu kategorijās, paplašinot datu kopas, kas tiek izmantotas mašīnmācīšanās algoritmu apmācīšanai un uzlabojot sejas klasifikatoru lielākas precizitātes iegūšanai, un šie uzlabojumi, kā norāda uzņēmums, radīja 20 reizes zemākus kļūdu rādītājus tumšākiem ādas toņiem un 9 reizes zemākus kļūdu rādītājus sievietēm.
Pētnieki iepriekš apmācīja trīs sejas atpazīšanas modeļus – ArcFace, AdaFace un ElasticFace – par lielu, līdzsvarotu sintētisko datu kopumu, ko viņi izveidoja, un rezultāts ne tikai palielināja vispārējo precizitāti salīdzinājumā ar modeļiem, kas apmācīti attiecībā uz esošajām nelīdzsvarotajām datu kopām, bet arī ievērojami samazināja demogrāfisko tendenci, un apmācītie modeļi liecināja par taisnīgāku precizitāti visās rasu grupās salīdzinājumā ar esošajiem modeļiem, kuros ir slikti rezultāti attiecībā uz nepietiekami pārstāvētām minoritātēm.
Attiecībā uz FairFace datu kopumu precizitāte uzlabojās no 92,58 % līdz 96,47 %, savukārt Bias (DoB) pakāpe samazinājās no 3,86 % līdz 1,16 %, kas ir samazinājums par aptuveni 70 %, un jo īpaši attiecībā uz nepietiekami pārstāvētām grupām tika novērots ievērojams veiktspējas pieaugums, piemēram, melnādainajām sievietēm precizitātes uzlabošanās no 80,2 % līdz 90,86 %, vienlaikus saglabājot spēcīgus rezultātus jau labi pārstāvētām grupām.
Debising pretrunu tīkls (DebFace) izmanto attēlu-to-feature kodētāju, četrus atribūtu klasifikatorus, izplatīšanas klasifikatoru un funkciju agregācijas tīklu, un četri klasifikatori – dzimums, vecums, rase un identitāte – potenciālas novirzes pārvērš informētās īpašībās, tādējādi uzlabojot veiktspēju visās nepietiekami pārstāvētajās grupās. Šie arhitektūras jauninājumi pierāda, ka neobjektīvu seku mazināšana ir tehniski iespējama, lai gan joprojām ir daudz darba, lai īstenotu šos risinājumus visās izvērstajās sistēmās.
Privātuma jautājumi un pilsoņu brīvības
Masu uzraudzība un tiesības uz privātumu
Viss varenais ir tumšs, un FRT nav izņēmums, jo tas rada nopietnas problēmas un bažas par privātumu, ētiku un vispārējo ietekmi sabiedrībā. Sejas atpazīšanas tehnoloģijas izmantošana terorisma apkarošanas nolūkos ir izraisījusi intensīvas debates par līdzsvaru starp drošību un privātumu, kritiķi apgalvojot, ka plaša uzraudzība apdraud būtiskas pilsoņu brīvības.
Likumīgas, ētiskas un privātuma problēmas saistībā ar masu uzraudzību ietver bažas par nepareizu identifikāciju, krāpšanu un neobjektivitāti datubāzē. Spēja izsekot indivīdu pārvietošanos pa sabiedrisko telpu bez viņu zināšanām vai piekrišanas rada pamatīgus jautājumus par privātuma raksturu mūsdienu sabiedrībā un atbilstošām valdības uzraudzības pilnvaru robežām.
Kritiķi norāda uz būtiskiem privātuma riskiem un iespējamiem pilsonisko brīvību pārkāpumiem, radot bažas par neatļautu datu vākšanu, piekrišanas trūkumu un funkciju iespējamību, caur kuru vienam mērķim savāktie dati tiek izmantoti nesaistošam mērķim bez indivīda ziņas vai piekrišanas. Bažas ir, ka sistēmas, kas sākotnēji tika izmantotas terorisma apkarošanai, varētu pakāpeniski paplašināties, lai uzraudzītu parastos pilsoņus, kas iesaistīti likumīgās darbībās, radot uzraudzības valsti, kas drebutē brīvu izpausmi un asociāciju.
Šāda aizlieguma iemesli ir šādi: FRT cieš no plaši izplatītiem aizspriedumiem, kā rezultātā ieguvumi un kaitējums tiek sadalīti grupās nevienlīdzīgā veidā, valsts nenovēršami izmantos šīs tehnoloģijas nelikumīgiem mērķiem un ka FRT pastāvēšana atvēsina mūsu uzvedību (t.i., liek cilvēkiem cenzēt sevi, baidoties no uzraudzības). Šī atvēsinošā ietekme varētu mazināt demokrātisko līdzdalību, atturot cilvēkus no protestu, politisko mītiņu vai citu publisku pasākumu apmeklēšanas, kur tos varētu identificēt un izsekot.
Reglamentējošas atbildes un aizliegumi
2019. gadā Sanfrancisko kļuva par pirmo ASV pilsētu, kas aizliegusi sejas atpazīšanas tehnoloģiju (FRT), jo īpaši vetojot tās izmantošanai policijā un citās aģentūrās, un kopš tā laika vairākas citas Amerikas pilsētas ir īstenojušas paši savus līdzīgus FRT aizliegumus, Bostonas pilsētas domniekiem skaidri izceļot vienu konkrētu jautājumu: tehnoloģiju neobjektivitāti. Šie aizliegumi atspoguļo pieaugošās sabiedrības bažas par tehnoloģiju ļaunprātīgas izmantošanas potenciālu un tās demonstrēja problēmas ar precizitāti un taisnīgumu.
Vairāk nekā ducis lielas pilsētas ir aizliegušas tehnoloģiju, tostarp Mineapolis, Bostona, un Sanfrancisko. Tomēr šie vietējie aizliegumi nav lieguši federālās aģentūras un daudzas citas jurisdikcijas turpināt sejas atzīšanu drošības nolūkos, radot noteikumu fragmentāru, kas ievērojami atšķiras pēc atrašanās vietas.
Eiropas Savienība ir pieņēmusi visaptverošāku pieeju, izmantojot sejas atpazīšanas tehnoloģijas miermīlīgu protestu kontekstā, kas palielina masu uzraudzības prakses risku un ietekmi uz cilvēktiesību aizsardzību. Eiropas regulatori ir ierosinājuši stingrus ierobežojumus sejas atpazīšanas izmantošanai sabiedriskās vietās, daži aizstāvot pilnīgu aizliegumu, izņemot šauri definētos apstākļos, kas saistīti ar smagiem noziegumiem vai nenovēršamiem draudiem.
Drošības un brīvības līdzsvarošana
Ir ārkārtīgi svarīgi, lai valsts varētu izmantot šo tehnoloģiju, lai palielinātu savu spēku cīņā pret terorismu, šī vara tiktu ierobežota tā, ka ļaunprātīga izmantošana un atturīga uzvedība nenotiek, un valstij ir jārada institucionāli ierobežojumi, kas ļauj izmantot FRT tikai vietās, kur cilvēki nevar (un nedrīkst) baudīt saprātīgas privātuma gaidas (piemēram, lidostās, robežšķērsošanas vietās).
Ar FRT aprīkotās kameras ir jāmarķē, lai nodrošinātu sabiedrībai, ka tās netiek uzraudzītas vietās, kur tām vajadzētu būt saprātīgām privātuma prasībām, un FRT būtu jāaprobežojas ar smagu noziedznieku atrašanu (piemēram, teroristi).
FRT ir spēcīgs instruments terorisma apkarošanas arsenālā, kas ļauj veikt drošības pasākumus, kuri iepriekš nebija sasniedzami, bet šī tehnoloģija prasa ārkārtīgi saprātīgu līdzsvaru starp tās skaidrajiem ieguvumiem un svarīgiem ētiskiem apsvērumiem, ar kuriem tā ir saistīta, un pašlaik varētu būt tā, ka līdzsvars pārāk tālu tiek novirzīts FRT skaidrajiem ieguvumiem un nav pietiekami, lai atbalstītu godīgumu, privātumu un ētikas integritāti, kam vajadzētu būt tā ieviešanas pamatā.
Tiesiskā un ētikas sistēma
Konstitucionālie un cilvēktiesību apsvērumi
FRT programmas, ko izmanto tiesībaizsardzības iestādes, lai identificētu aizdomās turētos noziegumus, ir ievērojami vairāk kļūdu uz sejas attēliem, kuros attēloti tumšāki ādas toņi un sievietes, salīdzinot ar sejas attēliem, kuros attēloti Kaukāza vīrieši, un šī neobjektivitāte var novest pie tā, ka policija nelikumīgi izmeklē pilsoņus rasu un dzimumu aspektā, un tiesību aktu piemērošana neobjektīvas FRT izmantošanai neatbilst klasiskajai liberālajai prasībai, ka valdība pret visiem pilsoņiem izturas vienlīdzīgi likuma priekšā.
Daudzās konstitūcijās ir paredzēts, ka valdības rīcība nav diskriminējoša, pamatojoties uz rasi, dzimumu vai citām aizsargātām īpašībām. Ja sejas atpazīšanas sistēmas parāda sistemātisku neobjektivitāti pret noteiktām demogrāfiskajām grupām, to izmantošana valdības aģentūrās var pārkāpt konstitucionālās aizsardzības noteikumus. Tas rada juridisku dilemmu: kamēr tehnoloģija var uzlabot drošību, tās neobjektīvā darbība var padarīt tās izmantošanu par nekonstitucionālu vai cilvēktiesību tiesību aktu pārkāpumu.
Datorzinātnieki ir pauduši bažas par to, ka FRT izmanto tiesībsargājošo iestāžu vajadzībām, lai identificētu aizdomās turētos noziegumus, norādot, ka ir ļoti iespējams, ka šādu programmatūru izmanto aizdomās turēto identificēšanai, un tādējādi kļūdai sejas atpazīšanas algoritma izvadē, ko izmanto kā ievadi citos uzdevumos, var būt nopietnas sekas, jo kādu varētu nepamatoti apsūdzēt noziegumā, pamatojoties uz kļūdainu, bet pārliecinātu nepareizu vainīgā identifikāciju no drošības videoierakstu analīzes.
Pārredzamība un pārskatatbildība
Tajā ieteikts nodrošināt stingru regulējumu, starptautisko sadarbību un pārredzamu pārvaldību, lai nodrošinātu, ka MI sejas atpazīšanas tehnoloģijas izmantošana ir saderīga ar cilvēktiesībām un pamatbrīvībām. Pārredzamība par to, kā darbojas sejas atpazīšanas sistēmas, to precizitātes rādītāji un to ierobežojumi ir būtiski sabiedrības uzticamībai un demokrātiskai pārskatatbildībai.
Izveidot tiesību aktus, kas ir skaidri un visaptveroši saistībā ar sejas atpazīšanas tehnoloģiju izmantošanu, saskaņot pasaules standartus ar valstu sistēmām, lai nodrošinātu konsekvenci, un pilnvarot regulāras FRT sistēmu revīzijas, lai nodrošinātu atbilstību ētikas vadlīnijām. Regulāra revīzija var palīdzēt identificēt problēmas ar precizitāti vai neobjektivitāti, pirms tās rada nopietnu kaitējumu, bet skaidrs tiesiskais regulējums sniedz norādījumus drošības aģentūrām par atbilstīgu tehnoloģijas izmantošanu.
Riski nedrīkst izraisīt moratorijus attiecībā uz AI izmantošanu vai aizliegumu noteiktās platformās, bet drīzāk jāaicina valdības rīkoties, lai pieprasītu labāku to AI/ML rīku izstrādi, kas nozīmē iegūt labākus datus un izveidot spraigus testēšanas režīmus, kas pēc iespējas ierobežo risku un atklāj trūkumus, un veids, kā to palīdzēt, ir ieviest izskaidrojamus AI standartus un pārredzamības politiku, kas sniedz valdībām ieskatu par katras sistēmas darbības pamatojumu.
Datu aizsardzība un saglabāšana
Valsts nedrīkst izmantot trešo personu uzņēmumus, kas pakalpojuma izveides vai izmantošanas laikā pārkāpj pirmos trīs nosacījumus, un trešo personu uzņēmumiem nevajadzētu būt iespējai piekļūt vai izlasīt valsts savāktos sensitīvos datus. Sejas atpazīšanas sistēmu savāktie biometriskie dati ir ļoti jutīgi un personīgi, pieprasot stingru aizsardzību pret neatļautu piekļuvi, ļaunprātīgu izmantošanu vai datu pārkāpumiem.
Jautājumi par datu saglabāšanu ir īpaši svarīgi. Cik ilgi būtu jāuzglabā sejas atpazīšanas dati? Kam vajadzētu būt piekļuvei tiem? Kādos apstākļos tos var kopīgot ar citām aģentūrām vai valstīm? Šie jautājumi nav skaidri atbildēti daudzās jurisdikcijās, radot neskaidrību par sejas atpazīšanas izvietošanas ilgtermiņa sekām.
Datu aizsardzības pārkāpumu risks ir arī nozīmīgs. Datu bāze, kas satur sejas atpazīšanas datus miljoniem cilvēku būtu pievilcīgs mērķis hakeriem, ārvalstu izlūkdienestiem vai kriminālām organizācijām. Ja šādi dati tiktu apdraudēti, to varētu izmantot identitātes zādzībai, izsekošanai vai citiem ļaunprātīgiem mērķiem, ar sekām, kas varētu saglabāties gadiem vai desmitgadēm.
Starptautiskās perspektīvas un izvēršana
Globālie adopcijas modeļi
Tiesību aktu piemērošana: Sejas atpazīšana šobrīd ir pasaulē visplašāk izmantotā AI uzraudzības tehnoloģija, kas ir 64 % no adopcijas rādītāja, pārspējot gan viedās pilsētu platformas, gan viedās policijas iniciatīvas.
Valstis saskaras ar dažādiem drošības apdraudējumiem, un tām ir atšķirīga kultūras attieksme pret privātumu un uzraudzību, kas rada būtiskas atšķirības sejas atpazīšanas jomā. Dažas valstis ir ar entuziasmu izmantojušas tehnoloģiju, plaši izvietojot to publiskajā telpā ar minimāliem ierobežojumiem. Citas ir izvēlējušās piesardzīgāku pieeju, ierobežojot tās izmantošanu līdz īpašiem augstas drošības kontekstiem vai nosakot stingras uzraudzības prasības.
Furl et al. (2002) konstatēja, ka FRT, kas izstrādāta un izmantota Rietumu valstīs, ir precīzāka attiecībā uz Kaukāza sejas attēliem, savukārt Austrumāzijas valstīs FRT algoritmi bija precīzāki attiecībā uz Austrumāzijas sejas attēliem.Šis secinājums uzsver, cik svarīgi ir izstrādāt sejas atpazīšanas sistēmas, kas ir apmācītas, izmantojot dažādas datu kopas, kas pārstāv populācijas, kurās tās tiks izvietotas.
Starptautiskā sadarbība un standarti
Terorisms ir starptautisks drauds, kura apkarošanai nepieciešama starptautiska sadarbība. Sejas atpazīšanas tehnoloģija var veicināt šo sadarbību, dodot iespēju valstīm dalīties informācijā par zināmiem vai aizdomās turētiem teroristiem un koordinēt to uzraudzības centienus. Tomēr šī starptautiskā dimensija rada arī sarežģītus jautājumus par datu apmaiņu, privātuma aizsardzību un cilvēktiesībām.
Dažādām valstīm ir atšķirīgi tiesību standarti privātuma aizsardzībai, datu saglabāšanai un pienācīgam procesam. Ja sejas atpazīšanas dati tiek izplatīti pāri robežām, uz tiem var attiekties mazāk stingri aizsardzības pasākumi saņēmējā valstī nekā tajā valstī, kurā tie tika vākti. Tas rada risku, ka datus, kas savākti stingrā privātuma aizsardzībā, varētu ļaunprātīgi izmantot ārvalstu valdības ar vājākiem aizsardzības pasākumiem.
Starptautiskās organizācijas, piemēram, Interpols, ir izstrādājušas sistēmas, lai atvieglotu sejas atpazīšanas pārrobežu izmantošanu terorisma apkarošanā. Šīm sistēmām jāorientējas uz sarežģītu tiesisko un politisko vidi, līdzsvarojot ieguvumus, ko sniedz informācijas apmaiņa pret privātuma, cilvēktiesību un nacionālās suverenitātes jautājumiem. Starptautisko standartu un nolīgumu izstrāde atbildīgai sejas atpazīšanas izmantošanai terorisma apkarošanā joprojām ir aktuāla problēma.
Sabiedrības uztvere un uzticība
Faktori, kas ietekmē sabiedrības atbalstu
FRT advokāti uzsver savu potenciālu sabiedrības drošības, noziedzības novēršanas un terorisma apkarošanas jomā, atzīmējot, ka FRT ļauj tiesībsargājošām iestādēm un organizācijām identificēt aizdomās turētos un novērst neatļautu piekļuvi aizsargājamām teritorijām un telpām, kurās ir vērtīgi līdzekļi vai neaizsargātas iedzīvotāju grupas. Publiskais atbalsts sejas atpazīšanai bieži vien ir atkarīgs no konkrētā konteksta, kādā to izmanto, ar lielāku piekrišanu drošības lietojumiem augsta riska vidē, piemēram, lidostās.
Uzticība iestādēm, kas izvērš sejas atpazīšanu, ir būtisks faktors sabiedrības akceptā. Ja cilvēki tic, ka drošības aģentūras izmantos tehnoloģiju atbildīgi un ar atbilstošu uzraudzību, viņi, visticamāk, pieņems tās ieviešanu. Un otrādi, ja uzticēšanās ir zema – pagātnes ļaunprātīgas izmantošanas, pārredzamības trūkuma vai aizspriedumu dēļ – sabiedrības opozīcijai ir tendence būt spēcīgākai.
Veiksmīga un plaša FRT pieņemšana ir atkarīga ne tikai no tā ātruma un precizitātes, bet arī no sabiedrības uzticības algoritmiem, kas iedarbina sejas atpazīšanas ierīces, un šo uzticību būs grūti veidot, kamēr rasu neobjektivitātes un viltus pozitīvu rezultātu piemēri joprojām aizēno ik gadu veiktos uzlabojumus programmatūras vispārējā precizitātes un funkcionalitātes ziņā.
Sabiedrības uzticēšanās vairošana
Lai veicinātu sabiedrības iesaistīšanos, risinot problēmas un veidojot uzticību, ir vajadzīgs vairāk nekā tikai informēt cilvēkus par sejas atpazīšanas ieviešanu; tas nozīmē radīt patiesa dialoga iespējas par tehnoloģijas priekšrocībām, riskiem un atbilstīgajām robežām.
Uzticības veidošanā būtiska ir sistēmas darbības pārredzamība. Drošības aģentūrām publiski jāziņo par precizitātes rādītājiem, tostarp par dalījumiem demogrāfiskajā grupā, kļūdaini pozitīviem rādītājiem un informāciju par to, kā tehnoloģija tiek izmantota un pārraudzīta.
Būtiska ir arī pārskatatbildības pierādīšana problēmu gadījumā. Ja sejas atpazīšanas sistēmas noved pie nelikumīgiem aizturēšanas gadījumiem vai citiem kaitējumiem, aģentūrām ir jāatzīst šīs neveiksmes, jākompensē upuri un jāveic konkrēti pasākumi, lai novērstu atkārtošanos. Problēmas vai atbildības novirzīšana samazinās sabiedrības uzticību un izraisīs pretestību tehnoloģijai.
Turpmākā attīstība un jaunās tehnoloģijas
Panākumi precizitātes un spējas jomā
Pēdējos gados, kad ir attīstīta arhitektūra un pieaug slāņu un parametru skaits, FR modeļi ir ieguvuši ievērojamu uzlabojumu to spējā apgūt sarežģītus sejas attēlojumus, un šīs dziļākās arhitektūras, kas bieži vien aptver vairāk nekā simts slāņu ar miljoniem parametru, ir ievērojami uzlabojušas FR sistēmu spēju vispārināt sarežģītu scenāriju gadījumā, kā rezultātā ir panākta lielāka vispārējā atpazīšanas veiktspēja (kā arī samazināta neobjektivitāte), turklāt lielāku, daudzveidīgāku datu kopu pieejamība ir veicinājusi labākus mācīšanās rezultātus, jo šīs datu kopas, kurās ir iekļautas būtiskas atšķirības demogrāfijā un kovariantēs, piemēram, pozā, apgaismojumā un izteiksmē (PIE), ir veicinājušas izmērāmu progresu gan precizitātes, gan taisnīguma uzlabošanā.
Turpmākās sejas atpazīšanas sistēmas, iespējams, ietvers vairākas biometriskas modalitātes, apvienojot sejas atpazīšanu ar varavīksnenes skenēšanu, gaitas analīzi, balss atpazīšanu un citas metodes. Šī multimodālā pieeja var uzlabot precizitāti, savstarpēji salīdzinot vairākus biometriskos parakstus, samazinot kļūdu ietekmi jebkurā vienotā sistēmā. Tas var arī apgrūtināt teroristus izvairīties no atklāšanas, maskējot vai mainot to izskatu.
Mākslīgā intelekta attīstība, īpaši dziļajās mācībās un nervu tīklos, turpina nostiprināt sejas atpazīšanas sistēmu robežas. Šīs sistēmas kļūst arvien labākas, atpazīstot sejas, tādos sarežģītos apstākļos kā sliktais apgaismojums, daļēja oklūzija vai galējie leņķi. Tās arī kļūst ātrākas, ļaujot reālā laikā analizēt augstas izšķirtspējas video plūsmas no vairākām kamerām vienlaicīgi.
Integrācija ar citām izlūkošanas sistēmām
Sejas atpazīšanas nākotne pretterorismā ir ne tikai tehnoloģijas uzlabošana, bet arī tās integrācija ar citām izlūkošanas un drošības sistēmām. Sejas atpazīšana tiek apvienota ar uzvedības analīzi, sociālo tīklu kartēšanu, sakaru uzraudzību un citiem izlūkošanas avotiem, tā kļūst par daļu no visaptverošas draudu atklāšanas sistēmas, kas ir lielāka par tās daļu summu.
Piemēram, sejas atpazīšana varētu identificēt ieinteresētu personu lidostā, izraisot papildu pārbaudi viņu ceļojumu modeļus, finanšu darījumus, komunikācijas, un zināmiem partneriem. Šī integrētā pieeja ļauj drošības aģentūrām veidot pilnīgāku priekšstatu par iespējamiem draudiem un pieņemt vairāk informēti lēmumi par to, kā reaģēt.
Tomēr šī integrācija arī palielina bažas par privātumu. Sistēma, kas apvieno sejas atpazīšanu ar plašiem datiem no citiem avotiem, rada nepieredzētas uzraudzības spējas, kuras varētu izmantot, lai praktiski uzraudzītu ikvienu cilvēku dzīves aspektu. Nodrošināt, ka šādas spēcīgas sistēmas tiek izmantotas tikai likumīgiem drošības mērķiem un ar atbilstošu uzraudzību, būs būtisks izaicinājums politikas veidotājiem.
Jauni pretpasākumi un ieroču sacensības
Tā kā pretterorisma jomā arvien vairāk tiek izmantota sejas atpazīšanas tehnoloģija, pretinieki izstrādā pretpasākumus, lai izvairītos no atklāšanas. Šie paņēmieni ir dažādi, sākot ar vienkāršiem paņēmieniem, piemēram, masku vai saulesbriļļu valkāšanu, un beidzot ar sarežģītākiem paņēmieniem, piemēram, pretrunīgu grima modeļiem, kas paredzēti sejas atpazīšanas algoritmu apjukuma vai dziļvagas tehnoloģijas izmantošanai, lai radītu viltus identitātes.
Tas rada pastāvīgu tehnoloģisko bruņošanās sacensību, drošības aģentūrām strādājot pie sejas atpazīšanas sistēmu uzlabošanas, savukārt teroristiem un citiem pretiniekiem rodas jauni veidi, kā tos uzvarēt. Sejas atpazīšanas efektivitāte pretterorismā būs atkarīga ne tikai no tehnoloģijas raksturīgajām spējām, bet arī no tā, cik labi tā var pielāgoties mainīgajām izvairīšanās metodēm.
Daži pētnieki pēta veidus, kā sejas atpazīšanas sistēmas padarīt izturīgākas pret pretpasākumiem, piemēram, izmantojot infrasarkano attēlu, lai noteiktu sejas pat tad, ja tās ir daļēji apklātas, vai analizējot gaitu un ķermeņa valodu papildus sejas elementiem. Citi izstrādā dzīvīguma noteikšanas sistēmas, kas var atšķirt reālas sejas no fotogrāfijām, maskas vai video displejus, novēršot spoofing uzbrukumus.
Paraugprakse un ieteikumi
Tehniskie standarti un testēšana
NIST notiekošie sejas atpazīšanas testi (FRVT) kopš 2017. gada ir novērtējuši vairāk nekā 400 sejas atpazīšanas algoritmus, sniedzot ieskatu visu iesaistīto izstrādātāju vispārējā precizitātes vērtēšanā. Rūpīga, neatkarīga sejas atpazīšanas sistēmu testēšana pirms ieviešanas ir būtiska, lai nodrošinātu to atbilstību minimālajiem precizitātes un taisnīguma standartiem.
Testēšanā jāiekļauj novērtējums dažādām demogrāfiskajām grupām, lai noteiktu un noteiktu sistēmas veiktspējas novirzes. Sistēmas, kas uzrāda nepieņemamus novirzes līmeņus, nedrīkst izmantot, kamēr šīs problēmas nav novērstas.
Vienlīdz svarīga ir nepārtraukta uzraudzība un novērtēšana pēc ieviešanas. Sistēmas darbība var laika gaitā degradēties, jo algoritmi noveco vai mainās to iedzīvotāju skaits, kuriem tiek veikta uzraudzība. Regulāri auditi var noteikt jaunas problēmas un nodrošināt, ka sistēmas turpina atbilst darbības standartiem visā to ekspluatācijas laikā.
Darbības pamatnostādnes
Drošības aģentūrām, kas izmanto sejas atpazīšanu pretterorismam, būtu jāizstrādā skaidras darbības vadlīnijas, kurās būtu norādīts, kad un kā var izmantot tehnoloģiju. Šajās vadlīnijās būtu jāpievēršas tādiem jautājumiem kā: Kāds atbilstības līmenis ir nepieciešams, pirms tiek veikta rīcība? Kāda papildu pārbaude ir nepieciešama, pirms kāda aizturēšana, pamatojoties uz sejas atpazīšanas atbilsmi? Kā sistēma būtu jāizmanto kopā ar cilvēka spriedumu?
Ne cilvēki, ne algoritmi nav nekļūdīgi, un līdzīgas cilvēciskā sprieduma nepilnības var ietekmēt sejas atpazīšanas tehnoloģiju izmantošanu, jo indivīdi varētu uzticēties algoritma rezultātam, domājot, ka tam jābūt "objektīvam", vairāk nekā viņu pašu spriedums par to, vai divi attēli sakrīt, neskatoties uz pamatā esošajiem aizspriedumiem vai neprecizitātēm tehnoloģijā. Apmācot personālu, izmantojot sejas atpazīšanas sistēmas, jāuzsver, ka tehnoloģija ir instruments, lai palīdzētu cilvēku lēmumu pieņemšanā, nevis aizvietojot cilvēka spriedumu.
Operatoriem jābūt apmācītiem izprast sistēmas ierobežojumus, tostarp tās iespējas radīt aizspriedumus un nepatiesus pozitīvus rezultātus. Tie būtu jāmudina veikt neatkarīgu spriedumu un nepaļauties tikai uz algoritmiskiem rezultātiem, jo īpaši, ja kļūdu sekas ir smagas. Skaidrajos protokolos jānorāda, kāda papildu izmeklēšana vai pārbaude ir nepieciešama pirms darbības, pamatojoties uz sejas atpazīšanas atbilsmi.
Uzraudzības un atbildības mehānismi
Stingri uzraudzības mehānismi ir būtiski, lai nodrošinātu, ka sejas atpazīšanas tehnoloģija tiek izmantota pienācīgi un ka pārkāpumi tiek konstatēti un novērsti.
Aģentūrām būtu jāuztur detalizēti ieraksti par to, kā tiek izmantotas sejas atpazīšanas sistēmas, tostarp kādi meklējumi tiek veikti, kas tos veic, un kādi pasākumi tiek veikti. Šiem ierakstiem būtu jāveic regulāra revīzija, lai nodrošinātu atbilstību politikai un identificētu jebkādus ļaunprātīgas izmantošanas modeļus.
Ārējās uzraudzības struktūrām jābūt pilnvarām un resursiem, lai veiktu jēgpilnu pārskatīšanu sejas atpazīšanas programmu. Tas ietver piekļuvi tehniskai informācijai par to, kā sistēmas darbojas, veiktspējas dati, un darbības žurnālus. Pārraudzības iestādēm vajadzētu būt arī pilnvarām piespiest izmaiņas programmās, kas pārkāpj juridiskos vai ētikas standartus.
Gadījumu izpēte un reālās pasaules lietojumi
Lidostas un robežu drošības īstenošana
Lidostas un robežšķērsošana ir bijušas starp pirmajiem un plašākajiem sejas atpazīšanas tehnoloģiju izmantotājiem terorisma apkarošanas nolūkos. Šīs kontrolētās vides sniedz vairākas priekšrocības sejas atpazīšanas izvietošanai: ceļotājiem ir jāiet caur noteiktiem kontrolpunktiem, apgaismojumu un kameras leņķiem var optimizēt, un identitātes pārbaudei ir skaidrs drošības pamatojums.
Daudzas valstis ir īstenojušas sejas atpazīšanu imigrācijas pārbaudes punktos, lai pārbaudītu, vai ceļotāji atbilst pases fotoattēliem un lai pārbaudītu tos pret zināmo vai aizdomās turēto teroristu sardzes sarakstiem. Šīs sistēmas ir apstrādājušas miljoniem ceļotāju, dažas lidostas ziņo, ka sejas atpazīšana ir ļāvusi viņiem identificēt personas, kas mēģina ceļot uz krāpnieciskiem dokumentiem vai izmantot zagtas identitātes.
Tehnoloģija ir izmantota arī, lai paātrinātu uzticamu ceļotāju apstrādi, izmantojot programmas, kas ļauj iepriekš pārbaudītiem indivīdiem izmantot automatizētus vārtus, kas pārbauda viņu identitāti, izmantojot sejas atpazīšanu. Šī dubultā izmantošana – gan drošības, gan ērtības veicināšana – ir veicinājusi sabiedrības atbalstu tehnoloģijai lidostu kontekstā.
Pilsētu uzraudzības tīkli
Dažas pilsētas ir izvietojušas plašus kameru tīklus, kas aprīkoti ar sejas atpazīšanas iespējām, lai uzraudzītu sabiedriskās telpas drošības apdraudējumiem. Šīs sistēmas var izsekot indivīdu kustībām visā pilsētā, potenciāli identificējot teroristus, kuri veic iespējamo mērķu novērošanu vai tiekas ar līdzsapulces dalībniekiem.
Tomēr pilsētu uzraudzības tīkli ir radījuši arī ievērojamas domstarpības, jo tie var radīt masveida iedzīvotāju novērošanas iespējas. Kritiķi apgalvo, ka šīs sistēmas rada atsvaidzinošu ietekmi uz brīvo izteiksmes un asociācijas, jo cilvēki var izvairīties no noteiktām vietām vai darbībām, ja viņi zina, ka viņi tiek izsekoti. Samērs starp drošības pabalstiem un privātuma izmaksām ir īpaši grūti streikot šajos lietojumos.
Dažas jurisdikcijas ir mēģinājušas risināt šīs bažas, ierobežojot sejas atpazīšanas izmantošanu sabiedriskās vietās līdz īpašiem apstākļiem, piemēram, smagu noziegumu izmeklēšanai vai reaģēšanai uz nenovēršamiem draudiem.
Notikumu drošības un pūļa uzraudzība
Galvenie publiskie pasākumi – piemēram, politiskās konvencijas, starptautiskās augstākā līmeņa sanāksmes vai lieli sporta pasākumi – ir teroristiem pievilcīgi mērķi, un tiem nepieciešami intensīvi drošības pasākumi.Šajos pasākumos ir izmantota sejas atpazīšana, lai uzraudzītu cilvēku pūļus un identificētu iespējamos draudus dalībnieku vidū.
Šīs pagaidu izvietošanas sniedz dažas priekšrocības salīdzinājumā ar pastāvīgajiem uzraudzības tīkliem. Tās ir ierobežotas laika un darbības jomas ziņā, un tās ir vērstas uz īpašiem augsta riska notikumiem, nevis uz pastāvīgu sabiedriskās telpas uzraudzību. Tos var pamatot ar paaugstinātiem drošības draudiem, kas saistīti ar lieliem notikumiem, kuri piesaista lielus pūli un augsta līmeņa mērķus.
Tomēr, pasākumu drošības lietojumi rada bažas, jo īpaši, ja sejas atpazīšanu izmanto, lai uzraudzītu politiskos protestus vai demonstrācijas. Tehnoloģijas varētu tikt izmantotas, lai identificētu un izsekotu politiskos aktīvistus, potenciāli atsvaidzinot likumīgu politisko izpausmi. Skaidras pamatnostādnes par to, kad un kā sejas atpazīšanu var izmantot sabiedriskos pasākumos, ir būtiskas, lai novērstu ļaunprātīgu izmantošanu.
Ceļš uz priekšu: drošības un tiesību līdzsvarošana
Atbildīgas izmantošanas sistēmu izstrāde
Sejas atpazīšana terorisma apkarošanā ir atkarīga no tādu sistēmu izstrādes, kas ļauj efektīvi izmantot tehnoloģiju likumīgās drošības nolūkos, vienlaikus aizsargājot pilsoņu brīvības un nodrošinot taisnīgumu.
Šādu sistēmu pamatā vajadzētu būt skaidriem principiem: sejas atpazīšana būtu jāizmanto tikai tad, kad tas ir nepieciešams un samērīgi ar drošības apdraudējumu; tā būtu jāizmanto ar atbilstošiem aizsardzības pasākumiem pret ļaunprātīgu izmantošanu; tai būtu jāpiemēro jēgpilna uzraudzība un pārskatatbildība; un tā būtu pastāvīgi jāizvērtē un jāuzlabo, lai risinātu problēmas ar precizitāti un neobjektivitāti.
Dažādās situācijās var būt nepieciešamas atšķirīgas pieejas. sejas atpazīšanas izmantošana robežšķērsošanas vietās, ja ir skaidrs drošības pamatojums un ierobežotas privātuma gaidas, var būt pieņemamāka nekā tās izmantošana pastāvīgai publiskās telpas uzraudzībai. Kontekstam specifiskie ietvari var sniegt vairāk niansētus norādījumus nekā noteikumi, kas der visiem.
Ieguldījumi pētniecībā un attīstībā
Ir svarīgi turpināt ieguldījumus pētījumos, lai uzlabotu sejas atpazīšanas tehnoloģiju. Tas ietver ne tikai uzlabot precizitāti un ātrumu, bet īpaši risināt problēmas ar neobjektivitāti un taisnīgumu. Plaša mēroga un standartizēti pētījumi, piemēram, NIST palīdz atklāt kopīgas nepilnības FRT, un kā zinātnieki un darbinieki, inženieriem, kas izstrādā FRT ir uzdevums uzlabot programmatūras rezultātus, atzīstot attēlus ar tumšāku ādas toņiem - kā arī samazinot dzimumu atšķirības viltus pozitīvu rādītāju, un kad datu kopas un rezultāti tiek nodoti stingrai, minūšu analīzi, zinātniekiem ir iespēja uzlabot algoritmu un tādējādi risināt neobjektīvu jautājumu par programmatūras nākotnes atkārtojumiem.
Pētījumi būtu arī izpētīt alternatīvas pieejas, kas var piedāvāt labāku privātuma aizsardzību, vienlaikus saglabājot drošības priekšrocības. Piemēram, sistēmas, kas analizē uzvedības modeļus vai atklāt anomālijas, nenorādot konkrētus indivīdus varētu sniegt noderīgu drošības informāciju ar mazāku privātuma ielaušanās nekā tradicionālās sejas atzīšanu.
Starpdisciplināra pētniecība, kurā piedalās datorzinātnieki, sociālie zinātnieki, etiķi un juristi, var palīdzēt identificēt un risināt sarežģītās problēmas, ko rada sejas atpazīšanas tehnoloģija. Atbildīgai attīstībai un ieviešanai ir būtiska ne tikai tehnisko spēju, bet arī sociālo, ētisko un juridisko seku izpratne.
Starptautiskā sadarbība un standarti
Ņemot vērā terorisma starptautisko raksturu, ir svarīga starptautiska sadarbība sejas atpazīšanas standartu un prakses jomā. Valstīm būtu jāsadarbojas, lai izstrādātu kopīgus standartus precizitātei, taisnīgumam un privātuma aizsardzībai, vienlaikus ievērojot dažādas juridiskās tradīcijas un kultūras vērtības.
Starptautiskie nolīgumi varētu noteikt minimālos standartus sejas atpazīšanas sistēmām, ko izmanto terorisma apkarošanā, nodrošinot, ka pārrobežu dati atbilst precizitātes un uzticamības pamatprasībām.
Tomēr starptautiskā sadarbība ir jālīdzsvaro ar bažām par autoritāru režīmu iespēju izmantot sejas atpazīšanu politisko represiju nolūkā.Domārām valstīm ir jābūt piesardzīgām, daloties sejas atpazīšanas tehnoloģijās vai datos ar valdībām, kurām nav stingras cilvēktiesību aizsardzības un tiesiskuma.Starptautiskajos standartos būtu jāiekļauj aizsardzības pasākumi, lai novērstu tehnoloģiju izmantošanu nelikumīgiem mērķiem.
Secinājums: ceļā uz kompleksu ainavu
Sejas atpazīšanas tehnoloģija ir spēcīgs instruments cīņā pret terorismu, piedāvājot iespējas identificēt, uzraudzīt un izmeklēt, kas bija neiedomājami tikai pirms dažiem gadu desmitiem. Jauna tehnoloģija ir devusi valstij jaunas pilnvaras automatizēt iepriekš zināmo teroristu identificēšanu, kuri organizē uzbrukumus pilsoņiem, kurus valstij ir jāaizsargā, un vara to darīt, ja tā darbojas efektīvi, palīdzētu terorisma apkarošanā.
Tomēr šī tehnoloģija rada arī būtiskas problēmas, kas saistītas ar precizitāti, aizspriedumiem, privātumu un pilsoņu brīvībām. Šī problēma ir izplatīta sejas atpazīšanas programmatūrā, kas rada lielāku viltus pozitīvu rezultātu skaitu nebaltajiem cilvēkiem, un atšķirībā no sejas atpazīšanas programmatūras, ko izmanto, lai apcietinātu kādu, nepareizi apmācīts datortehnikas algoritms var nogalināt civiliedzīvotājus, darbību, ko nevar atsaukt. Pretterorisma lietojumos likmes ir īpaši augstas, kur kļūdas var novest pie nevainīgu cilvēku nepareizas aizturēšanas vai, gluži pretēji, bīstamu personu izvairīšanās no atklāšanas.
Turpmākais ceļš prasa līdzsvarot šos konkurējošos apsvērumus, rūpīgi izstrādājot politiku, veicot stingru uzraudzību, turpinot tehniskus uzlabojumus un turpinot dialogu ar sabiedrību. Ne vispārēji aizliegumi, kas kavē sejas atpazīšanu drošības nolūkos, ne neierobežota izvietošana bez aizsardzības pasākumiem, nav atbildīga pieeja. Tā vietā konteksta specifiskie regulējumi, kas ļauj izmantot lietderīgus līdzekļus, vienlaikus novēršot ļaunprātīgu izmantošanu, nepiedāvā vislabāko cerību, ka tiks izmantotas sejas atpazīšanas sniegtās drošības priekšrocības, vienlaikus aizsargājot pamattiesības.
Tā kā tehnoloģija turpina attīstīties un kļūst spējīgāka, nepieciešamība pēc pārdomātas pārvaldības kļūst steidzamāka. Šodien pieņemtie lēmumi par to, kā tiek attīstīta, izvērsta un regulēta sejas atpazīšana, veidos līdzsvaru starp drošību un brīvību turpmākajos gados. Lai saglabātu drošību un brīvību arvien sarežģītākā draudu vidē, ir būtiski nodrošināt, ka šie lēmumi tiek informēti ar pierādījumiem, ievērojot ētikas principus un ievērojot demokrātisku atbildību.
Lai uzzinātu vairāk par biometriskās drošības tehnoloģijām, apmeklējiet Valsts standartu un tehnoloģiju institūta Sejas atpazīšanas procesa pārbaudes programmu. Lai uzzinātu par privātuma apsvērumiem novērošanas tehnoloģijā, izpētījiet resursus no Elektroniskās robežas fonda. Lai skatītu starptautiskus skatījumus par sejas atpazīšanas regulējumu, skatiet Eiropas Parlamenta darbu pie AI regulējuma].