Table of Contents

Înțelegerea tehnologiei de recunoaștere facială și rolul său în securitatea modernă

Tehnologia de recunoaştere facială a apărut ca unul dintre cele mai transformative instrumente în lupta globală împotriva terorismului. Această tehnologie puternică permite identificarea rapidă şi exactă a persoanelor şi a ajutoarelor în prevenirea activităţilor teroriste şi în asigurarea siguranţei spaţiilor publice. Pe măsură ce ameninţările de securitate continuă să evolueze în complexitate şi scară, guvernele şi agenţiile de aplicare a legii din întreaga lume se îndreaptă tot mai mult către sisteme biometrice avansate pentru a-şi proteja cetăţenii şi infrastructura.

Conform cercetării privind piețele și piețele, piața de recunoaștere facială este gata să ajungă la 8,5 miliarde dolari în 2025, mai mult decât dublarea de la 3,8 miliarde dolari în 2020. Această creștere explozivă reflectă nu numai capacitățile de extindere a tehnologiei, ci și importanța sa critică în cadrele naționale de securitate. De la aeroporturi și puncte de trecere a frontierei la rețelele de supraveghere urbană și procesele de investigare, recunoașterea facială a devenit o componentă indispensabilă a strategiilor moderne de combatere a terorismului.

În centrul său, tehnologia de recunoaștere facială reprezintă o căsătorie sofisticată a vederii computerizate, inteligenței artificiale și analizei biometrice. Tehnologia digitalizează caracteristicile faciale umane în reprezentări matematice pe care computerele le pot procesa și compara, analizând caracteristicile faciale cheie, cum ar fi distanța dintre ochii persoanei, lățimea podului nasului, contururile maxilarului și structura pomeților, și apoi creează modele biometrice unice pentru a verifica identitatea în baze de date care conțin milioane de fețe. Această capacitate de a procesa și a se potrivi fețelor la viteze și scară fără precedent a schimbat fundamental modul în care agențiile de securitate abordează detectarea amenințării și prevenirea.

Evoluţia tehnologiei recunoaşterii faciale

De la începuturile timpurii la sistemele cu putere AI

Tehnologia merge înapoi la anii 1960, când un tip pe nume Woodrow Wilson Bledsoe a venit prima dată cu un sistem de sortare a fotografiilor de fețe folosind o tabletă specială. Aceste sisteme timpurii au fost rudimentare după standardele de astăzi, care necesită intrare manuală și care funcționează în condiții foarte controlate. În anii 70, unii oameni inteligenți au folosit 21 de markeri specifici, cum ar fi culoarea părului și grosimea buzelor, pentru a automatiza recunoașterea facială, și 80s/90s a văzut o nouă abordare numită Eigenface, care a devenit o fundație pentru sisteme moderne.

Adevăratul schimbător de jocuri a venit în anii 2000 cu social media, deoarece dintr-o dată au existat milioane de fotografii etichetate on-line, oferind acestor sisteme o bază de date masivă pentru a învăța de la. Această abundență de date de formare, combinate cu progrese în algoritmi de învățare mașină, a permis sistemelor de recunoaștere facială pentru a atinge rate de precizie care au fost anterior inimaginabile. Astăzi, cu AI și învățare profundă, sistemele de recunoaștere a feței pentru întreprinderi au devenit incredibil de exacte și rapide.

Cum funcționează sistemele de recunoaștere facială moderne

Sistemele moderne de recunoaștere facială operează printr-un proces multi-stadiu care se întâmplă în milisecunde. Prima etapă implică detectarea feței, în cazul în care sistemul identifică și localizează o față într-o imagine sau cadru video. Aceasta este urmată de alinierea feței, în cazul în care sistemul normalizează poziția, dimensiunea și orientarea feței pentru a asigura o analiză consecventă indiferent de unghiul sau distanța de la aparat.

Urmează extragerea caracteristicilor, în cazul în care sistemul identifică și măsoară caracteristicile faciale distincte. Aceste măsurători sunt transformate într-o reprezentare matematică numită șablon facial sau semnătură biometrică. În cele din urmă, sistemul efectuează corelarea prin compararea acestui șablon cu șablonul stocat într-o bază de date, generând un scor similar care indică probabilitatea unei potriviri.

Sistemele moderne de recunoaştere facială capturează şi analizează imagini ale oamenilor în cele mai dificile condiţii de vedere şi mişcare. Această capacitate este crucială pentru aplicaţiile de combatere a terorismului, unde suspecţii pot fi capturaţi pe imaginile de supraveghere în condiţii mai puţin ideale, inclusiv iluminarea slabă, ocluzia parţială sau în unghiuri oblice.

Aplicaţii strategice în operaţiunile de combatere a terorismului

Supravegherea în timp real și detectarea amenințărilor

Tehnologia de recunoaștere facială a apărut ca un instrument transformativ în combaterea terorismului, oferind capacități avansate de identificare, monitorizare și capturare a persoanelor de interes, cu accent pe trei aplicații specifice: supraveghere în timp real, control la frontieră și procese de investigație. În spațiile publice aglomerate, centre de transport, și în timpul evenimentelor majore, sistemele de recunoaștere facială pot scana continuu mulțimile și alerta instantaneu personalul de securitate atunci când o persoană de interes este detectată.

AI permite alertarea automată și verificarea identității unor grupuri vaste de oameni la o scară și ritm imposibil de realizat înainte. Această capacitate este deosebit de valoroasă în timpul evenimentelor de profil înalt în care mulțimile mari se adună, cum ar fi mitinguri politice, evenimente sportive sau festivaluri culturale. Agențiile de securitate pot implementa sisteme de recunoaștere facială pentru a monitoriza punctele de intrare și mișcările mulțimii, identificând potențiale amenințări înainte de a se materializa în atacuri.

Securitatea sporită asigură monitorizarea continuă în zonele cu trafic ridicat, identifică persoane de interes și localizează persoane dispărute cu o eficiență fără precedent. Capacitatea tehnologiei de a funcționa continuu fără oboseală face din aceasta un supliment neprețuit pentru personalul de securitate umană, care își poate concentra apoi atenția asupra anchetei alertelor și a răspunsului la amenințările potențiale.

Securitatea frontierelor și controlul imigrației

Trecerea frontierei și aeroporturile reprezintă puncte critice de control în eforturile de combatere a terorismului. Dacă o persoană (inclusiv un terorist) vine în Statele Unite de peste mări, el sau ea trece probabil printr-un punct de control al imigrației la portul de intrare și din perspectiva contraterorismului, acest punct de control este un punct de control în care ar putea fi teroristul cel mai vulnerabil. Tehnologia de recunoaștere facială a devenit un instrument esențial în aceste momente critice.

Se efectuează operațiuni de căutare a persoanelor care trec prin controlul frontierelor pentru a verifica dacă o persoană care trece printr-un control la frontieră este într-adevăr persoana reprezentată pe un document de identificare (de exemplu, un pașaport), iar Interpol a implementat sistemul său de proiect Primul pentru a ajuta autoritățile de stat să identifice luptători teroriști străini (FTF). Aceste sisteme pot procesa călătorii rapid, verificând în același timp identitatea acestora împotriva listei de teroriști cunoscuți sau suspectați, sporind semnificativ securitatea fără a crea blocaje majore în fluxul pasagerilor.

Biometrica poate preveni furtul de identitate și fraudarea imigrației în utilizarea documentelor de călătorie, deoarece un șablon biometric al amprentei digitale ar fi atașat la document, cum ar fi un pașaport sau viză, pe un cod de bare, chip sau bandă magnetică, ceea ce ar face dificilă asumarea identității altcuiva. Atunci când este combinată cu recunoașterea facială, această abordare biometrică multiplayeră creează o apărare solidă împotriva teroriștilor care încearcă să intre în țări folosind documente frauduloase sau identități furate.

Aplicații de investigare și criminalistică

Sistemele biometrice ar putea identifica teroriști cunoscuți sau suspectați folosind recunoașterea facială biometrică sau metoda FaceCheck atunci când o fotografie este disponibilă a suspectului terorist, iar acest lucru este căutată în baza de date sau în lista de supraveghere a șabloanelor unor teroriști suspectați. Această capacitate s-a dovedit neprețuită în cadrul anchetelor post-incidente, unde agențiile de securitate analizează înregistrările de supraveghere pentru a identifica autorii și asociații acestora.

Eficienţa aplicării legii accelerează identificarea suspectă şi soluţionarea cazurilor prin corelarea automată cu înregistrările existente. În loc să revizuiască manual orele de înregistrare şi să compare feţele cu ochiul, investigatorii pot folosi recunoaşterea facială pentru a căuta rapid prin arhive vaste de video de supraveghere, identificarea suspecţilor şi urmărirea mişcărilor lor în mai multe locaţii şi perioade de timp.

Armata SUA a recunoscut, de asemenea, valoarea strategică a recunoașterii faciale în operațiunile de combatere a terorismului. Comandamentul Special al Operațiunilor SUA (USSOCOM) stabilește bazele pentru o extindere semnificativă a capacităților sale de inteligență a identității și exploatare, conturând o viziune largă și ambițioasă din punct de vedere tehnic pentru modul în care Forțele Speciale de Operațiuni colectează, analizează și exploatează datele legate de identitate în timpul misiunilor, căutând să vadă cinci domenii de tehnologie primară: recunoaștere facială, identificarea difuzorului și potrivirea vocii, un ecosistem complet integrat de aplicare a SFO, analiza rapidă a ADN-ului și analiza de învățare a mașinilor.

Avantaje operaționale în prevenirea terorismului

Viteza și scala de identificare

Unul dintre cele mai importante avantaje ale tehnologiei de recunoastere faciala in contraterorism este capacitatea sa de a procesa si analiza chipurile cu viteze mult peste capacitatile umane. Noua tehnologie a dat statului putere de a automatiza identificarea teroristilor cunoscuti anterior care organizeaza atacuri asupra cetatenilor pe care statul ar trebui sa ii protejeze, iar puterea de a face acest lucru, daca functioneaza eficient, ar ajuta la combaterea terorismului, asa cum tehnologiile de recunoastere faciala promit sa dea statului exact acea putere.

Metodele tradiţionale de identificare a suspecţilor se bazau pe memoria umană şi pe compararea manuală a fotografiilor, proceselor care necesitau timp şi predispuse la erori. Un ofiţer de securitate care monitoriza un aeroport aglomerat nu putea urmări activ decât un număr limitat de persoane în acelaşi timp, şi chiar şi personalul cu cea mai mare experienţă ar putea rata un suspect într-o mare de feţe. Sistemele de recunoaştere facială, în schimb, pot monitoriza simultan sute sau mii de feţe, compara fiecare dintre ele în timp real, în comparaţie cu baze de date extinse.

Această capacitate este crucială în special în situaţiile sensibile la timp în care fiecare secundă contează. Când agenţiile de informaţii primesc informaţii despre o ameninţare iminentă, sistemele de recunoaştere facială pot fi implementate rapid pentru a scana reţelele de supraveghere din toate oraşele, găsind potenţial suspecţi în câteva minute, mai degrabă decât ore sau zile.

Capabilități de supraveghere îmbunătățite

Prin recunoaşterea biometrică, prin algoritmul de învăţare profundă şi prin analiza datelor de mare amploare, se îmbunătăţesc precizia şi eficienţa activităţii de informaţii, iar activitatea tradiţională de monitorizare devine o luptă orientată spre viitor şi defensivă. Recunoaşterea facială transformă supravegherea de la un instrument reactiv folosit în principal pentru investigaţiile post-incidenţă într-un sistem proactiv capabil să prevină atacurile înainte de a apărea.

Tehnologia permite agențiilor de securitate să creeze rețele cuprinzătoare de camere de supraveghere care funcționează ca un sistem integrat, nu ca puncte de observare izolate. Atunci când o persoană de interes este detectată într-o singură locație, sistemul poate urmări mișcările lor prin rețea, oferind personalului de securitate informații în timp real despre activitățile și asociațiile lor. Această capacitate este neprețuită pentru înțelegerea rețelelor teroriste și identificarea membrilor anterior necunoscuti ai organizațiilor extremiste.

În plus, sistemele de recunoaștere facială pot funcționa continuu fără limitările atenției și oboselii umane. În timp ce operatorii umani pot pierde detalii critice în timpul unor schimburi lungi sau perioade de activitate scăzută, sistemele automate păstrează vigilența consecventă, asigurându-se că nicio amenințare potențială nu trece neobservată.

Efect de deterrence

Prezenţa sistemelor de recunoaştere facială poate servi ca un factor de descurajare puternic pentru activităţile teroriste. Când potenţialii atacatori ştiu că feţele lor vor fi capturate şi analizate de sisteme biometrice sofisticate, acestea se confruntă cu riscuri semnificativ mai mari de identificare şi de teamă. Această conştientizare poate perturba procesele de planificare, îi poate obliga pe terorişti să adopte tactici mai puţin eficiente sau descurajează atacurile cu totul.

Efectul de descurajare se extinde dincolo de amenințarea imediată de identificare. Sistemele de recunoaștere facială creează un record digital permanent care poate fi analizat mult timp după un incident. Aceasta înseamnă că, chiar dacă teroriștii reușesc să evite detectarea imediată, lasă în urmă dovezi care pot fi utilizate pentru a le identifica mai târziu, a le urmări mișcările și a descoperi rețelele lor. Această responsabilitate pe termen lung adaugă un alt strat de risc pe care teroriștii trebuie să-l ia în considerare atunci când planifică operațiuni.

Optimizarea resurselor

Tehnologia de recunoaștere facială permite agențiilor de securitate să își optimizeze resursele limitate prin automatizarea sarcinilor de identificare de rutină și concentrarea expertizei umane acolo unde este cel mai necesar. În loc să atribuie personalului să monitorizeze manual feed-urile de supraveghere sau documentele de verificare la punctele de trecere a frontierei, agențiile pot implementa sisteme de recunoaștere facială pentru a gestiona aceste sarcini în timp ce operatorii umani se concentrează pe investigarea alertelor, efectuarea interviurilor și luarea deciziilor critice.

Această optimizare este deosebit de importantă având în vedere amploarea provocărilor de securitate moderne. Cu milioane de călători care trec zilnic prin aeroporturi și nenumărate ore de supraveghere a imaginilor generate în zonele urbane, ar fi imposibil să se revizuiască manual toate aceste informații. Sistemele de recunoaștere facială pot procesa automat această cantitate vastă de date, semnalând doar puțina fracțiune care necesită atenție umană.

Provocări critice și limitări tehnice

Exactitate şi fals pozitivi

În ciuda progreselor semnificative în tehnologia de recunoaștere facială, acuratețea rămâne o preocupare critică, în special în aplicațiile de combatere a terorismului, în cazul în care consecințele erorilor pot fi severe. Metoda de recunoaștere facială a fost identificată cu imperfecțiuni tehnologice și deficiențe, dar poate fi utilizată din punct de vedere operațional pentru a reduce la minimum slăbiciunile sale. Înțelegerea acestor limitări este esențială pentru implementarea responsabilă și eficientă a tehnologiei.

Deși ființele umane pot efectua procese de recunoaștere facială destul de bine, aceste activități sunt încă foarte provocatoare pentru sistemele tehnologice, deoarece dacă fotografia nu este capturată în condiții foarte controlate, sistemul poate avea dificultăți în identificarea individului sau chiar detectarea feței sale în fotografie, iar sistemul funcționează cel mai bine atunci când factorii de mediu, cum ar fi unghiul camerei foto, iluminatul, expresia facială și altele, sunt controlați în măsura maximă posibilă.

Fals pozitive, de asemenea, atunci când sistemul identifică pe cineva ca o persoană de interes, pune provocări speciale în contexte de combatere a terorismului. Cei pentru care tehnologia nu funcționează, precum și nu va fi capabil să fie verificate de către FRTs . . . . . . . . . . . . . .

NIST a efectuat recent un test la scară largă axat pe identificarea prejudecăților în cadrul FRT, cu un accent special pe rata fals pozitivă

Bias demografic și corectitudine algoritică

Una dintre cele mai grave provocări cu care se confruntă tehnologia de recunoaștere facială este prejudecata demografică, tendința sistemelor de a efectua mai puțin exact pe anumite grupuri demografice. Trei programe de analiză facială lansate pe plan comercial de la marile companii tehnologice demonstrează atât de tip de piele cât și de sex părtinitoare, iar în experimentele cercetătorilor, ratele de eroare ale celor trei programe în determinarea genului de bărbați cu pielea deschisă nu au fost niciodată mai rele decât 0,8 la sută, dar pentru femeile cu pielea închisă la culoare, ratele de eroare au fost totuși mai mari de 20% într-un singur caz și mai mari de 34 la sută în celelalte două.

Rata de eroare pentru bărbații cu pielea deschisă este de 0,8%, față de 34,7% pentru femeile cu pielea închisă la culoare, potrivit unui studiu din 2018 intitulat "Gender Shades" de Joy Buolamwini și Timnit Gebru, publicat de MIT Media Lab. Această discrepanță dramatică în ratele de acuratețe ridică preocupări serioase cu privire la echitate și tratament egal în temeiul legii atunci când recunoașterea facială este utilizată în contexte de securitate și de aplicare a legii.

Tonusul pielii afectează semnificativ precizia de verificare, cu tonuri mai ușoare ale pielii peste tonuri de medie-întuneric performante. Cercetarea a constatat, de asemenea, că subiecții de sex masculin, în general, a obținut o mai bună precizie de recunoaștere decât subiecții de sex feminin, atribuite unor factori cum ar fi ocluzia cauzată de părul mai lung și modificări ale aspectului facial din cauza machiajului.

În august 2023, o femeie de culoare a dat în judecată Departamentul de Poliție din Detroit după ce a fost arestată de ofițeri de poliție folosind software-ul de recunoaștere facială slab calibrat, iar această problemă este predominantă în software-ul de recunoaștere facială, care tinde să genereze o rată mai mare de fals pozitive pentru persoanele non-albe. Astfel de incidente demonstrează consecințele reale ale prejudecății algoritmice și subliniază nevoia urgentă de sisteme de recunoaștere facială mai echitabile.

Studiul NIST a găsit, de asemenea, rezultate părtinitoare atunci când a venit la est-asiatice, nativ american, american indian, Alaska indian, și Pacific Islanders se confruntă. Pervazivitatea acestor prejudecăți în mai multe grupuri demografice sugerează că problema este sistemică, mai degrabă decât izolat la populații specifice sau algoritmi.

Cauzele profunde ale bielor

Tehnologia de recunoaștere facială a făcut progrese mari în acuratețe datorită modelelor avansate de inteligență artificială (IAI) instruite pe seturi masive de date ale imaginilor faciale, dar aceste seturi de date nu au adesea diversitate în ceea ce privește rasa, etnia, sexul și alte categorii demografice, ceea ce a determinat sistemele de recunoaștere facială să funcționeze mai rău pe grupuri demografice subreprezentate în comparație cu grupurile omniprezente în datele de formare.

Problema de prejudecată provine din surse multiple. Seturile de date istorice folosite pentru formarea algoritmilor de recunoaştere facială au prezentat în principal chipuri de bărbaţi albi, reflectând demografia cercetătorilor şi instituţiilor care le-au creat. Când algoritmii învaţă să recunoască feţele în principal din acest set de date limitat, ei se comportă mai bine pe feţe similare şi se luptă cu feţe care diferă semnificativ de datele lor de formare.

Multe dintre aceste probleme atribuie majoritatea seturilor de date dezechilibrate. Cu toate acestea, problema se extinde dincolo de reprezentarea simplă. Chiar și atunci când seturile de date includ fețe diverse, alți factori, cum ar fi condițiile de iluminat, calitatea camerei și rezoluția imaginii pot afecta în mod disproporționat calitatea imaginilor pentru persoanele cu tonuri de piele mai întunecate, alte probleme de precizie.

Eforturi de a mitui bias

Cercetătorii și companiile tehnologice au recunoscut gravitatea problemei de prejudecată și lucrează activ la soluții. În 2018, Microsoft a anunțat că FRT-ul lor disponibil pe piață a fost supus unor actualizări pentru a îmbunătăți performanța în cadrul categoriilor de rasă și gen prin extinderea seturilor de date utilizate pentru formarea algoritmilor de învățare a mașinilor și prin îmbunătățirea clasificării feței pentru o mai mare precizie, iar aceste îmbunătățiri au dus, potrivit companiei, la rate de eroare de 20 de ori mai scăzute pentru tonurile de piele mai închisă și de 9 ori mai mici pentru femei.

Cercetătorii au pregătit trei modele de recunoaștere facială

În ceea ce privește setul de date FairFace, precizia a fost îmbunătățită de la 92,58% la 96,47%, în timp ce gradul Bias (DoB) a fost redus de la 3,86 la 1,16, ceea ce reprezintă o reducere de aproximativ 70% și, în special, au fost observate câștiguri semnificative de performanță pentru grupurile subreprezentate, cum ar fi o îmbunătățire a preciziei pentru femeile de culoare de la 80,2% la 90,86%, menținând în același timp o performanță puternică pentru grupurile deja bine reprezentate.

Reţeaua depozitivă (DebFace), utilizează un codor de imagini la fisură, patru abrevieri, un abrevieri de distribuţie şi o reţea de agregare a caracteristicilor, şi cei patru traheeri, vârstă, rasă şi identitate, transformă potenţiale prejudecăţi în caracteristici informate, îmbunătăţind astfel performanţa în grupurile subreprezentate. Aceste inovaţii arhitecturale demonstrează că atenuarea tendinţelor este fezabilă din punct de vedere tehnic, deşi rămân lucrări semnificative pentru implementarea acestor soluţii în toate sistemele utilizate.

Preocupări privind confidențialitatea și libertăți civile

Supravegherea în masă și drepturile de confidențialitate

Majoritatea lucrurilor puternice au o latură întunecată, iar FRT nu face excepţie, deoarece ridică probleme şi preocupări serioase în ceea ce priveşte viaţa privată, etică şi impactul societal general. Implementarea tehnologiei de recunoaştere facială în scopuri de combatere a terorismului a stârnit dezbateri intense despre echilibrul dintre securitate şi intimitate, criticii argumentând că supravegherea extinsă ameninţă libertăţile civile fundamentale.

Provocările juridice, etice și de confidențialitate în jurul supravegherii în masă includ preocupări legate de identificarea greșită, frauda și prejudecată în baza de date. Capacitatea de a urmări mișcările persoanelor în spațiile publice fără cunoștințele sau consimțământul acestora ridică întrebări profunde cu privire la natura vieții private în societatea modernă și limitele adecvate ale competențelor de supraveghere guvernamentale.

Criticii indică riscuri semnificative de confidențialitate și posibile încălcări ale libertăților civile, trezirea preocupărilor cu privire la colectarea neautorizată de date, lipsa consimțământului, și potențialul de funcționare ciudate. Prin care datele colectate într-un singur scop sunt utilizate într-un scop fără legătură cu un scop fără cunoștințe sau consimțământul persoanei. Teama este că sistemele utilizate inițial pentru combaterea terorismului ar putea crește treptat pentru a monitoriza cetățenii obișnuiți implicați în activități legale, creând un stat de supraveghere care răcește libertatea de exprimare și asociere.

Motivele invocate pentru o astfel de interdicție sunt că TRT-urile suferă de prejudecăți pervazive care au ca rezultat beneficiile și prejudiciile să fie distribuite inegal între grupuri, statul va folosi inevitabil aceste tehnologii în scopuri nelegitime și că existența TRT-urilor ne calmează comportamentul (adică, îi determină pe oameni să se cenzureze de teama supravegherii). Acest efect de răcire ar putea submina participarea democratică prin descurajarea oamenilor de la participarea la proteste, mitinguri politice sau alte adunări publice unde ar putea fi identificați și urmăriți.

Răspunsurile și interdicțiile în materie de reglementare

În 2019, San Francisco a devenit primul oraș american care a interzis tehnologia de recunoaștere facială (FRT), vetoindu-și în mod specific utilizarea de către poliție și alte agenții, iar de atunci, alte câteva orașe americane au implementat propriile interdicții similare FRT, consilierii orașului Boston subliniind în mod explicit o problemă particulară: prejudecata tehnologiei. Aceste interdicții reflectă preocuparea din ce în ce mai mare a publicului cu privire la potențialul tehnologiei de abuz și problemele demonstrate cu acuratețe și echitate.

Mai mult de o duzină de orașe mari au interzis tehnologia, inclusiv Minneapolis, Boston, și San Francisco. Totuși, aceste interdicții locale nu au împiedicat agențiile federale și multe alte jurisdicții să continue să desfășoare recunoașterea facială în scopuri de securitate, creând un mozaic de reglementări care variază semnificativ de locație.

Uniunea Europeană a adoptat o abordare mai cuprinzătoare, prin utilizarea tehnologiilor de recunoaştere facială în contextul protestelor paşnice care ridică riscul practicilor de supraveghere în masă şi al implicaţiilor pentru protecţia drepturilor omului. Autorităţile europene de reglementare au propus limitări stricte privind utilizarea recunoaşterii faciale în spaţiile publice, unele pledând pentru interzicerea completă, cu excepţia unor circumstanţe strict definite care implică infracţiuni grave sau ameninţări iminente.

Echilibrarea securităţii şi libertăţii

Este esențial ca, dacă statul poate utiliza această tehnologie pentru a-și spori puterea de a combate terorismul, această putere să fie constrânsă astfel încât abuzurile și comportamentul refrigerat să nu aibă loc, iar statul trebuie să creeze constrângeri instituționale care să permită utilizarea TRT-urilor doar în locuri în care oamenii nu (și nu ar trebui) să se bucure de o așteptare rezonabilă de confidențialitate (de exemplu, aeroporturi, traversări de frontieră).

Camerele dotate cu FRT trebuie marcate pentru a asigura publicul că nu sunt supravegheați în locuri în care ar trebui să aibă o așteptare rezonabilă pentru intimitate, iar FRT ar trebui să fie limitate la găsirea unor infractori grave (de exemplu, teroriști). Aceste constrângeri propuse reprezintă o încercare de a păstra beneficiile de securitate ale recunoașterii faciale, limitându-i în același timp potențialul de abuz și de protecție a libertăților civile.

FRT reprezintă un instrument puternic în arsenalul contraterorismului, care permite măsuri de securitate care anterior nu erau realizabile, dar aceasta este o tehnologie care necesită un echilibru extrem de judicios între beneficiile sale clare și considerațiile etice importante cu care este asociat, și în prezent, ar putea fi cazul ca echilibrul să fie înclinat prea departe în favoarea beneficiilor clare ale FRT și nu suficient în favoarea corectitudinii, confidențialității și integrității etice care ar trebui să ghideze implementarea sa.

Cadrul juridic și etic

Considerații constituționale și privind drepturile omului

Programele FRT utilizate de forţele de ordine în identificarea suspecţilor de crimă sunt substanţial mai predispuse la erori pe imaginile faciale care descriu tonuri mai întunecate ale pielii şi femelelor comparativ cu imaginile faciale care descriu masculii caucazieni, iar această tendinţă poate duce la anchetarea greşită a cetăţenilor de către poliţie de-a lungul liniilor rasiale şi de gen, aplicarea legii privind folosirea de părtinitori a FRT fiind incompatibilă cu cerinţa liberală clasică conform căreia guvernul tratează toţi cetăţenii în mod egal înaintea legii.

Clauza de protecţie egală a multor constituţii impune ca acţiunile guvernamentale să nu facă discriminări pe baza rasei, genului sau a altor caracteristici protejate. Atunci când sistemele de recunoaştere facială demonstrează o prejudecată sistematică împotriva anumitor grupuri demografice, utilizarea lor de către agenţiile guvernamentale poate încălca aceste protecţii constituţionale. Aceasta creează o dilemă juridică: în timp ce tehnologia poate spori securitatea, performanţele ei părtinitoare ar putea face ca utilizarea lor să fie neconstituţională sau să încalce legea drepturilor omului.

Oamenii de ştiinţă şi-au exprimat îngrijorarea cu privire la utilizarea de către autorităţile de aplicare a legii a TFT pentru identificarea suspecţilor de infracţiuni, menţionând că este foarte probabil ca un astfel de software să fie folosit pentru identificarea suspecţilor şi, astfel, o eroare în producerea unui algoritm de recunoaştere facială folosit ca input pentru alte sarcini poate avea consecinţe grave, deoarece cineva ar putea fi acuzat pe nedrept de o crimă bazată pe identificarea eronată dar încrezătoare a făptaşului din analiza înregistrărilor video de securitate.

Transparență și responsabilitate

Acesta recomandă o reglementare solidă, cooperare internațională și guvernanță transparentă pentru a garanta că utilizarea tehnologiei de recunoaștere facială a AI este compatibilă cu drepturile omului și libertățile fundamentale. Transparență privind modul în care funcționează sistemele de recunoaștere facială, ratele de precizie ale acestora și limitările acestora sunt esențiale pentru încrederea publică și responsabilitatea democratică.

Stabilirea unor legi clare și cuprinzătoare legate de utilizarea tehnologiei de recunoaștere facială, alinierea standardelor globale la cadrele naționale pentru asigurarea coerenței și autorizarea auditurilor periodice ale sistemelor FRT pentru asigurarea respectării orientărilor etice. Auditarea periodică poate contribui la identificarea problemelor cu acuratețe sau prejudecată înainte ca acestea să producă daune grave, în timp ce cadrele juridice clare oferă orientări agențiilor de securitate cu privire la utilizările adecvate ale tehnologiei.

Riscurile nu ar trebui să conducă la moratoriuri privind utilizarea AI sau interzicerea anumitor platforme, ci ar trebui să fie mai degrabă să fie chemarea guvernelor la acțiuni pentru a solicita o mai bună proiectare a instrumentelor lor AI/ML, ceea ce înseamnă obținerea de date mai bune și crearea unor regimuri de testare intense care să limiteze riscurile și să expună deficiențe cât mai mult posibil, iar o modalitate de a sprijini acest lucru este aplicarea unor standarde și politici de transparență care să ofere guvernelor informații cu privire la motivele pentru fiecare acțiune pe care le adoptă un sistem.

Protecția datelor și păstrarea acestora

Statul nu ar trebui să utilizeze companii terţe care încalcă primele trei condiţii în timpul creării sau utilizării serviciului său, iar companiile terţe nu ar trebui să poată accesa sau citi datele sensibile colectate de stat. Datele biometrice colectate de sistemele de recunoaştere facială sunt extrem de sensibile şi personale, cerând protecţii solide împotriva accesului neautorizat, utilizării abuzive sau încălcării datelor.

Întrebările despre păstrarea datelor sunt deosebit de importante. Cât timp ar trebui stocate datele de recunoaștere facială? Cine ar trebui să aibă acces la acestea? În ce circumstanțe poate fi împărtășit cu alte agenții sau țări? Aceste întrebări nu au răspunsuri clare în multe jurisdicții, creând incertitudine cu privire la implicațiile pe termen lung ale implementării recunoașterii faciale.

Riscul de încălcare a datelor este, de asemenea, semnificativă. O bază de date care conține date de recunoaștere facială pentru milioane de oameni ar fi o țintă atractivă pentru hackeri, servicii de informații externe, sau organizații criminale. Dacă aceste date au fost compromise, ar putea fi utilizat pentru furt de identitate, urmărire, sau alte scopuri rău intenționate, cu consecințe care ar putea persista de ani sau decenii.

Perspective şi desfăşurare internaţională

Modele de adopție globală

Aplicarea legii: În prezent, recunoașterea facială se situează ca cea mai răspândită tehnologie de supraveghere a AI adoptată la nivel mondial, cu o rată de adoptare de 64%, depășind atât platformele orașelor inteligente, cât și inițiativele de poliție inteligentă. Această adoptare pe scară largă reflectă atât valoarea percepută a tehnologiei pentru securitate, cât și diferitele abordări de reglementare adoptate de diferite țări.

Ţările se confruntă cu ameninţări diferite de securitate şi au atitudini culturale diferite faţă de intimitate şi supraveghere, ceea ce duce la variaţii semnificative în modul în care este implementată recunoaşterea facială. Unele naţiuni au îmbrăţişat cu entuziasm tehnologia, implementând-o pe scară largă în spaţiile publice cu restricţii minime. Altele au adoptat o abordare mai precaută, limitând utilizarea acesteia la contexte specifice de înaltă securitate sau impunând cerinţe stricte de supraveghere.

Furl et al. (2002) a constatat că FRT a dezvoltat și utilizat în țările occidentale au fost mai precise pentru imaginile faciale caucaziene, în timp ce în țările din Asia de Est algoritmii FRT au fost mai exacte pentru imagini faciale din Asia de Est. Această constatare subliniază importanța dezvoltării sistemelor de recunoaștere facială care sunt instruite pe seturi de date diverse reprezentative ale populațiilor unde vor fi utilizate.

Cooperarea internațională și standardele

Terorismul este o amenințare transnațională care necesită o cooperare internațională pentru a combate eficient. Tehnologia de recunoaștere facială poate facilita această cooperare, permițând țărilor să facă schimb de informații despre teroriștii cunoscuți sau suspectați și să își coordoneze eforturile de supraveghere. Cu toate acestea, această dimensiune internațională ridică întrebări complexe cu privire la schimbul de date, protecția vieții private și drepturile omului.

Diferite ţări au standarde juridice diferite pentru protecţia vieţii private, păstrarea datelor şi procesul corespunzător. Atunci când datele de recunoaştere facială sunt împărţite peste graniţe, acestea pot fi supuse unor protecţii mai puţin stricte în ţara de primire decât în ţara în care a fost colectată. Aceasta creează riscuri ca datele colectate în cadrul protecţiei stricte a vieţii private să poată fi utilizate în mod abuziv de către guvernele străine cu garanţii mai slabe.

Organizaţiile internaţionale precum Interpolul au dezvoltat sisteme pentru facilitarea utilizării transfrontaliere a recunoaşterii faciale pentru combaterea terorismului. Aceste sisteme trebuie să navigheze pe un teren juridic şi politic complex, echilibrând beneficiile de securitate ale schimbului de informaţii împotriva preocupărilor legate de confidenţialitate, drepturile omului şi suveranitatea naţională. Dezvoltarea standardelor şi acordurilor internaţionale pentru utilizarea responsabilă a recunoaşterii faciale în combaterea terorismului rămâne o provocare continuă.

Percepţia şi încrederea publicului

Factori care influenţează acceptarea publică

Advocatii FRT isi evidentiaza potentialul in siguranta publica, prevenirea infractiunilor si contraterorism, mentionand ca FRT permite agentiilor si organizatiilor de aplicare a legii sa identifice suspectii si sa previna accesul neautorizat la arii si spatii unde sunt prezente active valoroase sau populatii vulnerabile. Sprijinul public pentru recunoasterea faciala depinde adesea de contextul specific in care este utilizat, cu o mai mare acceptare pentru aplicatii de securitate in medii cu risc ridicat precum aeroporturile.

Încrederea în instituțiile care implementează recunoașterea facială este un factor critic în acceptarea publică. Atunci când oamenii au încredere că agențiile de securitate vor utiliza tehnologia în mod responsabil și cu o supraveghere adecvată, acestea sunt mai susceptibile de a accepta implementarea sa. În schimb, atunci când încrederea este scăzută din cauza abuzurilor anterioare, lipsa de transparență, sau preocupările legate de opoziția publică partizană tind să fie mai puternice.

Adoptarea cu succes și pe scară largă a FRT depinde nu numai de viteza și precizia sa, ci și de încrederea publicului în algoritmii pe care îi pot folosi dispozitivele de recunoaștere facială și de faptul că încrederea va fi dificil de construit, în timp ce exemplele de prejudecăți rasiale și rezultate fals pozitive continuă să umbrească îmbunătățirile anuale care se fac în precizia și funcționalitatea generală a software-ului.

Consolidarea încrederii publice

Promovarea angajamentului public de a aborda problemele și de a construi încredere. Implicarea publică semnificativă necesită mai mult decât simpla informare a oamenilor cu privire la implementarea recunoașterii faciale; aceasta înseamnă crearea de oportunități pentru un dialog veritabil cu privire la beneficiile, riscurile și limitele adecvate ale tehnologiei.

Transparenţa privind performanţa sistemului este esenţială pentru construirea încrederii. Agenţiile de securitate ar trebui să raporteze public ratele de precizie, inclusiv descreşterile pe grupuri demografice, ratele fals pozitive şi informaţiile despre modul în care tehnologia este utilizată şi supravegheată. Această transparenţă permite publicului să facă hotărâri informate cu privire la justificarea costurilor de protecţie a vieţii private şi la utilizarea corectă a tehnologiei.

Demonstrarea responsabilităţii atunci când apar probleme este de asemenea crucială. Când sistemele de recunoaştere facială duc la detenţii sau alte daune, agenţiile trebuie să recunoască aceste eşecuri, să compenseze victimele şi să ia măsuri concrete pentru a preveni recurenţa. Un model de negare a problemelor sau de deviere a responsabilităţii va eroda încrederea publică şi va alimenta opoziţia faţă de tehnologie.

Evoluții viitoare și tehnologii emergente

Avansuri în precizie și capacitate

În ultimii ani, cu arhitecturi avansate și creșterea numărului de straturi și parametri, modelele de FR au câștigat o îmbunătățire substanțială a capacității lor de a învăța reprezentări faciale complexe, iar aceste arhitecturi mai profunde, care cuprind adesea peste o sută de straturi cu milioane de parametri, au îmbunătățit semnificativ capacitatea sistemelor de FR de a generaliza scenariile provocatoare, ceea ce a dus la o performanță de recunoaștere globală mai mare (precum și la o prejudecată redusă), și, în plus, disponibilitatea unor seturi de date mai mari, mai diverse, a contribuit la îmbunătățirea rezultatelor învățării, deoarece aceste seturi de date, care includ variații substanțiale demografice și covariate, cum ar fi poziția, iluminarea și expresia (PIE), au facilitat progrese măsurabile în îmbunătățirea atât acurateței, cât și a corectitudinii FR.

Sistemele viitoare de recunoaștere facială vor include probabil mai multe modalități biometrice, combinând recunoașterea facială cu scanarea irisului, analiza mersului, recunoașterea vocii și alte tehnici. Această abordare multimodală poate îmbunătăți acuratețea prin corelarea multiplelor semnături biometrice, reducând impactul erorilor în orice sistem unic. De asemenea, poate îngreuna evitarea detecției teroriștilor prin deghizarea sau modificarea aspectului lor.

Progresele în inteligența artificială, în special în învățarea profundă și rețelele neurale, continuă să împingă limitele a ceea ce sistemele de recunoaștere facială pot realiza. Aceste sisteme devin mai bune la recunoașterea fețelor în condiții dificile, cum ar fi iluminatul slab, ocluzia parțială sau unghiurile extreme. Ele devin, de asemenea, mai rapide, permițând analiza în timp real a fluxurilor video de înaltă rezoluție de la mai multe camere simultan.

Integrarea cu alte sisteme de informații

Viitorul recunoașterii faciale în contraterorism nu constă doar în îmbunătățirea tehnologiei în sine, ci și în integrarea acesteia cu alte sisteme de informații și de securitate. Atunci când recunoașterea facială este combinată cu analiza comportamentală, cartografierea rețelelor sociale, monitorizarea comunicațiilor și alte surse de informații, ea devine parte a unui sistem cuprinzător de detectare a amenințărilor care este mai mare decât suma părților sale.

De exemplu, recunoaşterea facială ar putea identifica o persoană de interes la un aeroport, declanşând o analiză suplimentară a modelelor lor de călătorie, tranzacţiilor financiare, comunicaţiilor şi asociaţilor cunoscuţi. Această abordare integrată permite agenţiilor de securitate să construiască o imagine mai completă a potenţialelor ameninţări şi să ia decizii mai informate cu privire la modul de reacţie.

Cu toate acestea, această integrare amplifică și preocupările legate de confidențialitate. Un sistem care combină recunoașterea facială cu date extinse din alte surse creează capacități de supraveghere fără precedent care ar putea fi utilizate pentru a monitoriza practic fiecare aspect al vieții oamenilor. Asigurarea faptului că astfel de sisteme puternice sunt utilizate doar în scopuri de securitate legitime și cu supravegherea adecvată va fi o provocare critică pentru factorii de decizie politică.

Emerging Contramăsuri și Rasă de arme

Pe măsură ce tehnologia de recunoaștere facială devine mai răspândită în contraterorism, adversarii dezvoltă contramăsuri pentru a evita detectarea. Acestea variază de la tehnici simple, cum ar fi purtarea măștilor sau ochelarilor de soare la abordări mai sofisticate, cum ar fi modele de machiaj adversariale concepute pentru a confunda algoritmii de recunoaștere facială sau utilizarea tehnologiei de adâncime fals pentru a crea identități false.

Aceasta creează o cursă tehnologică continuă de arme, agențiile de securitate lucrând pentru a îmbunătăți sistemele de recunoaștere facială în timp ce teroriștii și alți adversari dezvoltă noi modalități de a le învinge. Eficacitatea recunoașterii faciale în combaterea terorismului va depinde nu doar de capacitățile inerente tehnologiei, ci și de cât de bine se poate adapta la tehnicile de evaziune în evoluție.

Unii cercetători explorează modalități de a face sistemele de recunoaștere facială mai robuste împotriva contramăsurilor, cum ar fi utilizarea imaginilor în infraroșu pentru a detecta fețele chiar și atunci când acestea sunt parțial acoperite, sau analiza mersului și limbajului corpului, pe lângă caracteristicile faciale. Alții dezvoltă sisteme de detectare a viuitudinii care pot distinge între fețele reale și fotografii, măști sau ecrane video, prevenind atacurile.

Cele mai bune practici și recomandări

Standarde tehnice și încercări

Testele NIST privind recunoaşterea facială (FURT) au evaluat peste 400 de algoritmi de recunoaştere facială din 2017, oferind o imagine asupra ratingurilor de precizie generale ale tuturor dezvoltatorilor participanţi. Testarea rigidă şi independentă a sistemelor de recunoaştere facială înainte de desfăşurare este esenţială pentru a se asigura că acestea îndeplinesc standardele minime de precizie şi corectitudine.

Testarea ar trebui să includă evaluarea în diferite grupuri demografice pentru a identifica și cuantifica orice prejudecăți în performanța sistemului. Sistemele care demonstrează niveluri inacceptabile de prejudecată nu ar trebui să fie utilizate până când aceste probleme sunt corectate. Testarea ar trebui, de asemenea, să evalueze performanța în condiții operaționale realiste, nu doar în medii de laborator controlate.

Monitorizarea și evaluarea continuă după implementare sunt la fel de importante. Performanțele sistemului se pot degrada în timp ca și vârsta algoritmilor sau ca populația care este monitorizată modificări. Auditurile periodice pot identifica problemele emergente și pot asigura că sistemele continuă să respecte standardele de performanță pe toată durata lor de viață operațională.

Orientări operaționale

Agenţiile de securitate care desfăşoară recunoaşterea facială pentru combaterea terorismului ar trebui să stabilească orientări operaţionale clare care să specifice când şi cum poate fi utilizată tehnologia. Aceste orientări ar trebui să abordeze întrebări precum: Ce nivel de încredere este necesar înainte de a lua măsuri? Ce verificare suplimentară este necesară înainte de a reţine pe cineva bazat pe un meci de recunoaştere facială? Cum ar trebui utilizat sistemul în coroborare cu judecata umană?

Nici oamenii, nici algoritmii nu sunt infailibili, iar slăbiciunile similare ale judecăţii umane pot afecta utilizarea tehnologiilor de recunoaștere facială, deoarece indivizii ar putea avea încredere în producerea unui algoritm care să creadă că trebuie să fie " ți-e mai mult decât propria lor judecată despre dacă două imagini se potrivesc, în ciuda prejudecăților sau a inexactităților subiacente în tehnologie. Formarea personalului care utilizează sisteme de recunoaștere facială ar trebui să sublinieze că tehnologia este un instrument de a ajuta la luarea deciziilor umane, nu un înlocuitor pentru judecata umană.

Operatorii ar trebui să fie instruiţi să înţeleagă limitele sistemului, inclusiv potenţialul său de prejudecată şi fals pozitive. Ei ar trebui încurajaţi să exercite o judecată independentă şi să nu se bazeze numai pe rezultate algoritmice, în special atunci când consecinţele erorilor sunt severe. Protocoalele clare ar trebui să specifice ce investigaţii suplimentare sau verificări sunt necesare înainte de a lua măsuri bazate pe o potrivire de recunoaştere facială.

Mecanisme de supraveghere și de responsabilizare

Mecanismele de supraveghere robuste sunt esențiale pentru a asigura utilizarea adecvată a tehnologiei de recunoaștere facială și identificarea și corectarea abuzurilor. Această supraveghere ar trebui să includă atât mecanisme interne în cadrul agențiilor de securitate, cât și supraveghere externă de către organisme independente, cum ar fi comisari pentru protecția vieții private, comitete legislative sau control judiciar.

Agenţiile ar trebui să menţină jurnalele detaliate ale modului în care sunt utilizate sistemele de recunoaştere facială, inclusiv ce se efectuează căutările, cine le efectuează şi ce acţiuni au ca rezultat. Aceste jurnale ar trebui să facă obiectul unui audit periodic pentru a asigura respectarea politicilor şi identificarea oricărui tip de utilizare abuzivă. Când sunt identificate probleme, ar trebui să existe mecanisme clare de responsabilitate pentru a se asigura că părţile responsabile se confruntă cu consecinţe adecvate.

Organismele externe de supraveghere ar trebui să aibă autoritatea și resursele necesare pentru a efectua o revizuire semnificativă a programelor de recunoaștere facială. Aceasta include accesul la informații tehnice despre modul în care funcționează sistemele, datele de performanță și jurnalele operaționale. Organismele de supraveghere ar trebui să aibă, de asemenea, puterea de a impune modificări programelor care încalcă standardele legale sau etice.

Studii de caz și aplicații în lumea reală

Implementarea aeroporturilor și a securității frontierelor

Aeroporturile și punctele de trecere a frontierei au fost printre primii și cei mai mari adoptatori de tehnologie de recunoaștere facială în scopuri de combatere a terorismului. Aceste medii controlate oferă mai multe avantaje pentru implementarea recunoașterii faciale: călătorii trebuie să treacă prin puncte de control desemnate, iluminat și unghiuri de cameră pot fi optimizate, și există o justificare clară de securitate pentru verificarea identității.

Multe țări au implementat recunoașterea facială la punctele de control al imigrației pentru a verifica dacă călătorii se potrivesc cu fotografiile lor din pașaport și pentru a le verifica împotriva listei de supraveghere a teroriștilor cunoscuți sau suspectați. Aceste sisteme au procesat milioane de călători, unele aeroporturi raportând că recunoașterea facială le-a permis să identifice persoane care încearcă să călătorească pe documente frauduloase sau folosind identități furate.

Tehnologia a fost, de asemenea, implementat pentru a accelera procesarea pentru călătorii de încredere prin programe care permit persoanelor pre-ecranate să utilizeze porți automate care verifică identitatea lor prin recunoaștere facială. Această dublă utilizare atât de securitate și comoditate a contribuit la acceptarea publică a tehnologiei în contextele aeroportului.

Rețelele de supraveghere urbană

Unele orașe au implementat rețele extinse de camere dotate cu capacități de recunoaștere facială pentru a monitoriza spațiile publice pentru amenințări de securitate. Aceste sisteme pot urmări mișcările persoanelor din oraș, putând identifica teroriștii care efectuează supravegherea țintelor potențiale sau întâlnirea cu co-conspiratorii.

Cu toate acestea, rețelele de supraveghere urbană au generat și controverse semnificative din cauza potențialului lor de supraveghere în masă a cetățenilor obișnuiți. Criticii susțin că aceste sisteme creează un efect de răcire asupra libertății de exprimare și de asociere, deoarece oamenii pot evita anumite locații sau activități dacă știu că sunt urmărite. Echilibrul dintre beneficiile de securitate și costurile de confidențialitate este deosebit de dificil de atins în aceste aplicații.

Unele jurisdicţii au încercat să abordeze aceste preocupări prin limitarea utilizării recunoaşterii faciale în spaţiile publice la circumstanţe specifice, cum ar fi investigarea unor infracţiuni grave sau răspunsul la ameninţări iminente. Altele au cerut ca camerele să fie marcate în mod clar şi ca publicul să fie informat cu privire la locul în care este implementată recunoaşterea facială. Aceste abordări încearcă să menţină unele beneficii de securitate, limitând în acelaşi timp aspectele cele mai intruzive ale supravegherii în masă.

Securitatea evenimentelor și monitorizarea mulțimii

Evenimente publice majore, cum ar fi convenţiile politice, summit-urile internaţionale sau evenimentele sportive mari, reprezintă obiective atractive pentru terorişti şi necesită măsuri de securitate intense. Recunoaşterea facială a fost desfăşurată la astfel de evenimente pentru a monitoriza mulţimile şi a identifica potenţiale ameninţări în rândul participanţilor.

Aceste desfasurari temporare ofera unele avantaje in raport cu retelele de supraveghere permanente. Ele sunt limitate in timp si domeniu de aplicare, axate mai mult pe evenimente specifice cu risc ridicat decat pe monitorizarea continua a spatiilor publice. Ele pot fi justificate de amenintarea de securitate ridicata asociata cu evenimente majore care atrag multimi mari si obiective de profil ridicat.

Cu toate acestea, cererile de securitate a evenimentelor ridică, de asemenea, preocupări, în special atunci când recunoaşterea facială este utilizată pentru monitorizarea protestelor politice sau demonstraţiilor. Tehnologia ar putea fi folosită pentru identificarea şi urmărirea activiştilor politici, posibil pentru a răci exprimarea politică legitimă. Orientări clare privind momentul şi modul în care recunoaşterea facială poate fi utilizată la evenimente publice sunt esenţiale pentru prevenirea abuzurilor.

Calea înainte: echilibru de securitate și drepturi

Dezvoltarea unor cadre de utilizare responsabilă

Viitorul recunoașterii faciale în combaterea terorismului depinde de elaborarea unor cadre care să permită utilizarea eficientă a tehnologiei în scopuri de securitate legitime, protejând în același timp libertățile civile și asigurând echitatea.

Astfel de cadre ar trebui să se bazeze pe principii clare: recunoașterea facială ar trebui utilizată numai atunci când este necesar și proporțional cu amenințarea la adresa securității; ar trebui să fie utilizate cu garanții adecvate împotriva abuzurilor; ar trebui să facă obiectul unei supravegheri și al unei răspunderi semnificative; și ar trebui evaluată și îmbunătățită în permanență pentru a aborda problemele cu acuratețe și prejudecată.

Diferite contexte pot necesita abordări diferite. Utilizarea recunoașterii faciale la punctele de trecere a frontierei, în cazul în care există o justificare clară a securității și o așteptare limitată a vieții private, poate fi mai acceptabilă decât utilizarea sa pentru supravegherea continuă a spațiilor publice. Cadrele specifice contextului pot oferi orientări mai nuanțate decât regulile unice.

Investiţii în cercetare şi dezvoltare

Investiţiile continue în cercetare pentru îmbunătăţirea tehnologiei de recunoaştere facială sunt esenţiale. Aceasta include nu doar îmbunătăţirea preciziei şi vitezei, ci şi abordarea în mod specific a problemelor cu părtinire şi corectitudine. Studii la scară largă şi standardizate, cum ar fi ajutorul NIST pentru a descoperi defecte comune în cadrul FRT, şi, ca atât oameni de ştiinţă şi angajaţi, inginerii care dezvoltă FRT sunt însărcinaţi cu îmbunătăţirea rezultatelor software-ului în recunoaşterea imaginilor cu tonuri mai întunecate ale pielii

Cercetarea ar trebui să exploreze, de asemenea, abordări alternative care pot oferi protecţii mai bune ale vieţii private, menţinând în acelaşi timp beneficiile de securitate. De exemplu, sistemele care analizează modele comportamentale sau detectează anomalii fără a identifica anumite persoane ar putea oferi informaţii utile privind securitatea cu mai puţine intruziuni în viaţa privată decât recunoaşterea facială tradiţională.

Cercetarea interdisciplinară care reunește oameni de știință, cercetători sociali, etici și cercetători în domeniul mediului juridic poate contribui la identificarea și abordarea provocărilor complexe pe care le ridică tehnologia de recunoaștere facială. Înțelegerea nu doar a capacităților tehnice, ci și a implicațiilor sociale, etice și juridice este esențială pentru dezvoltarea și implementarea responsabilă.

Cooperarea internațională și standardele

Având în vedere caracterul transnațional al terorismului, cooperarea internațională privind standardele și practicile de recunoaștere facială este importantă. Țările ar trebui să colaboreze pentru a elabora standarde comune pentru acuratețe, echitate și protecția vieții private, respectând în același timp diferite tradiții juridice și valori culturale.

Acordurile internaționale ar putea stabili standarde minime pentru sistemele de recunoaștere facială utilizate în combaterea terorismului, asigurându-se că datele partajate transfrontalier îndeplinesc cerințele de bază pentru acuratețe și fiabilitate. Acestea ar putea, de asemenea, să stabilească protocoale pentru schimbul de date care protejează confidențialitatea și drepturile omului, permițând totodată o cooperare eficientă împotriva amenințărilor teroriste.

Cu toate acestea, cooperarea internațională trebuie să fie echilibrată împotriva preocupărilor legate de a permite regimurilor autoritare să utilizeze recunoașterea facială pentru represiunea politică. Țările democratice ar trebui să fie prudente în ceea ce privește schimbul de tehnologie de recunoaștere facială sau de date cu guvernele care nu dispun de protecție puternică a drepturilor omului și de statul de drept. Standardele internaționale ar trebui să includă garanții pentru a preveni utilizarea tehnologiei în scopuri nelegitime.

Concluzie: Navigarea peisagistica complexa

Tehnologia de recunoaştere facială reprezintă un instrument puternic în lupta împotriva terorismului, oferind capacităţi de identificare, supraveghere şi investigaţie de neimaginat cu doar câteva decenii în urmă. Noua tehnologie a dat statului o nouă putere de automatizare a identificării teroriştilor cunoscuţi anterior care organizează atacuri asupra cetăţenilor pe care statul ar trebui să-i protejeze, iar puterea de a face acest lucru, dacă funcţionează eficient, ar ajuta la combaterea terorismului.

Cu toate acestea, tehnologia reprezintă, de asemenea, provocări semnificative legate de acuratețe, prejudecată, confidențialitate și libertăți civile. Această problemă este predominantă în software-ul de recunoaștere facială, care tinde să genereze rate mai mari de fals-pozitive pentru persoanele nealbe, și spre deosebire de software-ul de recunoaștere facială folosit pentru a aresta pe cineva, un algoritm CT instruit în mod greșit poate ucide civili, o acțiune care nu poate fi anulată. Mizele în aplicațiile de combatere a terorismului sunt deosebit de mari, în cazul în care erorile pot duce la reținerea pe nedrept a persoanelor nevinovate sau, invers, la detectarea persoanelor periculoase.

Calea de urmat necesită echilibrarea acestor considerente concurente prin elaborarea atentă a politicilor, supravegherea robustă, îmbunătățirea continuă a procesului tehnic și dialogul public în curs. Nici interdicțiile care împiedică utilizarea recunoașterii faciale în scopuri de securitate, nici implementarea neconstrânsă, fără garanții, nu reprezintă o abordare responsabilă. În schimb, cadrele specifice contextului care permit utilizări benefice, prevenind totodată abuzurile, oferă cea mai bună speranță pentru a realiza beneficiile de securitate ale recunoașterii faciale protejând în același timp drepturile fundamentale.

Pe măsură ce tehnologia continuă să evolueze și să devină mai capabilă, nevoia de guvernanță atentă devine mai urgentă. Deciziile luate astăzi despre modul în care este dezvoltată, implementată și reglementată recunoașterea facială vor modela echilibrul dintre securitate și libertate pentru anii următori. Asigurarea faptului că aceste decizii sunt informate prin dovezi, ghidate de principii etice și supuse responsabilității democratice este esențială atât pentru menținerea securității, cât și a libertății într-un mediu de amenințare din ce în ce mai complex.

Pentru mai multe informații privind tehnologiile de securitate biometrice, vizitați Institutul Național de Standarde și Tehnologie Programul de testare a Vendorului pentru recunoașterea feței.Pentru a afla despre considerațiile legate de confidențialitate în tehnologia de supraveghere, explorați resursele Fundației Frontiere Electronice.Pentru perspectivele internaționale privind reglementarea recunoașterii faciale, consultați Activitatea Parlamentului European privind reglementarea AI.