Table of Contents

Разбиране на технологиите за разпознаване на лица и ролята ѝ в съвременната сигурност

Тази мощна технология позволява бързото и точно идентифициране на лица и помощни средства за предотвратяване на терористични дейности и за повишаване на сигурността на публичните пространства. Тъй като заплахите за сигурността продължават да се развиват в сложност и мащаб, правителствата и правоприлагащите органи по света все повече се обръщат към усъвършенствани биометрични системи, за да защитят своите граждани и инфраструктура.

Според проучванията на пазарите и пазарите, пазарът за лицево разпознаване е готов да достигне $8.5 милиарда през 2025 г., повече от два пъти от $3.8 милиарда през 2020 г. Този експлозивен растеж отразява не само разширяващите се възможности на технологията, но и критичното значение на националните рамки за сигурност. От летищата и граничните пунктове до градските мрежи за наблюдение и разследващите процеси, разпознаването на лица се превърна в незаменим компонент на съвременните стратегии за борба с тероризма.

В основата си, технологията за разпознаване на лица представлява сложен брак на компютърните погледи, изкуствения интелект и биометричния анализ. Технологията дигитализира човешките черти на лицето в математическите изображения, които компютрите могат да обработват и сравняват, анализирайки ключови черти на лицето като разстоянието между очите, ширината на носа, контурите на челюстта и структурата на скулите, и след това създава уникални биометрични модели за проверка на идентичностите в бази данни, съдържащи милиони лица. Тази възможност за обработка и съответствие на лица с безпрецедентна скорост и мащаб е фундаментално променена как агенциите за сигурност подход за откриване и предотвратяване на заплахи.

Еволюцията на технологиите за разпознаване на лица

От началото до системата на Ал-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-Си-С-С-С-

Технологията се връща към 60-те години, когато човек на име Удроу Уилсън Бледсоу за първи път излезе със система за сортиране на снимки на лица, използвайки специален таблет. Тези ранни системи са елементарни по днешните стандарти, изискващи ръчно въвеждане и работа при силно контролирани условия. През 70-те години, някои умни хора използва 21 специфични маркери, като цвят на косата и дебелина на устните, за автоматизация на лицево разпознаване, и 80-90 видях нов подход, наречен Eigenface, който се превърна в основа за съвременни системи.

Истинският играч на играта дойде през 2000-те години със социалните медии, тъй като изведнъж имаше милиони маркирани снимки онлайн, давайки тези системи масивна база данни, за да се учат от. Това изобилие от данни за обучение, съчетано с напредък в машинното обучение алгоритми, даде възможност системи за разпознаване на лица, за да се постигне точност, които преди това са били невъобразими. Днес, с AI и дълбоко обучение, системи за разпознаване на лица за бизнеса са станали невероятно точни и бързи.

Как работят съвременните системи за разпознаване на лица

Съвременните системи за лицево разпознаване работят чрез многоетапен процес, който се случва в милисекунди. Първият етап включва откриване на лица, където системата идентифицира и локализира лице в рамките на изображение или видео рамка. Това се следва от подравняване на лицето, където системата нормализира позицията, размера и ориентацията на лицето, за да се гарантира последователен анализ, независимо от ъгъла или разстоянието от камерата.

Следва екстракцията на функции, където системата идентифицира и измерва отличителните черти на лицето. Тези измервания се превръщат в математическо представяне, наречено лицев шаблон или биометрични подпис. Накрая, системата извършва съвпадение чрез сравняване на този шаблон срещу съхранени шаблони в база данни, генерирайки резултат на сходство, което показва вероятността от съвпадение.

Съвременните системи за лицево разпознаване улавят и анализират изображения на хора в най-трудните условия на зрението и движението. Тази възможност е от решаващо значение за приложения за борба с тероризма, където заподозрените могат да бъдат заснети на кадри от наблюдение при по-малко от идеални условия, включително лошо осветление, частично запушване или под заблуден ъгъл.

Стратегически приложения в операциите по борба с тероризма

Наблюдение в реално време и откриване на заплахи

Технологията за лицево разпознаване се появи като трансформиращ инструмент в борбата срещу тероризма, предлагащ усъвършенствани възможности за идентифициране, наблюдение и залавяне на лица от интерес, с фокус върху три конкретни приложения: наблюдение в реално време, граничен контрол и разследващи процеси. В претъпкани обществени пространства, транспортни центрове, и по време на големи събития, системи за лицево разпознаване могат непрекъснато да сканират тълпи и мигновено да алармират персонала за сигурност, когато се установи лице от интерес.

AI позволява автоматични проверки на аларми и идентичност на огромни групи хора с мащаб и темпо не е възможно преди. Този капацитет е особено ценен по време на значими събития, когато се събират големи тълпи, като политически митинги, спортни събития или културни фестивали.

Засилената сигурност осигурява непрекъснат мониторинг в зоните с висок трафик, идентифицира лицата от интерес и открива изчезнали лица с безпрецедентна ефективност. Способността на технологията да работи непрекъснато без умора го прави безценно допълнение към персонала по сигурността на човека, който може да съсредоточи вниманието си върху разследването на сигнали и реагирането на потенциални заплахи.

Гранична сигурност и имиграционен контрол

Ако човек (включително терорист) идва в САЩ от чужбина, той или тя вероятно преминава през контролно-пропускателен пункт на входното пристанище и от гледна точка на контратероризма, този контролен пункт е място, където бъдещият терорист е най-уязвим. Технологията за лицево разпознаване се е превърнала в основен инструмент в тези критични моменти.

ФРТ се разполагат, за да проверят дали лице, преминаващо през граничен контрол, е лицето, нарисувано в документ за самоличност (напр. паспорт), а Интерпол е разположило своята система FIRST за подпомагане на държавните органи да идентифицират чуждестранни терористи (ФТФ). Тези системи могат да обработват бързо пътуващите, като същевременно проверяват самоличността си срещу списъци за наблюдение на известни или предполагаеми терористи, значително повишаване на сигурността, без да създават големи затруднения в потока на пътниците.

Биометрията може да предотврати кражбата на самоличност и имиграционната измама при използването на документи за пътуване, като биометричен образец на пръстовите отпечатъци ще бъде прикрепен към документа, като паспорт или виза, върху баркод, чип или магнитна лента, което ще направи трудно за някой да приеме друга самоличност. Когато се комбинира с разпознаване на лицето, този многослойен биометрични подход създава здрава защита срещу терористи, опитващи се да влязат в страни с фалшиви документи или откраднати самоличности.

Разследващи и съдебни заявления

Биометричните системи могат да идентифицират известни или заподозрени терористи, използвайки биометрично разпознаване на лица или метода FaceCheck, когато има снимка на заподозрения терорист, и това се търси в списъка за наблюдение или базата данни на предполагаемите терористи шаблони. Тази способност е доказала безценна при разследвания след инцидент, където службите за сигурност анализират записите от наблюдението, за да идентифицират извършителите и техните сътрудници.

Ефективността на правоприлагането ускорява идентифицирането на заподозрените и решаването на случаи чрез автоматизирано съответствие със съществуващите записи. Вместо ръчно преглеждане на часовете на кадрите и сравняване на лицата по очи, изследователите могат да използват лицево разпознаване, за да търсят бързо през огромни архиви на видеонаблюдение, идентифициране на заподозрените и проследяване на техните движения през множество места и периоди от време.

Американските военни също така са признали стратегическата стойност на лицевото разпознаване в операциите по борба с тероризма. Американските специални операции (USSOCOM) полагат основите на значително разширяване на своите способности за разузнаване и експлоатация на самоличността, очертавайки широка и технически амбициозна визия за това как специалните сили за операции събират, анализират и използват данни, свързани с идентичността по време на мисиите, търсят прозрение в пет основни технологични области: разпознаване на лица, разпознаване на говорители и съвпадение на глас, напълно интегрирана екосистема за експлоатационно приложение на SOF Site, бърз ДНК анализ и анализ на машинното обучение.

Предимства на операциите в предотвратяването на тероризма

Скорост и мащаб на идентификация

Едно от най-значимите предимства на технологията за лицево разпознаване в борбата срещу тероризма е способността й да обработва и анализира лица със скорост, надхвърляща човешките възможности. Новата технология е дала нова сила на държавата да автоматизира идентифицирането на познати преди това терористи, които организират нападения срещу гражданите, които държавата трябва да защитава, и силата да направи това, ако работи ефективно, би помогнала в противодействието на тероризма, тъй като технологиите за лицево разпознаване обещават да дадат на държавата точно тази власт.

Традиционните методи за идентифициране на заподозрените разчитаха на човешка памет и ръчно сравнение на фотографии, процеси, които отнемаха време и бяха склонни към грешки. Служител по сигурността, наблюдаващ претъпкано летище, може само активно да наблюдава ограничен брой хора наведнъж, и дори най-опитният персонал може да пропусне заподозрян в море от лица. Системи за разпознаване на лица, от контраст, могат едновременно да наблюдават стотици или хиляди лица, сравнявайки всяка една от тях с обширни бази данни в реално време.

Когато разузнавателните агенции получават информация за непосредствена заплаха, системите за разпознаване на лица могат бързо да бъдат използвани за сканиране на мрежите за наблюдение в целия град, като потенциално се откриват заподозрени в рамките на минути, а не часове или дни.

Подобрени възможности за надзор

Чрез биометричен анализ, дълбоко обучение алгоритъм и големи анализи на данните, точността и ефективността на разузнавателната работа се подобряват и традиционната работа по мониторинг става напредничава и отбранителна борба. Лицевото разпознаване трансформира наблюдението от реактивен инструмент, използван предимно за разследване след инцидента в проактивна система, която може да предотврати атаки, преди да се появят.

Технологията позволява на агенциите за сигурност да създават цялостни мрежи от камери за наблюдение, които функционират като интегрирана система, а не като изолирани точки за наблюдение. Когато лице от интерес е открито на едно място, системата може да следи движението им през мрежата, осигурявайки на персонала за сигурност в реално време разузнаване за техните дейности и асоциации. Тази възможност е безценна за разбиране на терористични мрежи и идентифициране на непознати преди това членове на екстремистки организации.

Освен това системите за разпознаване на лица могат да работят непрекъснато без ограничения на човешкото внимание и умора.

Ефект на детеренция

Когато потенциалните нападатели знаят, че лицата им ще бъдат заловени и анализирани от сложни биометрични системи, те са изправени пред значително по-голям риск от идентифициране и задържане.

Системата за разпознаване на лица създава постоянен цифров запис, който може да бъде анализиран дълго след инцидент. Това означава, че дори терористите да успеят да избегнат незабавното откриване, те оставят доказателства, които могат да бъдат използвани за идентифицирането им по-късно, проследяване на движенията им и разкриване на мрежите им. Тази дългосрочна отчетност добавя друг слой риск, който терористите трябва да вземат предвид при планирането на операциите.

Оптимизация на ресурсите

Технологията за разпознаване на лица позволява на агенциите за сигурност да оптимизират ограничените си ресурси чрез автоматизиране на рутинни задачи за идентификация и фокусиране върху човешките експертизи, където е най-необходимо. Вместо да се възложи на персонала да наблюдава ръчно данните от наблюдението или да проверява документите на граничните пунктове, агенциите могат да използват системи за разпознаване на лица, за да се справят с тези задачи, докато човешките оператори се фокусират върху разследването на сигнали, провеждане на интервюта и вземане на критични решения.

С милиони пътници, преминаващи през летищата всеки ден и безброй часове на наблюдение, генерирани в градските райони, би било невъзможно ръчно да се преразгледа цялата тази информация. Системите за разпознаване на лица могат да обработват това огромно количество данни автоматично, като маркират само малката част, която изисква човешко внимание.

Критични предизвикателства и технически ограничения

Точност и фалшиви положителни резултати

Въпреки значителния напредък в технологията за разпознаване на лица, точността остава критична грижа, особено в борбата с тероризма, където последиците от грешките могат да бъдат тежки. Методът за разпознаване на лица е идентифициран с технологични несъвършенства и слабости, но може да се използва оперативно, за да се сведе до минимум слабостите му.

Въпреки че човешките същества обикновено могат да извършват процеси на разпознаване на лица доста добре, тези дейности все още са много предизвикателни за технологичните системи, тъй като освен ако снимката не е заснета при много контролирани условия, системата може да има трудности при идентифицирането на индивида или дори засичането на лицето му на снимката, а системата работи най-добре, когато фактори като ъгъла на камерата, осветлението, изражението на лицето и други, се контролират максимално.

Фалшиви положителни резултати, когато системата ненапълно идентифицира някого като лице от интерес, поставя конкретни предизвикателства в контекста на контратерористичните действия. Тези, за които технологията не работи, както и няма да могат да бъдат проверени от FRTs . Заподозряното и допълнително натрапчиво наблюдение, и освен това те ще бъдат погрешно идентифицирани по-често, което може да ги накара да бъдат заподозрени като терорист или друг сериозен престъпник.

NIST наскоро проведе мащабен тест, фокусиран върху идентифицирането на пристрастията в FRT, с особен акцент върху фалшивата положителна скорост . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

Демографски биати и алгоритмична честност

Едно от най-сериозните предизвикателства пред технологията за разпознаване на лица е демографското пристрастие към системата за изпълнение на по-малко точно определени демографски групи. Три програми за анализ на лица, освободени от големи технологични компании, демонстрират както тип кожа, така и пристрастия към пола, и в експериментите на изследователите, процентът на грешки на трите програми при определяне на пола на светлокожи мъже никога не е бил по-лош от 0.8%, но за по-тъмнокожи жени, обаче, процентът на грешки се е увеличил до повече от 20% в един случай и повече от 34 процента в другите две.

Процентът на грешки при мъжете с лека кожа е 0.8%, в сравнение с 34,7% при по-тъмни жени, според проучване, озаглавено "Гендър Шейдс" от Joy Buolamwini и Timnit Gebru, публикувано от MIT Media Lab. Тази драматична разлика в процентите на точност поражда сериозни опасения относно справедливостта и равното третиране съгласно закона, когато лицевото разпознаване се използва в контекста на сигурността и правоприлагането.

Кожният тонус значително влияе на точността на проверката, с по-леки тонуси на кожата последователно надминаващи средно-тъмни тонове. Изследванията също така са установили, че мъжете лица като цяло постигат по-добра точност на разпознаване от жените лица, приписвани на фактори като запушване, причинени от по-дълга коса и промени в външния вид на лицето, поради грим.

През август 2023 г. една черна жена съди Детройтската полиция след като е била арестувана от полицаи, използвайки слабо калибриран софтуер за разпознаване на лица, и този проблем е широко разпространен в софтуера за разпознаване на лица, който има тенденция да генерира по-висока честота на фалшиви позитиви за не-бели хора. Такива инциденти показват реалните последици от алгоритмични пристрастия и подчертават спешната нужда от по-справедливи системи за разпознаване на лица.

Проучването NIST допълнително намери пристрастни резултати, когато става въпрос за Източна Азия, индианец, индианец, индианец от Аляска и тихоокеански островитяни. Пропагандността на тези пристрастия в множество демографски групи предполага, че проблемът е системен, а не изолиран за конкретни популации или алгоритми.

Причини за това са Биас

Технологията за разпознаване на лица е постигнала големи крачки в точността благодарение на усъвършенстваните модели на изкуствен интелект (AI) обучени върху масивни масиви от образи на лица, но тези набори често липсват разнообразие по отношение на расата, етническата принадлежност, пола и други демографски категории, което води до по-лошо представяне на системите за разпознаване на лица на по-слабо представени демографски групи в сравнение с групите, които са повсеместни в данните за обучението.

Историческите данни, използвани за обучение на алгоритми за разпознаване на лица, са предимно лица на бели мъже, отразяващи демографските данни на изследователите и институциите, които ги създават. Когато алгоритмите се научат да разпознават лица предимно от този ограничен набор от данни, те естествено се представят по-добре на сходни лица и се борят с лица, които се различават значително от техните данни за обучение.

Много от тях приписват по-голямата част от тези въпроси на небалансирани набори от данни. Въпреки това, проблемът се простира отвъд простото представяне. Дори когато набори от данни включват различни лица, други фактори като осветление, качество на камерата и резолюция на изображението могат да повлияят непропорционално на качеството на изображенията за хора с по-тъмни тонове кожа, допълнително усложняващи проблеми с точността.

Усилията за умиротворим Биас

Изследователите и технологичните компании са осъзнали сериозността на проблема с пристрастяването и активно работят по решения. През 2018 г. Microsoft обяви, че техните търговски достъпни FRT са били подложени на актуализации за подобряване на резултатите в категориите раса и пол, като разшири наборите от данни, използвани за обучение на алгоритмите за машинно обучение и чрез подобряване на лицето класификатор за по-голяма точност, и тези подобрения са довели до, според компанията, 20 пъти по-ниски проценти на грешки за по-тъмни тонове кожа и 9 пъти по-ниски проценти на грешки за жените.

Изследователите предварително обучени три модели лицево разпознаване по ArcFace, AdaFace и ElasticFace

На база данни FairFace точността се подобрява от 92,58% на 96,47%, докато степента на Bias (DOB) е намалена от 3,86 на 1,16, което представлява намаление от приблизително 70%, и по-специално, значителни печалби от изпълнението са наблюдавани за недостатъчно представени групи, като например подобряване на точността за черните женски от 80,2% на 90,86%, като същевременно се поддържа силна производителност за вече добре представени групи.

В дебигиращата противникова мрежа (DebFace), използва енкодер за изображения, четири класификатора за атрибути, класификатор за разпределение и мрежа за събиране на функции, както и четирите класификатори за търсачки, възраст, раса и идентичност, потенциални пристрастия към информираните функции, като по този начин подобрява производителността в рамките на непредставените групи. Тези архитектурни иновации показват, че намаляването на пристрастията е технически осъществимо, въпреки че значителна работа остава да се прилагат тези решения във всички разположени системи.

Загриженост за личните данни и гражданските свободи

Защита на маса и права за поверителност

Повечето от всичко мощно има тъмна страна, а ФРТ не е изключение, тъй като повдига сериозни въпроси и опасения относно неприкосновеността на личния живот, етиката и цялостното обществено въздействие. Разгръщането на технология за разпознаване на лица за целите на борбата с тероризма предизвика силен дебат за баланса между сигурността и неприкосновеността на личния живот, като критиците твърдят, че широкото наблюдение застрашава основните граждански свободи.

Правните, етичните и неприкосновеността на личния живот предизвикателства около масовото наблюдение включват опасения относно погрешното идентифициране, измамата и пристрастията в базата данни. Способността да се следи движението на хората през обществени пространства без тяхното знание или съгласие повдига дълбоки въпроси за естеството на личния живот в съвременното общество и съответните граници на правомощията за наблюдение на правителството.

Критиците посочват значителни рискове за неприкосновеността на личния живот и потенциални нарушения на гражданските свободи, като пораждат опасения относно неоторизираните данни, липсата на съгласие и потенциала за функция на пълзене, чрез който данните, събрани за една цел, се използват за несвързана цел без знанието или съгласието на индивида. Страхът е, че системите, първоначално разположени за борба с тероризма, могат постепенно да се разширят, за да наблюдават обикновените граждани, ангажирани с законни дейности, създавайки състояние на наблюдение, което разтресва свободното изразяване и асоцииране.

Причините, изложени за такава забрана, са, че ФРТ страдат от широко разпространени пристрастия, които водят до неравнопоставени ползи и вреди, разпределени между групи, държавата неизбежно ще използва тези технологии за незаконни цели и че съществуването на ФРТ ще охлади поведението ни (т.е. ще накара хората да се цензурират от страх от наблюдение).

Регулаторни отговори и забрани

През 2019 г. Сан Франциско стана първият град на САЩ, който забрани технологията за разпознаване на лица (FRT), като по-специално наложи вето върху използването й от полицията и други агенции, а оттогава няколко други американски градове прилагат свои собствени подобни забрани за ФРТ, като градският съвет на Бостън изрично подчерта един конкретен въпрос: предубежденията на технологията. Тези забрани отразяват нарастващата обществена загриженост за потенциала на технологията за злоупотреба и нейните доказани проблеми с точност и справедливост.

Повече от десетина големи града забраниха технологията, включително Минеаполис, Бостън и Сан Франциско. Тези местни забрани обаче не попречиха на федералните агенции и много други юрисдикции да продължат да използват лицево разпознаване за целите на сигурността, създавайки пачове от регламенти, които варират значително по местоположение.

Европейският съюз възприе по-всеобхватен подход с използването на технологии за лицево разпознаване в контекста на мирни протести, които повишават риска от практики за масов надзор и последиците за защитата на правата на човека. Европейските регулатори предложиха строги ограничения за използването на лицево разпознаване в обществени пространства, като някои се застъпват за пълни забрани, освен при тясно определени обстоятелства, включващи тежки престъпления или непосредствена заплаха.

Балансиране на сигурността и свободата

От първостепенно значение е, че ако държавата може да използва тази технология, за да увеличи силата си за противодействие на тероризма, тази сила е ограничена, така че злоупотребите и студеното поведение да не се случват, и държавата трябва да създаде институционални ограничения, които да позволяват използването на ФРТ само на места, където хората не (и не трябва) се ползват с разумно очакване за поверителност (напр. летища, гранични пунктове).

Камерите, оборудвани с FRT, трябва да бъдат маркирани, за да се гарантира на обществеността, че те не се наблюдават на места, където трябва да имат разумно очакване за поверителност, а ФРТ следва да бъдат ограничени до намирането на сериозни престъпници (напр. терористи). Тези предложени ограничения представляват опит за запазване на ползите от разпознаването на лица, като същевременно се ограничава потенциалът му за злоупотреба и защита на гражданските свободи.

FRT представлява мощен инструмент в арсенала на антитерористичните сили, който позволява мерки за сигурност, които преди са били недостижими, но това е технология, която изисква изключително разумен баланс между ясните ползи и важните етични съображения, с които е свързана, и в момента може би е случаят, че балансът е наклонен твърде далеч в полза на ясните ползи на FRT и не е достатъчно в полза на справедливостта, неприкосновеността и етичната цялост, които трябва да ръководят нейното разполагане.

Правни и етични рамки

Конституционни и човешки права

Програмите за борба с престъпността, използвани от правоохранителните органи за идентифициране на заподозрените в престъпления, са значително по-предизвикани от по-тъмни образи, изобразяващи по-тъмни тонове кожа и женски в сравнение с лицеви изображения, изобразяващи бели мъже, и това пристрастие може да доведе до погрешно разследване от страна на гражданите по расови и полови линии, като прилагането на закона на пристрастни ФРТ е в противоречие с класическото либерално изискване, че правителството третира всички граждани еднакво преди закона.

Когато системите за разпознаване на лица демонстрират системно пристрастие към определени демографски групи, използването им от правителствени агенции може да наруши тези конституционни защити. Това създава правна дилема: докато технологията може да повиши сигурността, нейните пристрастни показатели могат да направят използването й противоконституционно или в нарушение на правото на правата на човека.

Компютърните учени изразиха загриженост относно използването на FRT за идентифициране на заподозрените в престъпления, като отбелязаха, че е много вероятно този софтуер да се използва за идентифициране на заподозрените и по този начин грешка в представянето на алгоритъм за разпознаване на лица, използван като вход за други задачи, да има сериозни последици, тъй като някой може да бъде несправедливо обвинен в престъпление, основано на погрешна, но уверена идентификация на извършителя от анализ на видеозаписи за сигурност.

Прозрачност и отчетност

Той препоръчва силно регулиране, международно сътрудничество и прозрачно управление, за да се гарантира, че използването на технологии за лицево разпознаване на AI е съвместимо с правата на човека и основните свободи.

Създаване на закони, които са ясни и всеобхватни, свързани с използването на технология за лицево разпознаване, привеждане на глобалните стандарти с националните рамки, за да се гарантира съгласуваност, и мандат редовни одити на ФРТ системи, за да се гарантира спазването на етични насоки. Редовният одит може да помогне за идентифициране на проблемите с точност или пристрастие, преди да доведе до сериозни вреди, докато ясни правни рамки предоставят насоки на агенциите за сигурност за подходящи приложения на технологията.

Рисковете не следва да водят до мораториум върху използването на AI или забрана върху определени платформи, а по-скоро следва да бъдат призиви към действия за правителствата да изискват по-добър дизайн за своите инструменти AI/ML, което означава придобиване на по-добри данни и създаване на строги режими за изпитване, които ограничават риска и разкриват недостатъците колкото е възможно повече, и начин да се помогне това е чрез прилагане на обясними стандарти и политики за прозрачност, които дават на правителствата прозрение за обосновката за всяко действие, което предприема една система.

Защита на данните и задържане

Държавата не следва да използва дружества от трети страни, които нарушават първите три условия по време на създаването или използването на услугата си, а дружества от трети страни не следва да имат достъп до или да четат чувствителните данни, събрани от държавата. Биометричните данни, събрани от системите за лицево разпознаване, са силно чувствителни и лични, изискващи здрава защита срещу неразрешен достъп, злоупотреба или нарушения на данните.

Въпросите за запазване на данни са особено важни. Колко дълго трябва да се съхраняват данните за лицево разпознаване? Кой трябва да има достъп до тях? При какви обстоятелства може да бъде споделян с други агенции или страни? Тези въпроси нямат ясни отговори в много юрисдикции, създавайки несигурност относно дългосрочните последици от разполагането на лицево разпознаване.

Базата данни, съдържаща данни за лицево разпознаване за милиони хора, би била привлекателна цел за хакери, чуждестранни разузнавателни служби или престъпни организации. Ако тези данни са компрометирани, тя може да се използва за кражба на самоличност, дебненене или други злонамерени цели, с последици, които биха могли да продължат години или десетилетия.

Международни перспективи и разгръщане

Модели за глобално осиновяване

Правоохранителните органи: Фациалното признаване понастоящем се нарежда като най-широко приетата технология за наблюдение на ИИ в световен мащаб, с 64% процент на приемане, което надхвърля както интелигентните градски платформи, така и интелигентните полицейски инициативи. Това широко разпространено осиновяване отразява както възприеманата от технологиите стойност за сигурност, така и различните регулаторни подходи, предприети от различните страни.

Някои страни са изправени пред различни заплахи за сигурността и имат различни културни нагласи към неприкосновеността на личния живот и надзора, което води до значителни промени в начина на разпознаване на лицата. Някои държави са приели технологията ентусиазирано, като са я разположили широко в обществени пространства с минимални ограничения. Други са възприели по-предпазлив подход, ограничавайки използването й до специфични условия с висока сигурност или налагайки строги изисквания за надзор.

Furl et al. (2002) установи, че FRT е разработила и използвала в западните страни по-точни изображения на лица в бялата раса, докато в източноазиатските страни алгоритмите за FRT са по-точни за образите на лицето в Източна Азия.

Международно сътрудничество и стандарти

Технологията за разпознаване на лица може да улесни това сътрудничество, като позволи на държавите да споделят информация за известни или предполагаеми терористи и да координират своите усилия за наблюдение.

Когато данните за лицевото разпознаване се споделят през границите, те могат да бъдат обект на по-малко строги защитни мерки в получаващата страна, отколкото в страната, в която е събрана. Това създава рискове данните, събрани при строги защитни мерки за защита на личните данни, да бъдат използвани от чужди правителства с по-слаби гаранции.

Международни организации като Интерпол са разработили системи за улесняване на трансграничното използване на лицевото разпознаване за борба с тероризма. Тези системи трябва да се ориентират към комплексен правен и политически терен, балансирайки ползите от споделянето на информация срещу опасения за неприкосновеността на личния живот, правата на човека и националния суверенитет.

Публично възприятие и доверие

Фактори, които влияят върху публичното приемане

Адвокатите на ФРТ подчертават потенциала си в областта на обществената безопасност, предотвратяването на престъпността и борбата с тероризма, като отбелязват, че ФРТ дава възможност на правоприлагащите агенции и организации да идентифицират заподозрените и да предотвратят неоторизиран достъп до защитени зони и пространства, където има ценни активи или уязвими популации. Публичната подкрепа за лицевото разпознаване често зависи от конкретния контекст, в който се използва, с по-високо приемане на приложения за сигурност в рискови среди като летищата.

Когато хората вярват, че агенциите за сигурност ще използват технологията отговорно и с подходящ надзор, те са по-склонни да приемат нейното разполагане. Обратно, когато доверието е ниско, поради минали злоупотреби, липса на прозрачност, или притеснения за пристрастяване на опозицията в обществото, те са склонни да бъдат по-силни.

Успешното и широко приемане на FRT зависи не само от неговата скорост и точност, но и от доверието на обществеността в алгоритмите, които ще бъдат използвани за разпознаване на лица и които ще бъдат трудни за изграждане, докато примерите за расови пристрастия и фалшиви положителни резултати продължават да засенчват годишната промяна в цялостната точност и функционалност на софтуера.

Изграждане на обществено доверие

Осъществяването на обществена ангажираност за справяне с тревогите и изграждането на доверие. Значението на обществената ангажираност изисква повече от просто информиране на хората за разполагането на лицево разпознаване; това означава създаване на възможности за истински диалог за ползите, рисковете и подходящите граници на технологията.

Агенцията за сигурност следва да докладва публично за точността на данните, включително разбивката на демографските групи, неверните положителни проценти и информацията за начина, по който се използва и контролира технологията. Тази прозрачност позволява на обществеността да направи информирани решения относно това дали ползите от сигурността оправдават разходите за поверителност и дали технологията се използва справедливо.

Когато системите за разпознаване на лица водят до неправомерно задържане или други вреди, агенциите трябва да признаят тези неуспехи, да компенсират жертвите и да предприемат конкретни стъпки, за да предотвратят повторението.

Бъдещи разработки и развиващи се технологии

Напредък в точността и възможностите

През последните години, с напреднали архитектурни структури и увеличаване на броя на слоевете и параметрите, моделите на FR са постигнали значително подобрение в способността си да научат сложни лицеви изображения и тези по-дълбоки архитектурни структури, които често включват над сто слоя с милиони параметри, значително са подобрили способността на системите на FR да обобщават предизвикателствата, като в резултат на това са постигнати по-високи резултати от общо признаване (както и намалени пристрастия), а освен това наличието на по-големи, по-разнообразни набори от данни е допринесло за по-добри резултати от обучението, тъй като тези набори от данни, които включват значителни промени в демографските показатели и колаборациите, като например поза, осветяване и изразяване (PIE), са улеснили измерим напредък както за подобряване на точността, така и за справедливостта FR.

Бъдещите системи за лицево разпознаване вероятно ще включват множество биометрични условия, съчетаващи лицево разпознаване с сканиране на ирис, анализ на походката, разпознаване на гласа и други техники. Този мултимодален подход може да подобри точността чрез кръстосаното сравняване на биометричните подписи, намаляване на въздействието на грешките във всяка отделна система.

Напредъкът в изкуствения интелект, особено в дълбоките образователни и невронни мрежи, продължава да изтласква границите на това, което могат да постигнат системите за разпознаване на лица. Тези системи стават по-добри в разпознаването на лица при предизвикателни условия, като лошо осветление, частично запушване или екстремни ъгли. Те също така стават по-бързи, позволявайки анализ в реално време на високорезистентни видео потоци от множество камери едновременно.

Интеграция с други разузнавателни системи

Бъдещето на разпознаването на лица в борбата с тероризма се състои не само в подобряването на самата технология, но и в интегрирането й с други системи за разузнаване и сигурност. Когато разпознаването на лица е съчетано с поведенчески анализ, карта на социалните мрежи, мониторинг на комуникациите и други източници на разузнаване, то става част от цялостна система за откриване на заплахи, която е по-голяма от сумата на частите му.

Например, разпознаването на лица може да идентифицира лице, което представлява интерес на летище, като предизвика допълнителен контрол на моделите на пътуване, финансовите им транзакции, комуникациите и известните сътрудници.

Системата, която съчетава разпознаването на лица с обширни данни от други източници, създава безпрецедентни възможности за наблюдение, които могат да бъдат използвани за наблюдение на почти всеки аспект от живота на хората. Гарантирането на, че тези мощни системи се използват само за законни цели на сигурността и с подходящ надзор ще бъде критично предизвикателство за политиците.

Нарастващи контрамерки и надпревара с оръжие

Тъй като технологията за разпознаване на лица става по-разпространена в борбата срещу тероризма, противниците развиват контрамерки, за да избегнат откриването. Тези техники са от прости техники като носенето на маски или слънчеви очила до по-сложни подходи като враждебни модели на грим, предназначени да объркат алгоритмите за разпознаване на лица или използването на технология на дълбокото фалшифициране, за да създадат фалшиви идентичности.

Това създава технологична надпревара за оръжия, като агенциите за сигурност, работещи за подобряване на системите за разпознаване на лица, докато терористите и другите противници развиват нови начини за тяхното поражение. Ефективността на разпознаването на лица в борбата с тероризма ще зависи не само от присъщите им възможности, но и от това колко добре може да се адаптира към еволюиращите техники за избягване на данъци.

Някои изследователи изследват начини да се направят системи за разпознаване на лица по-здрави срещу контрамерки, като например използване на инфрачервени изображения, за да се засекат лица дори когато те са частично покрити, или анализиране на походката и езика на тялото в допълнение към лицеви функции. Други разработват системи за откриване на живост, които могат да се различават между реални лица и фотографии, маски, или видео дисплеи, предотвратяване на призрачни атаки.

Най-добри практики и препоръки

Технически стандарти и изпитване

Непрекъснатите тестове за разпознаване на лица (FRVTs) на NIST са оценили над 400 алгоритми за разпознаване на лица от 2017 г. насам, като са давали представа за общите оценки за точност на всички участващи разработчици.

Тестването следва да включва оценка на различните демографски групи за установяване и количествено определяне на всички пристрастия в работата на системата. Системите, които показват неприемливи нива на пристрастност, не трябва да се използват, докато тези проблеми не бъдат коригирани.

Текущото наблюдение и оценка след внедряването е също толкова важно. Ефективността на системата може да се влоши с течение на времето, тъй като алгоритмите възраст или тъй като населението се наблюдава промени. Редовните одити могат да идентифицират възникващи проблеми и да гарантират, че системите продължават да отговарят на стандартите за ефективност през целия си оперативен живот.

Оперативни насоки

Тези насоки трябва да се зададат на въпроси като: Какво ниво на доверие в мача се изисква преди да се предприемат действия? Каква допълнителна проверка се изисква, преди да се задържа някой въз основа на лицево разпознаване? Как трябва да се използва системата във връзка с човешкото решение?

Нито хората, нито алгоритмите са непогрешими, и подобни слабости на човешката преценка могат да повлияят на използването на технологии за разпознаване на лица, тъй като физическите лица могат да се доверят на изхода на алгоритъма, като мислят, че трябва да бъде "неуспешна" по-скоро от собствената си преценка дали две изображения съвпадат, въпреки основните пристрастия или неточности в технологията. Обучението за персонал, използващ системи за лицево разпознаване следва да подчертае, че технологията е инструмент за подпомагане на човешкото вземане на решения, а не заместител на човешкото решение.

Операторите следва да бъдат обучени да разбират ограниченията на системата, включително потенциала й за пристрастяване и фалшиви положителни резултати. Те следва да бъдат насърчавани да упражняват независима преценка и да не разчитат единствено на алгоритмични резултати, особено когато последиците от грешки са тежки.

Механизъм за надзор и отчетност

Този надзор следва да включва както вътрешни механизми в агенциите за сигурност, така и външен надзор от страна на независими органи като комисари по въпросите на неприкосновеността на личния живот, законодателни комитети или съдебен контрол.

Агенциите следва да поддържат подробни регистри за начина на използване на системите за разпознаване на лица, включително за това какво се извършва, кой ги провежда и какви са резултатите от действията. Тези регистри следва да подлежат на редовен одит, за да се гарантира спазването на политиките и да се идентифицират всякакви модели на злоупотреба.

Външните органи за надзор следва да имат правомощия и ресурси да извършват смислен преглед на програми за лицево разпознаване. Това включва достъп до техническа информация за това как работят системите, данни за работата и оперативните регистри. Надзорните органи следва също така да имат правомощия да принуждават промените в програми, които нарушават правните или етичните стандарти.

Изследвания на случаи и приложения в реално време

Приложения за сигурност на летищата и границите

Летищата и граничните пунктове са сред най-ранните и най-разширени осиновители на технология за лицево разпознаване за целите на борбата с тероризма. Тези контролирани среди предлагат няколко предимства за лицево разпознаване: пътниците трябва да преминат през определени пунктове за проверка, ъглите на осветяване и камерите могат да бъдат оптимизирани и има ясна обосновка за сигурност за проверка на самоличността.

Много страни са приложили лицево разпознаване на имиграционни пунктове, за да проверят дали пътниците отговарят на техните снимки на паспортите и да ги проверят срещу списъци с известни или заподозрени терористи. Тези системи са обработвали милиони пътници, като някои летища съобщават, че разпознаването на лица им е позволило да идентифицират лица, които се опитват да пътуват с фалшиви документи или с откраднати самоличности.

Технологията е използвана също така за бърза обработка на доверени пътници чрез програми, които позволяват предварително екранирани лица да използват автоматизирани порти, които проверяват тяхната идентичност чрез разпознаване на лица.

Мрежи за градски надзор

Някои градове са разположили обширни мрежи от камери, оборудвани с възможности за разпознаване на лица, за да наблюдават публичните пространства за заплахи за сигурността. Тези системи могат да проследят движенията на отделни лица в града, потенциално идентифициране на терористи, провеждащи наблюдение на потенциални цели или среща със съконспиратори.

Критиците твърдят, че тези системи създават хладиращ ефект върху свободното изразяване и асоцииране, тъй като хората могат да избегнат определени места или дейности, ако знаят, че са проследени. Балансът между ползите за сигурността и разходите за поверителност е особено труден за справяне с тези приложения.

Някои юрисдикции са се опитали да се справят с тези опасения, като ограничават използването на лицево разпознаване в обществените пространства до конкретни обстоятелства, като например разследване на тежки престъпления или реагиране на непосредствени заплахи. Други са изисквали камерите да бъдат ясно маркирани и обществеността да бъде информирана къде се използва разпознаването на лица.

Наблюдение на сигурността на събитията и тълпата

Основни обществени събития, като например политически конвенции, международни срещи на върха или големи събития, представляват атрактивни цели за терористи и изискват интензивни мерки за сигурност.

Тези временни разполагане предлагат някои предимства пред постоянните мрежи за наблюдение. Те са ограничени във времето и обхвата, фокусирани върху конкретни високо рискови събития, а не върху непрекъснато наблюдение на публичните пространства. Те могат да бъдат оправдани от повишената заплаха за сигурността, свързана с големи събития, които привличат големи тълпи и високи цели.

Въпреки това, приложения за сигурност на събития също така повдигат опасения, особено когато лицевото разпознаване се използва за наблюдение на политически протести или демонстрации. Технологията може да се използва за идентифициране и проследяване на политически активисти, потенциално охлаждане на законния политически израз.

Пътят напред: балансиране на сигурността и правата

Разработване на рамка за отговорно използване

Бъдещето на разпознаването на лица в борбата с тероризма зависи от разработването на рамки, които позволяват технологията да се използва ефективно за законни цели на сигурността, като същевременно се защитават гражданските свободи и се гарантира справедливост. Това изисква постоянен диалог между професионалистите по сигурността, технолози, политици, защитници на гражданските свободи и обществеността.

Тези рамки следва да се основават на ясни принципи: разпознаването на лица следва да се използва само когато е необходимо и пропорционално на заплахата за сигурността; то следва да бъде използвано с подходящи предпазни мерки срещу злоупотреби; то следва да бъде обект на смислен надзор и отчетност; и то следва да бъде непрекъснато оценявано и подобрено, за да се преодолеят проблемите с точност и пристрастия.

Използването на лицево разпознаване на граничните пунктове, където има ясна обосновка за сигурността и ограничено очакване на неприкосновеността на личния живот, може да бъде по-приемливо от използването му за непрекъснато наблюдение на публичните пространства. Контекст-специфични рамки могат да предоставят по-нюансирани насоки от всички правила за едноразмерни.

Инвестиране в научноизследователска и развойна дейност

Това включва не само подобряване на точността и скоростта, но и по-специално справяне с проблемите с пристрастието и справедливостта. Широкомащабни и стандартизирани проучвания като помощта на NIST за откриване на общи недостатъци в FRT, както и както учените, така и служителите, инженерите, които развиват FRT, са натоварени с подобряване на резултатите на софтуера в разпознаването на изображения с по-тъмни тонове на кожата . . както и намаляване на разликата между половете в фалшивите положителни проценти, и когато наборите и резултатите са поставени на строг, минутен анализ, учените имат способността да подобрят алгоритъма и по този начин да се справят с проблема с пристрастията в бъдещите итерации на софтуера.

Изследванията трябва да изследват и алтернативни подходи, които могат да предложат по-добри защити за поверителност, като същевременно поддържат ползи за сигурността. Например, системи, които анализират поведенчески модели или откриване на аномалии, без да се идентифицират конкретни лица, могат да предоставят полезна информация за сигурност с по-малко проникване на неприкосновеността на личния живот, отколкото традиционното разпознаване на лицето.

Интердисциплинарните изследвания, обединяващи компютърни учени, социални учени, етицисти и правни учени, могат да помогнат за идентифицирането и справянето със сложните предизвикателства, породени от технологията за разпознаване на лица. Разбирането не само на техническите възможности, но и на социалните, етичните и правните последици е от съществено значение за отговорно развитие и внедряване.

Международно сътрудничество и стандарти

Предвид транснационалната природа на тероризма, международното сътрудничество по стандартите и практиките за лицево разпознаване е важно. Страните трябва да работят заедно за разработване на общи стандарти за точност, справедливост и защита на неприкосновеността на личния живот, като същевременно спазват различни правни традиции и културни ценности.

Международните споразумения могат да установят минимални стандарти за системи за лицево разпознаване, използвани в борбата с тероризма, гарантирайки, че данните, споделени през границите, отговарят на основните изисквания за точност и надеждност.

Международното сътрудничество обаче трябва да бъде балансирано срещу опасенията относно това да се даде възможност на авторитарните режими да използват лицевото разпознаване за политически репресии. Демократичните страни трябва да бъдат предпазливи относно споделянето на технологии за разпознаване на лица или данни с правителства, които нямат силна защита на правата на човека и върховенство на закона. Международните стандарти следва да включват предпазни мерки за предотвратяване на използването на технологията за незаконни цели.

Заключение: Навигация на комплекса Пейзаж

Технологията за разпознаване на лица представлява мощен инструмент в борбата срещу тероризма, предлагащ възможности за идентификация, наблюдение и разследване, които бяха невъобразими само преди няколко десетилетия. Новата технология даде нова сила на държавата да автоматизира идентифицирането на познати преди това терористи, които организират нападения срещу гражданите, които държавата трябва да защитава, и силата да направи това, ако работи ефективно, ще помогне за противодействието на тероризма.

Проблемът е широко разпространен в софтуера за лицево разпознаване, който има тенденция да генерира по-висока честота на фалшиви позитиви за небели хора и за разлика от софтуера за разпознаване на лица, използван за арест на някого, погрешно обученият алгоритъм за компютърна томография може да убие цивилни граждани, действие, което не може да бъде отменено. Залозите в борбата с тероризма са особено високи, където грешките могат да доведат до незаконно задържане на невинни хора или, обратно, до опасното за лица избягване на разкриването.

Пътят напред изисква балансиране на тези конкурентни съображения чрез внимателно развитие на политиката, силен надзор, непрекъснато техническо подобрение и постоянен обществен диалог. Нито заключване на забрани, които предотвратяват използването на лицево разпознаване за целите на сигурността, нито неконструирани разполагане без предпазни мерки представлява отговорен подход. Вместо това контекст-специфични рамки, които позволяват полезно използване, като същевременно предотвратяват злоупотребите, предлагат най-добрата надежда за реализиране на ползите от разпознаването на лица, като същевременно защитават основните права.

Тъй като технологията продължава да се развива и става по-способна, необходимостта от разумно управление става по-спешна. Решенията, взети днес за това как се развива, използва и регулира ще оформят баланса между сигурността и свободата в следващите години. Гарантирането на това решение се информира чрез доказателства, ръководени от етични принципи и подлежащи на демократична отчетност е от съществено значение за поддържането както на сигурността, така и на свободата в една все по-сложна среда на заплаха.

За повече информация относно биометричните технологии за сигурност посетете Националния институт за стандарти и технологии за разпознаване на лица Deversor Test . За да научите повече за съображенията за поверителност в технологиите за наблюдение, посетете ресурсите от Електронна фондация за фронтиер. За международни перспективи относно регулирането на разпознаването на лица, вижте Работатата на Европейския парламент върху регулирането на AI.