Table of Contents

Еволюцията на публично-частните партньорства в борбата с тероризма

През последното десетилетие връзката между технологичните компании и правителствените контратерористични агенции се задълбочи значително. Това, което някога е било реактивно, сътрудничество след атаката се е развило в проактивно, задвижвано от данни партньорство, което обхваща наблюдението, умереното съдържание и споделянето на информация. Тази трансформация се управлява от пълния обем на цифровите комуникации и изтънчеността на терористични групи, използвайки криптирани канали, социални медии за нетрезвоване и онлайн финансови мрежи. Днес, нито едно неосъществимо публично или частно лице не може да се справи със заплахата само за потребителите си. Правителствата разчитат на техническата инфраструктура на платформи като Meta, YouTube, Telegram и X (по-рано Twitter) за откриване и унищожаване на терористична дейност, докато компаниите зависят от правителствените заплахи, за да защитят потребителите си.

Тази статия разглежда механизмите, успехите и споровете на тези партньорства, като се фокусира върху споделянето на данни, криптирането на битки, правните рамки и пътя напред. Тя се позовава на примери от реалния свят като Глобалния интернет форум за борба с тероризма (GIFCT), използването на бази данни за обмен на хашиши и законодателни инструменти като Закона за онлайн безопасност на Великобритания и Закона за КЛОУД на САЩ.

Основни области на технологично-правителство Сътрудничество

Доклади за споделяне на информация и подозрителна дейност

Технологични компании работят масивни екосистеми данни . От имейл сървъри до клауд съхранение на социални медии feeds . , които могат да съдържат сигнали на предстоящо терористични парцели. Много правителства са формализирани канали, чрез които тези компании доброволно или законно разкрива показатели заплаха. Например, Министерството на вътрешните сигурност САЩ . . . . Вижте нещо, Say Sommething . нещо кампания има технология партньор програма, която насърчава фирмите да докладват онлайн екстремистко съдържание. Такива доклади често са задействани от автоматизирани системи, които сканират за известни терористични пропагандиции, бомбардировачни инструкции, или некротизиращ език.

Международните органи като Службата на ООН за борба с тероризма са създали и рамки за споделяне на информация, които зачитат границите на юрисдикцията. Забележителна инициатива е Проектът "Тех срещу тероризма, който осигурява по-малки платформи с инструменти за разузнаване и умереност, които да ограничават различията между големите корпорации и правителствата. Службата на ООН за борба с тероризма поддържа хранилище на най-добри практики, които много компании приемат.

Автоматизирано умерено съдържание и хеш-споделяне

Едно от най-ефективните технически сътрудничества е споделянето на дигитални неточности на известното терористично съдържание. Global Internet Forum to Counter Terrorms (GIFCT), основана от Facebook, Microsoft, Twitter и YouTube, поддържа споделена база данни за хашиш. Когато една от членовете идентифицира терористично видео или изображение, неговата хашиш се добавя към базата данни, а други членове автоматично блокират това съдържание. Правителствата допринасят чрез представяне на хешове от източници на неузнаваемост, ускоряване на засичане преди видеоклиповете да станат вирусни. GFCTs официален сайт детайли как тази система работи и публикува доклади за прозрачност при изтегляне на обеми.

Критично това сътрудничество се простира отвъд премахването на проактивното откриване: моделите за машинно обучение, обучени върху набори от данни, предоставени от правителството, могат да показват нови варианти на пропагандата, дори когато няма хешов мач. Това намалява зависимостта от човешките модератори, които могат да се сблъскат с психологическа вреда от излагането на насилие материал.

Шифроване и дебат за достъп

Правителствата твърдят, че криптирането от край до край на платформи като WhatsApp, Signal, и Telegram създава по-сигурни убежища . За терористите да комуникират неоткриваеми. Те изискват легален достъп . Често чрез задни врати или клиентско сканиране. Технологични компании, обаче, против, че отслабването на криптиране ще застраши сигурността на всички потребители, включително журналисти и активисти за правата на човека, и може да бъде експлоатиран от враждебни държави.

В разследването на Сан Бернардино 2016 г. Apple отказа да отключи iPhone за ФБР, позовавайки се на потребителското доверие. Наскоро, предложението на ЕС за контрол на риска привлече огъня от защитниците на личния живот. Компании като Signal изрично заяви, че ще се оттегли от всеки пазар, който ги принуждава да пробият от край до край. Въпреки това, някои правителства са настоявали за [[FLT: .] . [FLT:] , където съдържанието се анализира преди криптирането на модела, че Мета се отчита като тестване в шифрованите си чатове Месенгър Електронен фронтиерната фондация предлага задълбочен анализ на техническите и правни аргументи и на двете страни.

Среден принцип е год. Разкриването на информация[ подход, използван в Закона за онлайн безопасност на Обединеното кралство, който изисква платформи за идентифициране и премахване на терористичното съдържание с помощта на автоматизирани инструменти, но не налага декодиране на завивките. Тази рамка оставя техническо изпълнение на компаниите, което води до разнообразни резултати.

Правни рамки Управляващо сътрудничество

Национална правна уредба и извънтериториален обхват

Законите, уреждащи споделянето на данни и надзора, се различават широко, създавайки трикове в глобализиран интернет. САЩ CLOUD Act (Clarifing Lawful Offflifly Use of Data Act) позволява на правоприлагането да изисква данни от американски компании, независимо от мястото, където се съхранява, при условие че чуждестранното правителство отговаря на определени условия за правата на човека. Това е позволило сътрудничество в реално време със съюзници като Великобритания и Австралия, но критиците твърдят, че подкопава суверенитета на местните данни. [[FLT: 2]Службата на САЩ по правосъдие CLOUD Act page очертава съществуващите споразумения.

Европейският съюз eДиректива за защита на данните и Общ регламент за защита на данните (GDPR) налага строги ограничения за обработването на данни за правоприлагане, изискващи съдебни заповеди и оценки на пропорционалността. Технологичните дружества, работещи в Атлантическия океан, трябва да се ориентират към лабиринт от задължения, често избиращи да спазват по-строгия режим, за да избегнат санкции. Това може да забави или усложни обмена на данни срещу тероризма, както се вижда в решението на Schrems II, че не е възможно да се избегне рамката на Щита за личните данни.

Доброволно/задължително сътрудничество

Някои сътрудничество са доброволните продукти на индустрията саморегулиране, докато други са определени от закона. Закон за немската мрежа (NetzDG), например, принуждава платформите да премахват явно незаконно съдържание (включително терористичен материал) в рамките на 24 часа или да се изправят пред тежки глоби. Компаниите са отговорили чрез инвестиране в автоматизирани умерени екипи и приемане на повече правителствени отзовавания.

Рискът от mission crug е реален: веднъж щом платформа изгради възможности за борба с тероризма, правителствата могат да ги принудят да използват същите инструменти за политически несъгласен мониторинг. Докладването на прозрачността и независимия надзор са от съществено значение за защита от това. Организации като Достъп Сега[ и Човечески права Watch редовно извършват одит на такива сътрудничество.

Международно сътрудничество и многостранни инициативи

Световният интернет форум за борба с тероризма (GIFCT) в дълбочина

GIFCT е може би най-институционализираното публично-частно партньорство в тази област. Основана през 2017 г. след вълна от вдъхновени от ISIS атаки в Европа, тя сега включва над дузина компании членки и формална структура на управление. GIFCT .Глобусите включват: разработване на технически решения като споделената база данни за хашиш; финансиране на изследвания за терористична употреба на цифрови платформи; и протоколи за реакция при кризи за извънредни новини събития, които предизвикват скок в екстремисткото съдържание.

Правителствата се намират в консултативен съвет, а форумът си сътрудничи с Internet Recuritional Unit (EU IRU) to flag internal threepers. Докато GIFCT е бил похвалин за намаляване на обема на терористичното съдържание, критиците отбелязват, че липсва задължително изпълнение и е бил бавен за справяне с алгоритмичното усилване на екстремистки материали. [[FLT: 2]GIFCT . [[FLT: 3] показва хиляди хешове, които се разменят месечно, но липсата на независими одити остава загриженост.

МОНИТОРИНГ НА ЗНАЧЕНИЕТО ЗА ИНТЕГРАЦИЯ И ЗАСЛУЖВАНЕ НА МОНИТОРИНГ

ЕС IRU работи директно с платформи за премахване на терористичното съдържание, публикувано в Европейския съюз. Той има споразумения за отнасяне с Мета, Google и други, и провежда обучение за национални полицейски единици. Успешното звено се измерва чрез сваляне на процентите на сваляне, което обикновено надвишава 90% в рамките на часове, но само това метрично не отчита съдържанието, което се появява под различни хашиши.

Съвместното действие като Операция Triton (целеви ислямски държави и мрежи на Ал Кайда в 14 страни) включва споделяне в реално време на разузнаване, извлечено от данни от платформата. Тези операции показват потенциала на дълбока интеграция между правоприлагащите органи и технологичните дружества, въпреки че повдигат въпроси за поверителността на данните за насипните товари.

предизвикателства при споделянето на информация между кръстопътите

Например, когато в една страна се случи терористична атака, заподозреният може да има дигитален отпечатък върху сървърите в друга, изискващ договори за правна помощ (СЛАТ), които могат да отнемат месеци. Конвенцията за киберпрестъпността е ратифицирана от над 60 страни, като се осигурява рамка за ускорени искания, но много подписали все още са изправени пред бюрократични закъснения.

Някои правителства прибягват до едностранни действия, като например завземане на сървъри или блокиране на цели платформи (напр., Пакистан . временна забрана на Телеграмата след обвинения в тероризъм).

Етични дилеми и предпазни мерки за защита на личните данни

Хлъзгавото пролука на наблюдението

Всеки инструмент, изграден за контратероризъм, може да бъде повторно обусловен за по-широко наблюдение. Китай . Социалната кредитна система и използването на лицево разпознаване срещу уйгур мюсюлмани са предупредителни примери за това как правителственият достъп до данни на технологичните компании може да бъде малтретиран. В демократичните общества, гаранции включват съдебни заповеди, залези на данните, както и независими граждански надзорни съвети. САЩ Чужден съд за наблюдение на разузнаването (FISC) преглежда исканията на правителството за метаданни, въпреки че неговата ex parte природа е предизвикала критики. На ACLUs наблюдателна страница документи случаи, в които са били използвани контра-оперативни правомощия.

Технологичните компании често се оказват хванати между два мандата: защита на личния живот на потребителите и сътрудничество с правоохранителните органи. Общественото доверие ожесточава, когато платформите се възприемат като твърде съвместими (напр. предаване на данни без солиден правен процес) или твърде устойчиви (напр. позволяване на терористите да работят свободно). годежът на сигурността на пътниците може да предложи път напред. е малко вероятно да бъде решен чрез решение с едноразмерен размер на всички решения; специфичните за сектора кодекси за поведение могат да предложат път напред.

Алгоритъмни бии и фалшиви положителни резултати

Автоматизираните системи за откриване на терористично съдържание са обучени върху набори от данни, които често са неадекватни предвид обема, който води до неправомерно спиране на сметките или цензура. Принципите на Санта Клара призовават за прозрачност в умереността на съдържанието, включително как се разработват и тестват алгоритмите за борба с тероризма. Компаниите като YouTube започнаха да публикуват доклади за прозрачност, които разбиват поглъщанията по категории и причини за отстраняване, но независимите одити остават редки.

Тази липса на отчетност е сериозна етична загриженост, особено когато фалшивите положителни резултати могат да доведат до неправомерно задържане или отказ на услуги.

Бъдещи насоки и препоръки за политиката

Укрепване на независимия надзор

Най-ефективните сътрудничество в борбата срещу тероризма са тези, които внедряват независими механизми за надзор. Специалният докладчик на ООН по борбата с тероризма препоръча всяко споразумение за обмен на данни между технологичните компании и правителствата да подлежи на периодично преразглеждане от страна на борда на многодържавите, включително представители на гражданското общество.

Хармонизиране на правните стандарти през границите

За да се намалят неточностите, международните споразумения като CLOUD Act двустранни пактове следва да бъдат разширени, като същевременно се включат по-силни клаузи за правата на човека. ЕС проучва версия на Будапещаската конвенция, която ще добави критерии за правата на човека за достъп до данни. Технологичните компании могат да приемат глобални минимални стандарти и да не се съобразяват с това къде се ангажират с принципите на ООН за управление на бизнеса и правата на човека.

Инвестиране в по Privacy-Preserving Technologies

Иновативни технически решения могат да намалят търговията между сигурността и неприкосновеността на личния живот. Техники като homomorphic криптиране (позволяване на изчисляване на криптирани данни), zero-знание доказателства[, и federated обучение[] позволява на правителствата да анализират модели в данни, без да виждат суровото съдържание. Например, контратерористична агенция може да се оглежда за платформа за откриване на необичайни модели на комуникация, без да декодира отделни съобщения. Тези технологии все още са ненатоварени, но предлагат обещаваща средна земя.

Друга възможност е да се използва само за споделяне на информация по поръчка , където първоначално се споделят само метаданни (напр. време, обем, географски идентификатори) и пълното съдържание се осъществява само със заповед. Закон за прозрачност на потребителите, предложен в Конгреса на САЩ, има за цел да изисква такъв достъп до всички искания за борба с тероризма.

Преминаване на Гап за малки и средни платформи

Много от фокуса е бил върху най-големите платформи, но терористите често мигрират към по-малки, по-малко регулирани услуги. Инициативи като Tech Against . . . Platformform Support [[[ [ [FLT:]] предоставят безплатни инструменти и опасни разузнавателни средства за компании с ограничени ресурси. Правителства могат да ускорят.

Заключение

Сътрудничеството между технологични компании и правителства за контратероризъм не е неофициално, а необходимост, която се ражда от дигиталната трансформация на съвременния конфликт. Когато се прави правилно, той спасява животи чрез нарушаване на атаки, преди да се случи, премахване на насилие пропаганда в мащаб, и нарушаване на финансовите мрежи. Когато се прави лошо, тя подкопава гражданските свободи, пристрастия алгоритми срещу малцинствени общности, и опорочава доверието в двете демократични институции и технологичната индустрия.

Продължавайки напред, ключът не е да избираме между сигурността и неприкосновеността на личния живот, а да проектираме партньорства, които са прозрачни, правно ограничени и подлежат на строг независим надзор. Ограничителните рамки, очертани в тази статия ! споделяне на информация, криптиране дебати, многостранни платформи като GIFCT, и възникващи технологии за защита на личните данни, представляват развиващ се инструмент. Нито един не е перфектен, но заедно те образуват основа за по-безопасен цифров свят. Политици, технолози и гражданското общество трябва да продължат да се итерат на тези модели, винаги помни, че борбата с тероризма не трябва да жертват ценностите, които терористите се стремят да унищожат.