Table of Contents
Еволюція публічно-приватних партнерських відносин в антитерористичному процесі
За останні десятиліття відносини між технологічними компаніями та органами державної антитерористичної організації значно поглибилися. Що колись було реактивне, після-атакне співробітництво перетворилося на проактивне, приводне партнерство з даними, яке просуває спостереження, режимування контенту та розвідка. Ця трансформація ведеться на об’ємі цифрових комунікацій та фізіологічне дослідження терористичних груп за допомогою зашифрованих каналів, соціальних медіа для рекрутингу, та онлайн фінансових мереж. Сьогодні жодна особа-громадський або приватний — може відкладати загрозу самостійно. Уряди спираються на технічну інфраструктуру платформ, таких як Meta, YouTube, Телеграма, X (колишній Твіттерм) для захисту правових компаній, що залежають, що незалежні та етичні та загрози, що пов’ять.
У статті розглянуто механізми, успіхи та суперечки про ці партнерські відносини, з фокусом на розподілі даних, шифрування битв, правових рамок та дороги. На прикладах реального світу, такі як Global Internet Forum to Counter Terrorism (GIFCT), використання баз даних хеш-розмальовка, законодавчих інструментів, таких як UK Online Safety Act та Законодавчий акт США.
Основні напрямки співпраці з технологічними органами
Звіти про розподіл та підозру на активність
Технології компанії працюють масивні екосистеми даних — від електронних серверів до хмарного зберігання до соціальних медіа-каналів — можуть містити сигнали немінентних терористичних ділянок. Багато урядів формально запрошують канали, через які ці компанії добровільно або юридично розкриють загрози показників. Наприклад, Департамент США «Схожі, Скажіть деякі» кампанії має технологію партнерської програми, яка стимулює фірми, щоб повідомити онлайн екстремістський зміст. Такі звіти часто запускаються автоматизованими системами, які сканують для відомих терористичних пропаганд, інструкції з бомботворіння або рекрутингової мови.
Міжнародні органи, як Об'єднання Офісу проти тероризму, також були встановлені рамки для обміну інформацією, які поважають юрисдикційні межі. Нездатна ініціатива є Тех проти тероризму] проекту, що забезпечує менші платформи з інструментами розвідки та модерації, що гальмують розрив між великими корпораціями та урядами. UN Counter-Terrorism Office] підтримує репозиторію кращих практик, які багато компаній приймають.
Автоматизований режим контенту та хеш-Сгарінг
Одним з найбільш ефективних технічних колаборацій є поширення цифрових відбитків пальців — хеш—відомого вмісту терористів. Глобальний інтернет-форум для протидії тероризму (GIFCT), заснований Facebook, Microsoft, Twitter та YouTube, підтримує спільну базу даних хешів. Коли один учасник платформи визначає терористське відео або зображення, його хеш додається до бази даних, а інші члени автоматично блокують цей зміст. Уряди сприяють подаючи хешів з джерел розвідки, акселеційні витрати перед відео виходять вірусними. GIFCT] приймається офіційні звіти[F
У критично, ця співпраця поширюється за винятком проактивного виявлення: моделі машинного навчання, які навчаються на державних заходах, можуть зафіксувати нові варіації пропаганди, навіть коли не існує. Це зменшує ймовірність на модераторах людини, які можуть зіткнутися з психологічною шкодією від впливу на насильницький матеріал.
Зашифрування та дебатація доступу
За допомогою подвійного шифрування, що забезпечується найвищим рівнем співпраці. Уряди стверджують, що кінцеве шифрування на платформах, таких як WhatsApp, Signal, а також Телеграма створює «безпечні притулки» для терористичних осіб, щоб спілкуватися невикористаними. Вони вимагають правового доступу—завдяки через задні або клієнтостороннє сканування. Технологічні компанії, однак, лічильник, що ослаблення шифрування, буде занурювати безпеку всіх користувачів, включаючи журналістів та правозахисників, і можуть бути використані ворожими станами.
Цей дебат виготовив кілька високопрофільних стоків. У 2016 році Сан-Бернардіно розслідування, Apple відмовилася розблокувати iPhone для ФБІ, збудувати довіру користувачів. Ще недавно пропозиція ЄС «Чому контролювати» звернулася до конфіденційності адвокатів. Компанії, такі як Signal явно заявили, що вони будуть виводити з будь-якого ринку, який змушує їх зламати кінцеве шифрування. Тим не менш, деякі уряди були штовховані для «клієнт-помічник», де контент проаналізований перед шифруванням] - модель, яка Meta[Електронний [Електронний чат[Електронний]
Середнє мелене "проектовані розкриття"] підхід, що використовується в Законі про безпеку Великобританії, який вимагає платформ для виявлення та видалення вмісту терористів за допомогою автоматизованих інструментів, але не має мандатного розшифрування ковдри. Цей каркас залишає за собою технічну реалізацію підприємств, що веде до різних результатів.
Юридичні рамки, які регулюють співпрацю
Національний законотворчість та екстратериторійне відбиття
Закони, що регулюють розподіл даних та спостереження, широко відрізняються, створюючи тертя в глобальному інтернеті. США CLOUD Act (керівництво законної надмірності використання даних) дозволяє правоохоронним органам вимагати дані з американських компаній незалежно від того, де він зберігається, за умови, що іноземний уряд відповідає певним правам людини. Це дозволило оперативно співпрацю з союзниками, такими як Великобританія та Австралія, але критики стверджують, що він підпорядковує місцевий суверенітет даних. США відділу Акту ЄС наголошує існуючі угоди.
ePrivacy Directive і Загальний регламент захисту даних (GDPR)] накладають суворі обмеження на обробку даних для правоохоронних органів, які вимагають судових гарантій та оцінки пропорційності. Технологічні компанії, що працюють по всій території Атлантичного Атлантичного атлантичного університету повинні орієнтуватися на лабіринту зобов'язань, часто вибираючи для дотримання суворого режиму, щоб уникнути санкцій. Це може затримати або ускладнити контртерористичні дані, як видно у Шремс II ухвалі, що недійснило рамку конфіденційності Shield.
Волонтерська проти мандатного співробітництва
Деякі колаборації є добровільним — продукт саморегуляції галузі — висихає інші оману законом. ) Німецькі мережі (NetzDG), наприклад, силові платформи для видалення проявляються незаконним змістом (включаючи терористичний матеріал) протягом 24 годин або обличчям важких штрафів. Компанії відповіли вкладенням в автоматичні команди модерації і прийняття більш урядових рефералів. На відміну від, країни, як Індія не має формальних мандат, але надійно на неформальних запитах, які можуть призвести до розгляду скарги або опору.
Ризик місійний creep є реальним: раз платформа будує можливості для протидії тероризму, уряди можуть натискати їх для використання тих же інструментів для політичного моніторингу десента. Звіт про прозорість та незалежне надходження є важливим для захисту від цього. Організації, такі як Access Now та Human Law Watch] регулярно аудит таких колаборацій.
Міжнародне співробітництво та багатосторонні ініціативи
Глобальний інтернет-форум для протидії тероризму (GIFCT) в Глибині
GIFCT є найбільш інституційним державно-приватним партнерством в цьому домені. Заснований в 2017 році після хвилі атак ISIS-інтересованих в Європі, він тепер включає в себе понад десятки компаній-членів і формальної структури управління. Підставники GIFCT включають: розробку технічних рішень, таких як спільна база даних хешів; дослідження фінансування на використання терористів цифрових платформ; протоколи кризових реагування для розбиття новинних подій, які запускаються на перебіг у екстремістичному змісті.
Уряди сидять на дорадчій дошці, а форум співпрацює з Європол] Інтернет-реферал-блок (EU IRU) для прапора транскордонних загроз. Хоча GIFCT був похвалений для зменшення обсягу вмісту терористів, критики відзначають, що не має обов'язкових сил і було повільним адресним алгоритмічним посиленням екстремістського матеріалу. Звіти прозорості GIFCT показати тисячі кусок, що обмінюються щомісяця, але відсутність незалежних перевірок залишається концерном.
Інтернет-реферал «Європоль» та спільні операції
В рамках Європейського Союзу працює EU IRU, що безпосередньо працює з платформами для видалення вмісту терористів, розміщеного в Європейському Союзі. Вона має відповідні угоди з Meta, Google та іншими, а також проводить навчання для національних поліцейських одиниць. Успіх агрегату вимірюється за рахунок скорочень, що перевищує 90% протягом годин, але це метричне самостійне не є обліковим записом для змісту, який нагадує під різними хешами.
Спільні операції, такі як (завантаження ісламських держав і мереж Al-Qaeda через 14 країн) взяли участь в режимі реального часу спільного доступу інтелекту, отриманого з даних платформи. Ці операції демонструють потенціал глибокої інтеграції між правоохоронними та технологічними компаніями, хоча вони підвищують конфіденційність питань щодо збору сипучих даних.
Виклики в розкрою розвідки крос-Борд
Різні правові режими, закони локалізації даних, політичні напруження можуть блокувати своєчасну співпрацю. Наприклад, коли терористична атака виникає в одній країні, цифровий друк підозри може перебувати на серверах в іншому, що вимагають взаємоправових ласощів допомоги (МАТС), які можуть приймати місяці. Budapest Convention on Cybercrime був проратифікований більш ніж 60 країн, що надає рамку для очікуваних запитів, але багато підписників все ще стикаються бюрократичні затримки.
Деякі уряди вдаються до односторонньих дій, таких як захоплення серверів або блокування цілих платформ (наприклад, тимчасове заборону Пакистану на телеграмі після проведення терористів). Такі заходи є непристойними інструментами, які можуть завдати шкоди громадянському суспільстві більше, ніж терористичні мережі, які цільують.
Етичні пальми та охоронці конфіденційності
Схіппі Слайсер
Будь-який інструмент, побудований для протидії тероризму, може бути перероблений для широкого нагляду. Соціальна система Китаю та використання розпізнавання обличчя проти мусульман Угуру є обережними прикладами, як доступ до даних техніка може бути зловживане. У демократичних товариствах, охоронці включають судові гарантії, західні пункти про зберігання даних, а також самостійні цивільні перенаглядові дошки. США Прихильники ACLU, де були перенаправлені джерела енергії , де були перенаглядні документи , де були перенаглядові документи[F:3[F:3[F:3[F:3[F:3
Технології компанії часто знаходять себе, що спійманий між двома мандатами: захист конфіденційності користувачів і кооперація з правоохоронними органами. Публічна довіри еродів, коли платформи сприймаються як занадто переконливі (наприклад, передача даних без надійного юридичного процесу) або занадто стійкий (наприклад, що дозволяє терористи вільно працювати). "privacy-security paradox" навряд чи буде вирішуватися одним із варіантів рішення; галузеві специфічні коди поведінки можуть запропонувати шлях вперед.
Алгоритмічні Біас і Фальсе Позитивні
Автоматизовані системи виявлення вмісту терористів навчаються на даних, які можуть передаватися на певних мовах, регіонах, або політичних точках зору. Це може призвести до поширення вмісту з маргіналізованих громад, таких як Курдські або Палестині активісти, мова яких є помилково позначений як екстреміст. Рецензія людини часто неналежна за умови, що внаслідок неправильного підвіски облікових записів або цензури. Santa Clara Принципи виклик для прозорості у помірному режимі, включаючи, як алгоритми протидії тероризмам розвивалися і тестуються[FLT]
Урядовий інтелект, який використовується для підготовки цих моделей, також може бути класифікований, що робить його неможливим для зовнішніх дослідників, щоб перевірити точність. Цей недолік підзвітності є серйозним етичним занепокоєнням, особливо коли помилкові позитивні кошти можуть призвести до неправомірних арештів або відмов від послуг.
Рекомендації щодо політики майбутнього
Зміцнення незалежного нагляду
Найбільш ефективні антитерористичні операції – це ті, які поєднуються незалежними механізмів нагляду. Особливий Rapporteur ООН щодо протидії тероризму рекомендується будь-яким угодою про розбір інформації між технологічними компаніями та урядами, підлягають періодичному рецензуванню багатостороннього плану, включаючи представників громадянського суспільства. Такі дошки повинні мати силу відкликати винятковий доступ, якщо зловживані знайдені. Країни, як Канада, були встановлені , Комітети з прозорості національної безпеки] з представниками приватного сектора для перегляду практик з розвідки.
Збільшити правові стандарти Across Borders
Для зменшення тертя, міжнародних угод, таких як , що діють двосторонніми патактами , повинні бути розширені, в той час як, що посилює прав людини. EU досліджує «другу освіту» версію Будапештської конвенції, яка б додасть критерії прав людини для доступу до даних. Технологічні компанії також можуть прийняти глобальні мінімальні стандарти, які не вимагають, де вони працюють, — виходячи з принципів слухання ООН щодо прав бізнесу та людини.
Інвестування в технології «Приват-Забезпечення»
Інноваційні технічні рішення можуть зменшити обсяги торгівлі між безпекою та конфіденційності. Методи, такі як , гомоморфне шифрування] (повільне обчислення на зашифровані дані), / zero-knowledge докази], і /eded learning дозволяють урядам аналізувати візерунки в даних, не дивлячись на сирий зміст. Наприклад, агентство з протидії тероризмом може перемістити зашифровану базу платформи для прапора незвичайних комунікаційних шаблонів без будь-яких розшифровних індивідуальних повідомлень. Ці технології все ще зрілі, але перспективні.
Ще один проспект "privacy-by-design" розвідка , де зустрічаються метадані (наприклад, час, обсяг, географічні ідентифікатори) поділяється спочатку, а повний вміст доступний тільки з абітурієнтом. Messenger Transparency Act запропонував в Конгресі США, щоб зажадати такий зв'язковий доступ до всіх запитів протитерористичних втручань.
Розведення ґап для малих і середніх платформ
Багато фокусу на найбільших платформах, але терористи часто мігрують до менших, менш-регульованих послуг. Ініціативи, такі як Тех проти «Platform Support» програми забезпечують безкоштовні інструменти та розвідник загроз для компаній з обмеженими ресурсами. Уряди можуть прискорити це шляхом фінансування публічно-інтерестового «counterterrorism API», який може інтегруватися. Єврокомісія Digital Services Act включає в себе положення для системних оцінок ризику, які б компельні великі платформи для обміну технічними найкращими практиками з меншими аналогами.
Висновок
Співпраця між технологічними компаніями та урядами з питань протидії тероризму не є необов'язковою – це необхідність, що народжена від цифрової трансформації сучасного конфлікту. При здійсненні права вона зберігає життя, порушуючи атаки, перш ніж вони відбуваються, знімаючи насильну пропаганду в масштабі, а також порушення фінансових мереж. При здійсненні погано, це ерозії цивільних свобод, з'ясовує алгоритми проти меншинських громад, і ерозів довірити як демократичних установ, так і технологічної галузі.
Переміщення вперед, ключ не вибрати між безпекою та конфіденційності, але для позначення партнерських відносин, які прозорі, правово пов'язані і підлягають надійному нагляду. В рамках викладені в цій статті - хеш-презентаційні бази, дебати шифрування, багатосторонні платформи, такі як GIFCT, і виявляються технології конфіденційності -представлення екзамена. Ні ідеальний, але разом вони утворюють основу для безпечного цифрового світу. Політиці, технологи, громадянське суспільство повинні продовжувати ітерувати на цих моделях, завжди пам'ятаючи, що боротьба з тероризмом не повинні жертвувати дуже цінні терористи, які прагнуть знищити.