Evolucija javno-privatnih partnerstava u borbi protiv terorizma

Tokom protekle decenije odnos između tehnoloških kompanija i vladinih agencija za borbu protiv terorizma se znatno produbio. Ono što je nekada bila reaktivna, post-napadna saradnja je evoluiralo u proaktivno, posredovano partnerstvo koje obuhvata nadzor, umerenost sadržaja i razmenu informacija. Ova transformacija je vođena pukim obimom digitalnih komunikacija i sofisticiranošću terorističkih grupa koristeći šifrovane kanale, društvene medije za regrutovanje, i online finansijske mreže. Danas, nijedan pojedini entitetjavni ili privatni ne može da se uhvati u koštac sa pretnjom samim. Vlade se oslanjaju na tehničku infrastrukturu platformi poput Meta, YouTube, Telegram, i X (ranije Twitter) da bi detektovali i poremetili terorističke aktivnosti, dok kompanije zavise od vladine obaveštajne pretnje da zaštite svoje korisnike. Rezultujuća saradnja je složena, često u okviru pravnih i etičkih tenzija, ali neizobilna za savremene bezbednosne okvire bezbednosne okvire bezbednosti.

Ovaj članak ispituje mehanizme, uspehe i kontroverze tih partnerstava, sa fokusom na deljenje podataka, šifrovanje bitaka, pravne okvire i put ispred njih. On se bavi primerima iz stvarnog sveta kao što su Globalni internet forum za borbu protiv terorizma (GIFCT), korišćenjem baza podataka o haš-deljenju i zakonodavnim instrumentima kao što su Zakon o bezbednosti Velike Britanije i Zakon o američkoj CLOUD.

Osnovne oblasti saradnje tehnologije i vlade

Izveštaji o deljenju i sumnjièavoj aktivnosti

Tehnološke kompanije rade na masivnim sistemima podataka od e-mail servera do skladišta u oblake do društvenih medijakoji mogu da sadrže signale neminovnih terorističkih zavera. Mnoge vlade su formalizovale kanale kroz koje ove kompanije dobrovoljno ili pravno otkrivaju pokazatelje pretnje. Na primer, američko ministarstvo za nacionalnu bezbednostVidi nešto, reci nešto“ kampanja ima tehnološki partnerski program koji podstiče firme da prijave onlajn ekstremistički sadržaj. Takvi izveštaji su često pokretani automatizovanim sistemima koji skeniraju poznate terorističke propagande, instrukcije za pravljenje bombi ili jezik regrutovanja.

Međunarodna tela kao što su Kancelarija Ujedinjenih nacija za borbu protiv terorizma takođe su uspostavila okvire za deljenje informacija koje poštuju granice nadležnosti. Značajna inicijativa je Projekat Tehnologija protiv terorizma, koji pruža manjim platformama obaveštajne podatke i umerene alate, premošćujući jaz između velikih korporacija i vlada. UN Kontraterorološki ured održava repozitorij najboljih praksi koje mnoge kompanije usvajaju.

Аутоматско умерење садржаја и хаш-дељење

Jedna od najefikasnijih tehničkih saradnja je deljenje digitalnih otisaka prstijuhašesa poznatih terorističkih sadržaja. Globalni Internet Forum za borbu protiv terorizma (GIFCT), osnovan od strane Facebooka, Microsofta, Twittera i YouTubea, održava zajedničku bazu podataka o hašišima. Kada jedna platforma članica identificira teroristički video ili sliku, njen haš se dodaje bazi podataka, a drugi članovi automatski blokiraju taj sadržaj. Vlade doprinose podnošenju hašesa iz obavještajnih izvora, ubrzavajući skidanje prije nego što videozapisi postanu virusni. GIFCT-ov službeni sajt]] detalji kako ovaj sistem radi i objavljuje izveštaje o transparentnosti.

Kritički, ova saradnja se proteže izvan uklanjanja do proaktivnog otkrivanja: modeli mašinskog učenja obučeni na vladinim skupovima podataka mogu da zastave nove varijacije propagande, čak i kada ne postoji meč hašiša.

Šifriranje i debata o pristupu

Dilema sa enkripcijom ostaje najspornija oblast saradnje. Vlade tvrde da se krajnja šifrovanje na platformama kao što su WhatsApp, Signal i Telegram stvarabezbedna utočišta“ za teroriste da komuniciraju neprimećeno. Oni zahtevaju zakonit pristupčesto kroz stražnja vrata ili skeniranje klijenata. Tehnološke kompanije, međutim, protivno tome da bi slabljenje enkripcije ugrozilo bezbednost svih korisnika, uključujući novinare i aktiviste za ljudska prava, i da bi mogle biti iskorišćene od strane neprijateljskih država.

Ova rasprava je proizvela nekoliko visokoprofilnih pat-ofova. U istrazi iz 2016. godine, Epl je odbio da otključa iPhone za FBI, navodeći korisničko poverenje. Nedavno je predlog EUKontrola razgovora“ izazvao vatru od strane zagovornika privatnosti. Kompanije kao što je Signal su eksplicitno izjavile da će se povući sa bilo kog tržišta koje ih primorava da razbiju kraj-za kraj enkripcije. Ipak, neke vlade su se pogurale za “Skeniranje na strani klijenta” gde se sadržaj analizira pre enkripcijea model koji Meta navodno testira u svojim šifroovanim Glasnicima. Elektronska frontier fondacija nudi temeljitu analizu tehničkih i pravnih argumenata.

Srednja osnova je dizajnirana razotkrivanja“] pristup koji se koristi u UK Online Zakonu o bezbednosti, koji zahteva od platformi da identifikuju i uklone terorističke sadržaje koristeći automatizovane alate, ali ne i mandat deka dešifrovanje. Ovaj okvir ostavlja tehničko sprovođenje kompanijama, što dovodi do različitih rezultata.

Pravni okviri Upravljačka saradnja

Nacionalno zakonodavstvo i vanteritorijalni doseg

Zakoni koji uređuju deljenje podataka i nadzor se široko razlikuju, stvarajući trenje u globalizovanom internetu. SAD KLOUD Akt (Clarificing Lawful Overous Use of Data Act) omogućava sprovođenje zakona da zahteva podatke američkih kompanija bez obzira gde se nalazi, pod uslovom da strana vlada ispunjava određene uslove za ljudska prava. To je omogućilo saradnju u realnom vremenu sa saveznicima kao što su UK i Australija, ali kritičari tvrde da to potkopava lokalni suverenitet podataka. US.Američka služba za pravosuđe CLOUD Act navodi postojeće sporazume.

Opšta uredba o zaštiti podataka Evropske unije]eDirektiva o privatnosti i Generalna uredba o zaštiti podataka (GDPR) uvodi stroga ograničenja u obradi podataka za sprovođenje zakona, zahtevajući sudske naloge i proporcionalne procene. Tehnološke kompanije koje deluju širom Atlantika moraju da upravljaju lavirintom obaveza, često birajući da se pridržavaju strožijeg režima kako bi se izbegle sankcije. To može da odlaže ili komplikuje protivterorističke podele podataka, kao što je videno u Šremovima II.

Dobrovoljac protiv obavezne saradnje

Neke saradnje su dobrovoljniproizvod industrijske samoregulacije dok su druge propisane zakonom. Nemački akt o izvršenju mreže (NetzDG)], na primer, primorava platforme da uklone očigledno nezakonit sadržaj (uključujući teroristički materijal) u roku od 24 sata ili se suoče sa teškim novčanim kaznama. Kompanije su reagovale ulaganjem u automatizovane timove za umerenost i prihvatanjem više vladinih referala. Nasuprot tome, zemlje poput Indije nemaju formalni mandat nego se oslanjaju na neformalne zahteve zahteve, koji mogu dovesti do ad-hoc prevelike usklađenosti ili otpora.

Rizik od misionog puzanja je stvaran: kada platforma izgradi mogućnosti za borbu protiv terorizma, vlade mogu da ih pritišću da koriste iste alate za političko neslaganje. Prijavljivanje transparentnosti i nezavisni nadzor su neophodni da bi se zaštitili od toga. Organizacije kao što je Pristup sada i Human Rights Watch redovno vrše reviziju takvih saradnja.

Međunarodna saradnja i multilateralne inicijative

Globalni internet forum za borbu protiv terorizma (GIFCT) u dubini

GIFCT je možda najinstitucionalizovanije javno-privatno partnerstvo u ovom domenu. Osnovano 2017. godine nakon talasa napada inspirisanih ISIS-om u Evropi, sada uključuje preko desetak kompanija članica i formalnu strukturu upravljanja. GIFCT-ovi stubovi uključuju: razvoj tehničkih rešenja kao što je zajednička baza podataka o hašišima; finansiranje istraživanja o upotrebi terorističkih platformi; i protokole za reakciju na krize za razbijanje vesti koje izazivaju talas ekstremističkog sadržaja.

Vlade sede na savetodavnom odboru, a forum sarađuje sa Europolom] Internet referalnom jedinicom (EU IRU) da bi se zastavile prekogranične pretnje. Dok je GIFCT hvaljen zbog smanjenja obima terorističkih sadržaja, kritičari primećuju da nema obavezujuće sprovođenje i da je sporo da se bavi algoritamskim pojačavanjem ekstremističkog materijala. GIFCT-ovim izveštajima o transparentnosti pokazuju hiljade hašeova razmenjenih mesečno, ali odsustvo nezavisnih revizija ostaje zabrinutost.

Europolova internet referalna jedinica i zajedničke operacije

EU IRU radi direktno sa platformama za uklanjanje terorističkih sadržaja postavljenih unutar Evropske unije. Ona ima sporazume o upućivanju sa Meta, Guglom i drugim, i vodi obuku za nacionalne policijske jedinice. Uspeh jedinice se meri stopama skidanja tipično preko 90% u roku od nekoliko satiali samo ova metrika ne računa o sadržaju koji se ponovo pojavljuje pod različitim hašeima.

Zajedničke operacije kao što su Operacija Triton (ciljanje islamske države i Al Kaide širom 14 zemalja) uključivale su deljenje informacija iz platformskih podataka u realnom vremenu. Ove operacije pokazuju potencijal duboke integracije između zakona i tehnoloških kompanija, iako postavljaju pitanja o prikupljanju podataka u velikom broju.

Izazovi u podeli meðusobne inteligencije

Različiti pravni režimi, zakoni o lokalizaciji podataka i političke tenzije mogu da blokiraju pravovremenu saradnju. Na primer, kada se u jednoj zemlji dogodi teroristički napad, digitalni otisak osumnjičenog može da se nalazi na serverima u drugoj, koji zahtevaju uzajamne ugovore o pravnoj pomoći (MLAT) koji mogu da traju mesecima. Budapest Konvencija o kibernetičkom kriminalu ratifikovana je od strane preko 60 zemalja, pružajući okvir za ubrzane zahteve, ali se mnoge potpisnice još uvek suočavaju sa birokratskim odlaganjima.

Neke vlade su pribegle jednostranim akcijama, kao što su zauzimanje servera ili blokiranje čitavih platformi (npr. privremena zabrana Pakistana Telegramu nakon tvrdnji o terorizmu). Takve mere su tupi instrumenti koji mogu štetiti civilnom društvu više nego terorističke mreže koje ciljaju.

Etičke dileme i zaštita privatnosti

Klizava nizina nadzora

Bilo koji alat izgrađen za borbu protiv terorizma može se prenameniti za širi nadzor. Kineski društveni kreditni sistem i korišćenje prepoznavanja lica protiv muslimana Uighura su primeri kako se vladin pristup podacima tehnološke kompanije može zloupotrebiti. U demokratskim društvima, zaštitne mere uključuju sudske naloge, klauzule o zadržavanju podataka i nezavisne civilne nadzorne table. SAD Strani obaveštajni nadzorni sud (FISC)]] razmatra vladine zahteve za metapodatke, iako je njegova bivša priroda privukla kritike. Stranica ACLU-a]]]

Tehnološke kompanije često se nalaze u zasedi između dva mandata: zaštite privatnosti korisnika i saradnje sa sprovođenjem zakona. Javno poverenje se erodira kada se platforme percipiraju kao ili presukladne (npr. predaja podataka bez robusnog pravnog procesa) ili preotporne (npr. omogućavanje teroristima da slobodno rade). “Parokod o privatnosti i sigurnosti” nije verovatno da će biti rešeno jednim-velikim-podešenjima-sve rešenjem; sektor-specifični kodovi ponašanja mogu da ponude put napred.

Algoritmske bije i lažne pozitivne

Automatizovani sistemi za otkrivanje terorističkih sadržaja su obučeni na skupovima podataka koji mogu da prezentuju određene jezike, regione ili političke stavove. To može dovesti do nesrazmernog zastavljanja sadržaja od marginalizovanih zajednica, kao što su kurdski ili palestinski aktivisti čiji je govor pogrešno označen kao ekstremizam. Ljudski pregled često nije dovoljan s obzirom na obim, što rezultira nesrazmjernim suspenzijama računa ili cenzure. Santa Clara Principiles poziva na transparentnost u umerenosti sadržaja, uključujući i način na koji su antiteroristički algoritmi razvijeni i testirani. Kompanije poput YouTubea počele su da objavljuju transparencijske izveštaje]] koji se razlažu po pitanju kategorija i uklanjanja, ali nezavisne revizije su i dalje retke.

Vladina obaveštajna služba koja se koristi za obuku ovih modela takođe može biti klasifikovana, što spoljnim istraživačima onemogućava da potvrde tačnost.

Buduće smjernice i preporuke za politiku

Jaèanje nezavisnog nadzora

Najefikasnije kontraterorističke saradnje su one koje usađuju mehanizme nezavisnog nadzora. Specijalni izveštač UN-a o kontraterorizmu je preporučio da se svaki sporazum o podeli podataka između tehnoloških kompanija i vlada podlegne periodičnoj reviziji odbora za više deonika, uključujući predstavnike civilnog društva. Takvi odbori bi trebalo da imaju moć da ukinu izuzetan pristup ako se nađu zloupotrebe. Zemlje kao što je Kanada su uspostavile Odbore za nacionalnu bezbednost sa članovima privatnog sektora da pregledaju prakse razmene obaveštajnih podataka.

Usklađivanje pravnih standarda preko granica

Da bi se smanjilo trenje, međunarodni sporazumi kao što je KLOUD Akt bilateralni paktovi treba da se prošire, a istovremeno se ugrađuju i jače klauzule o ljudskim pravima. EU istražujedrugu generaciju“ Budimpeštanske konvencije koja bi dodala kriterijume za ljudska prava za pristup podacima. Tehnološke kompanije takođe mogu da usvoje globalne minimalne standardebez obzira na to gde poslujuobavezujući se na principe UN-a o poslovanju i ljudskim pravima.

Investiranje u tehnologijuPrivatnost-Očuvanje“

Inovativna tehnička rešenja mogu da umanje razmenu između bezbednosti i privatnosti. Tehnike kao što su homomorfna enkripcija (dopuštajući računanje šifrovanih podataka), dokazi nultog znanja, i federisano učenje omogućavaju vladama da analiziraju obrasce u podacima bez da vide sirovi sadržaj. Na primer, agencija za borbu protiv terorizma bi mogla da ispita šifrovanu bazu podataka platforme da zastavi neobične komunikacijske šablone bez dešifrovanja pojedinih poruka. Te tehnologije još uvek omaćuju ali nude obećavajuću sredinu.

Druga avenija je privatnost po dizajnu“ deljenje obaveštajnih podataka, gde se u početku dele samo metapodaci (npr. vreme, obim, geografski identifikatori) i puni sadržaj se pristupa samo sa nalogom. Akt o transparentnosti Mesenger predložen u Kongresu SAD ima za cilj da zahteva takav neređeni pristup za sve antiterorističke zahteve.

Premostiti jaz za platforme male i srednje veličine

Veliki deo fokusa bio je na najvećim platformama, ali teroristi često migriraju u manje, manje regulisane usluge. Inicijative kao Tehnologija protiv terorizmaPlatformska podrška“ program pruža besplatne alate i pretnju obaveštajnim službama sa ograničenim resursima. Vlade mogu to ubrzati finansiranjem javnog interesaračunarne antiterorističke API“ koji svaka platforma može da integriše. Evropska komisija Digitalni zakon o uslugama uključuje odredbe za sistemske procene rizika koje bi primorale veće platforme da dele tehničke najbolje prakse sa manjim vršnjacima.

Zaključak

Saradnja između tehnoloških kompanija i vlada na borbi protiv terorizma nije opcionalna to je neophodnost koja se rađa iz digitalne transformacije modernog sukoba. Kada se uradi ispravno, spašava živote ometanjem napada pre nego što se pojave, uklanjanjem nasilne propagande na razmeru, i narušavanjem finansijskih mreža. Kada se uradi loše, ona erodira građanske slobode, pristrasnosti algoritma protiv manjinskih zajednica, i erodira poverenje kako u demokratske institucije tako i u tehničku industriju.

Krećući se napred, ključ nije da se bira između bezbednosti i privatnosti, već da se dizajniraju partnerstva koja su transparentna, pravno vezana i podložna robusnom nezavisnom nadzoru. Okviri navedeni u ovom člankuhash-sharing baze podataka, debate o enkripciji, multilateralne platforme kao što je GIFCT, i nove tehnologije koje čuvaju privatnost predstavljaju evolutivni alat. Nijedan nije savršen, ali zajedno formiraju fondaciju za bezbedniji digitalni svet. Kreatori politika, tehnolozi i civilno društvo moraju nastaviti da se i dalje gaje na tim modelima, uvek sećajući da borba protiv terorizma ne treba da žrtvuje veoma vrednosti koje teroristi traže da unište.