Evolucija javno-privatnih partnerstava u borbi protiv terorizma

U proteklom desetljeću odnos između tehnoloških tvrtki i vladinih protuterorističkih agencija znatno se produbio. Ono što je nekad bila reaktivna, postnapadna suradnja razvila se u proaktivno, posredno partnerstvo koje obuhvaća nadzor, umjerenost sadržaja i dijeljenje informacija. Ova transformacija je vođena pukim volumenom digitalnih komunikacija i sofisticiranošću terorističkih grupa koristeći šifrirane kanale, društvene medije za novačenje, i online financijske mreže. Danas, nijedan subjekt javni ili privatni ne može sam riješiti prijetnju. Vlade se oslanjaju na tehničku infrastrukturu platformi poput Meta, YouTubea, Telegrama, i X-a (ranije Twittera) kako bi otkrili i poremetili terorističke aktivnosti, dok tvrtke ovise o vladinoj inteligenciji za prijetnju kako bi zaštitile svoje korisnike. Rezultirajuća suradnja je složena, često u okviru pravnih i etičkih napetosti, ali nezaobilazna za suvremene sigurnosne okvire.

Ovaj članak razmatra mehanizme, uspjehe i kontroverze tih partnerstava, s naglaskom na razmjenu podataka, šifriranje bitaka, pravne okvire i put ispred. Ona se bavi primjerima iz stvarnog svijeta kao što su Globalni internetski forum za borbu protiv terorizma (GIFCT), korištenje baza podataka o podjeli hash i zakonodavnih instrumenata poput Zakona o sigurnosti Ujedinjenih naroda i Zakona o američkom CLOUD-u.

Temeljna područja suradnje između tehnologije i vlade

Izvješća o podjeli inteligencije i sumnjivoj aktivnosti

Tehnološke tvrtke rade masivne podatkovne ekosustave od e-mail poslužitelja do cloud storea do društvenih medija koji mogu sadržavati signale neminovnih terorističkih zapleta. Mnoge vlade su formalizirane kanale kroz koje te tvrtke dobrovoljno ili zakonski otkrivaju pokazatelje opasnosti. Na primjer, američko Ministarstvo domovinske sigurnosti “Vidi nešto, reci nešto” kampanja ima tehnološki partnerski program koji potiče tvrtke da prijave online ekstremistički sadržaj. Takvi izvještaji su često pokrenuti automatizirani sustavi koji skeniraju poznate terorističke propagande, upute za izradu bombi ili jezik zapošljavanja.

Međunarodna tijela poput Ureda za borbu protiv terorizma Ujedinjenih naroda uspostavila su i okvire za razmjenu informacija koje poštuju granice nadležnosti. Značajna inicijativa je Projekt Tech Against Terrorizam, koji pruža manjim platformama informacije o prijetnjama i umjerenim alatima, premošćujući jaz između velikih korporacija i vlada. UN Counter-Terorism Office održava repozitorij najboljih praksi koje mnoge tvrtke usvajaju.

Automatsko umjeravanje sadržaja i dijeljenje hash

Jedna od najučinkovitijih tehničkih suradnja je dijeljenje digitalnih otisaka prstiju hashes poznatih terorističkih sadržaja. Global Internet Forum za borbu protiv terorizma (GIFCT), osnovan od strane Facebooka, Microsofta, Twittera i YouTubea, održava zajedničku bazu podataka hash. Kada jedna platforma za članove identificira teroristički video ili sliku, njezin hash se dodaje bazi podataka, a drugi članovi automatski blokiraju taj sadržaj. Vlade doprinose podnošenju hashesa iz obavještajnih izvora, ubrzavajući skidanja prije nego što videozapisi postanu virusni. GIFCT-ova službena stranica]]

Kritički, ova suradnja se proteže izvan uklanjanja do proaktivnog otkrivanja: modeli strojnog učenja obučeni na vladinim skupovima podataka mogu označiti nove varijacije propagande, čak i kada ne postoji podudaranje hašiša. To smanjuje oslanjanje na ljudske moderatore, koji se mogu suočiti s psihološkom štetom od izlaganja nasilnom materijalu.

Šifriranje i rasprava o pristupu

Dilema s enkripcijom ostaje najspornije područje suradnje. Vlade tvrde da se kraj-do-kraj enkripcije na platformama kao što su WhatsApp, Signal, i Telegram stvara \"sigurno utočište\" za teroriste da komuniciraju neprimjećeno. Oni zahtijevaju zakonit pristup često kroz stražnja vrata ili klijent-strane skeniranje. Tehnološke tvrtke, međutim, protiv da slabljenje enkripcije bi ugroziti sigurnost svih korisnika, uključujući novinare i aktiviste za ljudska prava, a mogli bi se koristiti neprijateljskim državama.

Ova rasprava je proizvela nekoliko visokoprofilnih pat-offs. U istrazi iz 2016. godine, Apple je odbio otključati iPhone za FBI, navodeći povjerenje korisnika. Nedavno, prijedlog EUKontrole razgovora“ je izazvao vatru od strane zagovornika privatnosti. Tvrtke kao Signal su izričito izjavile da će se povući s bilo kojeg tržišta koje ih prisiljava da razbiju kraj za kraj enkripcije. Ipak, neke vlade su se pogurale za “Cident-side skeniranje” gdje se sadržaj analizira prije enkripcije model koji Meta navodno testira u svojim šifriranim Glasnik chatovima. [ Elektronska frontier Foundation nudi temeljitu analizu tehničkih i pravnih argumenata.

Srednja je osnova označena razotkrivanja”] pristup koji se koristi u Zakonu o sigurnosti na internetu, koji zahtijeva od platformi da identificiraju i uklone terorističke sadržaje automatiziranim alatima, ali ne i dekripciju dekom. Ovaj okvir ostavlja tehničkoj provedbi tvrtki, što dovodi do različitih rezultata.

Pravni okviri Upravljanje suradnjom

Nacionalno zakonodavstvo i izvanteritorijalni doseg

Zakoni koji uređuju dijeljenje podataka i nadzor se uvelike razlikuju, stvarajući trenje u globaliziranom internetu. SAD CLOUD Act (Clarificiranje Zakonskog zakona o prekomorskoj upotrebi podataka Act)] omogućuje provođenju zakona da zahtijeva podatke američkih tvrtki bez obzira gdje je pohranjen, pod uvjetom da strana vlada ispunjava određene uvjete za ljudska prava. To je omogućilo suradnju u stvarnom vremenu sa saveznicima poput Velike Britanije i Australije, ali kritičari tvrde da to potkopava lokalne suverenitete podataka. Stranica Zakona o pravosuđu SAD navodi postojeće sporazume.

eDirektiva o privatnosti Europske unije i Opća uredba o zaštiti podataka (GDPR)] uvode stroga ograničenja u obradu podataka za provedbu zakona, zahtijevajući sudske naloge i procjene proporcionalnosti. Tehnološke tvrtke koje djeluju diljem Atlantika moraju upravljati labirintom obveza, često odabirom da se pridržavaju strožijeg režima kako bi se izbjegle sankcije. To može odgoditi ili komplicirati protuterorizam u dijeljenju podataka, što se vidi u presudi Schrems II. koja je poništila okvir zaštite privatnosti.

Dobrovoljno protiv obvezne suradnje

Neke suradnje su dobrovoljniproizvod samoregulacije industrije dok su druge propisane zakonom. Njemački Zakon o provedbi mreže (NetzDG)], na primjer, prisiljava platforme da uklone očito nezakonit sadržaj (uključujući teroristički materijal) u roku od 24 sata ili se sučeljavaju s teškim novčanim kaznama. Tvrtke su reagovale ulaganjem u automatizirane timove za umerenost i prihvaćanjem više vladinih referala. Nasuprot tome, zemlje poput Indije nemaju formalni mandat nego se oslanjaju na neformalne zahtjeve, koji mogu dovesti do ad-hoc prekomjerne usklađenosti ili otpora.

Rizik od misionog puzanja je stvaran: kada platforma izgradi mogućnosti za borbu protiv terorizma, vlade ih mogu prisiliti da koriste iste alate za političko neslaganje. Prijavljivanje transparentnosti i neovisan nadzor su neophodni da se čuvaju od toga. Organizacije poput Pristup sada i Human Rights Watch] redovito revidiraju takve suradnje.

Međunarodna suradnja i multilateralne inicijative

Globalni internetski forum za borbu protiv terorizma (GIFCT) u dubini

GIFCT je možda najinstitucionaliziranije javno-privatno partnerstvo u ovoj domeni. Osnovano 2017. godine nakon vala napada na ISIS-om inspiriranih u Europi, sada uključuje preko desetak tvrtki članica i formalnu strukturu upravljanja. GIFCT-ovi stupovi uključuju: razvoj tehničkih rješenja poput zajedničke baze podataka o hašišima; financiranje istraživanja o korištenju terorističkih platformi; i protokole odgovora na krize za razbijanje vijesti koje izazivaju nalet ekstremističkih sadržaja.

Vlade sjede na savjetodavnom odboru, a forum surađuje s Europolom Internet Referal Unit (EU IRU) zastavi prekogranične prijetnje. Dok je GIFCT hvaljen zbog smanjenja obujma terorističkih sadržaja, kritičari primjećuju da nema obvezujuće provođenje i da je sporo rješavati algoritamsko pojačavanje ekstremističkog materijala. GIFCT-ova izvješća o transparentnosti pokazuju tisuće hašeova koje su mjesečno razmijenjene, ali odsustvo nezavisnih revizija ostaje zabrinutost.

Europolova internetska referalna jedinica i zajedničke operacije

EU IRU radi izravno s platformama za uklanjanje terorističkih sadržaja postavljenih unutar Europske unije. Ima preporuke sporazume s Meta, Google i drugima, i provodi obuku za nacionalne policijske jedinice. Uspjeh jedinice mjeri se stopama skidanja tipično preko 90% u roku od nekoliko sati ali samo ova metrika ne računa sadržaj koji se ponovno pojavljuje pod različitim hasheima.

Zajedničke operacije kao što su Operacija Triton (cilj islamske države i mreže Al-Qaede u 14 zemalja) uključivale su dijeljenje informacija iz platformskih podataka u realnom vremenu. Ove operacije pokazuju potencijal duboke integracije između provedbe zakona i tehnoloških tvrtki, iako postavljaju pitanja o privatnosti o prikupljanju masovnih podataka.

Izazovi u razmjeni međukrvnih obavještajnih podataka

Različiti pravni režimi, zakoni o lokalizaciji podataka i političke napetosti mogu blokirati pravovremenu suradnju. Primjerice, kada se u jednoj zemlji dogodi teroristički napad, digitalni otisak osumnjičenog može boraviti na serverima u drugoj, koji zahtijevaju uzajamne ugovore o pravnoj pomoći (MLAT) koji mogu trajati mjesecima. Budapest Convention on Cybercrimin ratificiran je od strane preko 60 zemalja, pružajući okvir za ubrzane zahtjeve, ali mnoge potpisnice još uvijek se suočavaju s birokratskim kašnjenjima.

Neke su vlade pribjegle jednostranim akcijama, kao što su zauzimanje servera ili blokiranje cjelokupnih platformi (npr. privremena zabrana Telegrama nakon tvrdnji o terorizmu). Takve mjere su tupi instrumenti koji mogu naškoditi civilnom društvu više od terorističkih mreža koje ciljaju.

Etičke dileme i zaštita privatnosti

Klizava nizina nadzora

Svaki alat izgrađen za protuterorizam može se prenamijenjen za širi nadzor. Kineski sustav socijalnih kredita i korištenje prepoznavanja lica protiv muslimana Uighura su upozoravajući primjeri kako se može zloupotrebljavati vladin pristup podacima tehnološke tvrtke. U demokratskim društvima, zaštitne mjere uključuju sudske naloge, klauzule za zalazak sunca o zadržavanju podataka, i nezavisne civilne nadzorne odbore. SAD Strani obavještajni nadzorni sud (FISC)] pregledava vladine zahtjeve za metapodatke, iako je njegova bivša priroda privukla kritike. Stranica ACLU-a]]]]

Tehnološka poduzeća često se nalaze u zamci između dva mandata: zaštite privatnosti korisnika i suradnje s provedbom zakona. Javno povjerenje erodira kada se platforme doživljavaju ili presukladno (npr. predavanje podataka bez robusnog pravnog procesa) ili preotporno (npr. omogućavanje teroristima da slobodno djeluju). “Parok o privatnosti” nije vjerojatno da će se riješiti rješenjem za sve vrste; sektorski kodovi ponašanja mogu ponuditi put naprijed.

Algoritmska bija i lažna pozitivna

Automatizirani sustavi za otkrivanje terorističkog sadržaja su obučeni na skupovima podataka koji mogu prezentirati određene jezike, regije ili političke stavove. To može dovesti do nesrazmjernog zastavljanja sadržaja od marginaliziranih zajednica, kao što su kurdski ili palestinski aktivisti čiji je govor pogrešno označen kao ekstremist. Ljudski pregled često nije primjeren s obzirom na volumen, što rezultira neispravnim suspenzijama računa ili cenzure. Načela Santa Clare pozivaju na transparentnost u umjerenosti sadržaja, uključujući i način na koji su algoritmi protiv terorizma razvijeni i testirani. Tvrtke poput YouTubea počele su objavljivati transparencijske izvještaje]] koji se razgrađuju po kategorijama i uklanjanju, ali nezavisne revizije ostaju rijetke.

Vladina obavještajna služba koja se koristi za obuku ovih modela također može biti klasificirana, što vanjskim istraživačima onemogućava provjeru točnosti. Ovaj nedostatak odgovornosti je ozbiljna etička briga, pogotovo kada lažni pozitivni mogu dovesti do nepravednih uhićenja ili poricanja usluga.

Buduće smjernice i preporuke o politici

Jačanje neovisnog nadzora

Najučinkovitije protuterorističke suradnje su one koje ugrađuju neovisne mehanizme nadzora. Posebni izvjestitelj UN-a o protuterorizmu preporučio je da se svaki sporazum o podjeli podataka između tehnoloških poduzeća i vlada podvrgne periodičnoj reviziji odbora za više dionika, uključujući predstavnike civilnog društva. Takvi odbori trebali bi imati ovlasti da ukinu izuzetan pristup ako se nađu zloupotrebe. Zemlje poput Kanade uspostavile su Odbore za nacionalnu sigurnost s članovima privatnog sektora za reviziju praksi podjele informacija.

Usklađivanje pravnih standarda preko granica

Kako bi se smanjila trenja, treba proširiti međunarodne sporazume poput Billateralnih paktova CLOUD , a istovremeno uključiti i jače klauzule o ljudskim pravima. EU istražuje verziju druge generacije Budimpeštanske konvencije koja bi dodala kriterije za ljudska prava za pristup podacima. Tehnološke tvrtke također mogu usvojiti globalne minimalne standarde bez obzira na to gdje djeluju obvezujući se na načela UN-a o poslovanju i ljudskim pravima.

Investiranje u “Privatnost-Očuvanje” tehnologije

Inovativna tehnička rješenja mogu smanjiti razmjenu između sigurnosti i privatnosti. Tehnike kao što su homomorfna enkripcija (dopuštajući računanje šifrirane podatke), dokazi nultog znanja, i federirano učenje omogućavaju vladama da analiziraju uzorke u podacima bez da vide sirovi sadržaj. Na primjer, agencija za borbu protiv terorizma mogla bi ispitati šifriranu bazu podataka platforme kako bi zastavila neobične komunikacijske obrasce bez dešifriranja pojedinih poruka. Te tehnologije još uvijek omaću ali nude obećavajuću sredinu.

Druga je avenija privatnost po dizajnu” dijeljenje informacija, gdje se u početku dijeli samo metapodaci (npr. vrijeme, volumen, geografski identifikatori), a puni sadržaj pristupa samo s nalogom. Zakon o transparentnosti Mesenger predložen u američkom Kongresu ima za cilj zahtijevati takav izjednačeni pristup za sve protuterorističke zahtjeve.

Premošćujući jaz za platforme male i srednje veličine

Veliki dio fokusa bio je na najvećim platformama, ali teroristi često migriraju u manje, manje regulirane usluge. Inicijative kao Tech Against Terorizam 'Platform Support' program pruža besplatne alate i prijetnje obavještajnim službama s ograničenim resursima. Vlade to mogu ubrzati financiranjem javnog interesa “counterterorist API” koji svaka platforma može integrirati. Europska komisija Digitalni Zakon o uslugama uključuje odredbe za sistemske procjene rizika koje bi primorale veće platforme na dijeljenje tehničkih najboljih praksi s manjim vršnjacima.

Zaključak

Suradnja između tehnoloških tvrtki i vlada na protuterorizmu nije neobavezna to je nužnost koja se rađa iz digitalne transformacije modernog sukoba. Kada se učini ispravno, spašava živote ometanjem napada prije nego što se pojave, uklanjanjem nasilne propagande na razini, i narušavanjem financijskih mreža. Kada se to loše učini, erodira građanske slobode, pristranosti algoritma protiv manjinskih zajednica, te erodira povjerenje kako u demokratske institucije tako i u tehničku industriju.

Napredovanje, ključ nije birati između sigurnosti i privatnosti, već za projektiranje partnerstava koja su transparentna, pravno vezana i podložna robusnom neovisnom nadzoru. Okviri navedeni u ovom članku baze podataka o dijeljenju novca, šifriranje rasprava, multilateralne platforme poput GIFCT-a, i nove tehnologije koje čuvaju privatnost predstavljaju evolutivni alat. Nijedan nije savršen, ali zajedno čine temelj za sigurniji digitalni svijet. Kreatori politika, tehnolozi i civilno društvo moraju nastaviti s intenziviranjem tih modela, uvijek prisjećajući se da borba protiv terorizma ne bi trebala žrtvovati vrlo vrijednosti terorista koji žele uništiti.