Razvoj javno-zasebnih partnerstev na področju boja proti terorizmu

V zadnjem desetletju se je odnos med tehnološkimi podjetji in vladnimi protiterorističnimi agencijami močno poglobil. Kar je bilo nekoč reaktivno, ponapadljivo sodelovanje, se je razvilo v proaktivno, podatkovno vodeno partnerstvo, ki zajema nadzor, zmernost vsebin in izmenjavo obveščevalnih podatkov. Ta transformacija je bila posledica obsežnega obsega digitalnih komunikacij in sofisticacije terorističnih skupin, ki so uporabljale šifrirane kanale, družbene medije za novačenje in spletne finančne mreže. Danes se nobena entiteta – javna ali zasebna – ne more spopasti z grožnjo sama. Vlade se zanašajo na tehnično infrastrukturo platform, kot so Meta, YouTube, Telegram in X (prej Twitter), da bi zaznale in prekinile teroristične dejavnosti, medtem ko so podjetja za zaščito svojih uporabnikov odvisna od vladnih obveščevalnih podatkov o grožnjah. Nastalo sodelovanje je zapleteno, pogosto je preobremenjeno s pravnimi in etičnimi napetostmi, vendar nujno potrebno za sodobne varnostne okvire.

Ta članek preučuje mehanizme, uspehe in spore teh partnerstev, s poudarkom na izmenjavi podatkov, šifriranju bitk, pravnih okvirih in poti naprej. Temelji na resničnih primerih, kot so Global Internet Forum za boj proti terorizmu (GIFCT), uporaba podatkovnih baz za izmenjavo podatkov o hašišu in zakonodajnih instrumentih, kot sta Zakon o varnosti na spletu v Združenem kraljestvu in Zakon o CLOUD v ZDA.

Temeljna področja sodelovanja med tehnološko-upravo

Izmenjava obveščevalnih podatkov in sumljiva poročila o dejavnostih

Tehnološka podjetja upravljajo ogromne podatkovne ekosisteme – od e-poštnih strežnikov do shranjevanja v oblaku do virov v družbenih medijih – ki lahko vsebujejo signale neizbežnih terorističnih spletk. Mnoge vlade so formalizirale kanale, preko katerih ta podjetja prostovoljno ali pravno razkrijejo kazalce ogroženosti. Na primer, Ameriško ministrstvo za domovinsko varnost »See Something, Say Something« ima tehnološki partnerski program, ki spodbuja podjetja k poročanju spletnih ekstremističnih vsebin. Takšna poročila pogosto sprožijo avtomatizirani sistemi, ki skenirajo znano teroristično propagando, navodila za izdelavo bomb ali jezik za novačenje.

Mednarodni organi, kot je ] Urad Združenih narodov za boj proti terorizmu[], so vzpostavili tudi okvire za izmenjavo informacij, ki spoštujejo meje jurisdikcije. Pomembna pobuda je projekt Tech proti terorizmu[]], ki zagotavlja manjše platforme z orodji za obveščanje in zmernost, ki zapolnjujejo vrzel med velikimi korporacijami in vladami. Urad ZN za boj proti terorizmu]] vzdržuje skladišče najboljših praks, ki jih mnoga podjetja sprejmejo.

Avtomatska moderacija vsebine in hash-sharing

Eno izmed najučinkovitejših tehničnih sodelovanj je izmenjava digitalnih prstnih odtisov – hašejev – znanih terorističnih vsebin. Globalni internetni forum za boj proti terorizmu (GIFCT), ki ga ustanovi Facebook, Microsoft, Twitter in YouTube, vzdržuje skupno bazo podatkov o hašišu. Ko ena platforma za člane identificira teroristični video ali sliko, se njen haš doda v bazo podatkov, drugi člani pa samodejno blokirajo to vsebino. Vlade prispevajo s predložitvijo podatkov o hashejih iz obveščevalnih virov, pospešujejo sunke, preden se video posnetki virusijo. ]GIFCT-ova uradna stran podrobno opisuje, kako ta sistem deluje in objavlja poročila o preglednosti privzemov.

Kritično je, da se to sodelovanje razteza preko odstranitve na proaktivno odkrivanje: modeli strojnega učenja, usposobljeni na vladnih naborih podatkov, lahko označijo nove različice propagande, tudi če ne obstaja hašiš. To zmanjšuje odvisnost od človeških moderatorjev, ki se lahko soočajo s psihološko škodo zaradi izpostavljenosti nasilnemu materialu.

Šifriranje in razprava o dostopu

Dešifriranje dilema ostaja najbolj sporno področje sodelovanja. Vlade trdijo, da je šifriranje na platformah, kot so WhatsApp, Signal in Telegram, ustvarilo “varna pristanišča” za teroriste, da neopaženo komunicirajo. Zahtevajo zakonit dostop – pogosto skozi zadnja vrata ali skeniranje strank. Tehnološka podjetja pa nasprotujejo temu, da bi oslabitev šifriranja ogrozila varnost vseh uporabnikov, vključno z novinarji in aktivisti človekovih pravic, in bi jih lahko izkoristile sovražne države.

Ta razprava je ustvarila več odmevnih stand-offov. V preiskavi v San Bernardinu leta 2016 je Apple zavrnil odklepanje iPhone za FBI, kar je spodbudilo zaupanje uporabnikov. Pred kratkim je predlog EU za nadzor nad pogovori izvabil zagovornike zasebnosti. Podjetja, kot Signal] so izrecno izjavila, da se bodo umaknila s katerega koli trga, ki jih sili, da prekinejo šifriranje med koncema. Kljub temu so nekatere vlade pritisnile na ]‘s skeniranje strani strani strani strani strani strani strani strani strani strani‘], kjer se vsebina analizira pred šifriranjem— model, ki ga Meta po poročilih preizkuša v svojih šifriranih sporočilih. Elektronski Frontier Foundation[] ponuja temeljito analizo tehničnih in pravnih argumentov na obeh straneh.

Srednje izhodišče je „določena razkritja““ pristop, ki se uporablja v Zakonu o varnosti na spletu Združenega kraljestva, ki od platform zahteva, da prepoznajo in odstranijo teroristične vsebine z uporabo avtomatiziranih orodij, vendar ne zahteva dešifriranja na odejo. Ta okvir omogoča tehnično izvajanje podjetjem, kar vodi do različnih rezultatov.

Pravni okviri za vodenje sodelovanja

Nacionalna zakonodaja in ekstrateritorialna doseg

Zakoni, ki urejajo izmenjavo podatkov in nadzor, se zelo razlikujejo, kar ustvarja trenje v globaliziranem internetu. Zakon ZDA CLOUD (Pojasnjevanje Zakona o uporabi podatkov v tujini)[] dovoljuje organom pregona zahtevati podatke od ameriških podjetij, ne glede na to, kje so shranjeni, pod pogojem, da tuja vlada izpolnjuje določene pogoje za človekove pravice. To je omogočilo sodelovanje z zavezniki v realnem času, kot sta Združeno kraljestvo in Avstralija, vendar kritiki trdijo, da to spodkopava lokalno suverenost podatkov. ] Stran zakona ameriškega ministrstva za pravosodje ] opisuje obstoječe sporazume.

Direktiva Evropske unije eZasebnost in Splošna uredba o varstvu podatkov (GDPR)[] določa stroge omejitve obdelave podatkov za kazenski pregon, ki zahtevajo sodne naloge in ocene sorazmernosti. Tehnološka podjetja, ki delujejo čez Atlantik, morajo voditi labirint obveznosti, pogosto se odločijo za izpolnjevanje strožjega režima, da bi se izognila sankcijam. To lahko zavlačuje ali oteži izmenjavo podatkov proti terorizmu, kot je razvidno iz odločitve družbe Schrems II, ki je razveljavila okvir zasebnostnega ščita.

Prostovoljno sodelovanje v primerjavi z obveznim sodelovanjem

Nekatere so prostovoljne, produkt samoregulacije industrije, druge pa so zakonsko določene. Nemški zakon o uveljavljanju omrežja (NetzDG), na primer, sili platforme, da v 24 urah odstranijo očitno nezakonito vsebino (vključno s terorističnim materialom) ali se soočijo s težkimi globami. Podjetja so se odzvala z vlaganjem v ekipe za avtomatizirano zmernost in sprejemanjem več vladnih napotitev. V nasprotju s tem države, kot je Indija, nimajo uradnega mandata, ampak se zanašajo na neformalne zahteve, ki lahko privedejo do ad hoc pretirane skladnosti ali odpora.

Tveganje []izstopa [] je resnično: ko platforma gradi zmogljivosti za boj proti terorizmu, jih lahko vlade prisilijo, da uporabijo ista orodja za politično spremljanje nesoglasij. Poročanje o preglednosti in neodvisni nadzor sta bistvena za zaščito pred tem. Organizacije, kot so Dostop zdaj] in Človeške pravice Watch[]] redno pregledujejo tovrstna sodelovanja.

Mednarodno sodelovanje in večstranske pobude

Globalni internetni forum za boj proti terorizmu (GIFCT) v globini

GIFCT je morda najbolj institucionalizirano javno-zasebno partnerstvo na tem področju. Ustanovljen je bil leta 2017 po valu napadov, ki jih je navdihnil ISIS, zdaj vključuje več kot ducat podjetij članic in formalno strukturo upravljanja. Stebri GIFCT vključujejo: razvoj tehničnih rešitev, kot je skupna baza podatkov o hašišu, financiranje raziskav o uporabi digitalnih platform za teroriste in protokole kriznega odziva za prelomne novice, ki sprožijo porast ekstremističnih vsebin.

Vlade so v svetovalnem odboru, forum pa sodeluje z Europol Internetna enota za napotitev (EU IRU) za označitev čezmejnih groženj. Čeprav je bila GIFCT pohvaljena za zmanjšanje obsega terorističnih vsebin, kritiki ugotavljajo, da ni zavezujočega izvrševanja in da je počasi obravnavala algoritemsko povečanje ekstremističnega materiala. GIFCTova poročila o preglednosti] kažejo na tisoče hashejev, ki so se izmenjali mesečno, vendar ostaja skrb.

Europolova internetna enota za napotitev in skupne operacije

EU IRU deluje neposredno s platformami za odstranjevanje terorističnih vsebin, objavljenih v Evropski uniji. Ima pogodbe o napotitvi z Meta, Google in drugimi, in izvaja usposabljanje za nacionalne policijske enote. Uspeh enote se meri s stopnjami odvzema (običajno v nekaj urah presega 90 %), vendar samo ta metrični obseg ne upošteva vsebine, ki se ponovno pojavlja pod različnimi hašiši.

Skupne operacije, kot so Operacija Triton (ki usmerjajo mreže Islamske države in Al-Kaide v 14 državah), so vključevale izmenjavo obveščevalnih podatkov v realnem času, ki izhajajo iz podatkov o platformah. Te operacije kažejo na potencial globokega povezovanja med organi pregona in tehnološkimi podjetji, čeprav postavljajo vprašanja zasebnosti glede zbiranja podatkov v velikem obsegu.

Izzivi pri izmenjavi obveščevalnih podatkov med državami

Različni pravni režimi, zakoni o lokalizaciji podatkov in politične napetosti lahko preprečijo pravočasno sodelovanje. Na primer, ko pride do terorističnega napada v eni državi, lahko digitalni odtis osumljenca prebiva na strežnikih v drugi, kar zahteva pogodbe o medsebojni pravni pomoči (MLAT), ki lahko trajajo mesece. Budapestna konvencija o kibernetski kriminaliteti[] je bila ratificirana s strani več kot 60 držav, kar zagotavlja okvir za hitre prošnje, vendar se mnoge podpisnice še vedno soočajo z birokratskimi zamudami.

Nekatere vlade so se zatekle k enostranskim ukrepom, kot so zaseg strežnikov ali blokiranje celotnih platform (npr. začasna prepoved telegrama v Pakistanu po terorističnih obtožbah), ki so nejasni instrumenti, ki lahko škodijo civilni družbi bolj kot terorističnim mrežam, ki jih želijo.

Etične dileme in varovanje zasebnosti

Podlih nagibov nadzora

Vsako orodje, zgrajeno za boj proti terorizmu, se lahko ponovno uporabi za širši nadzor. Kitajski sistem socialnih kreditov in uporaba priznanja obraza proti Ujgurskim muslimanom sta previdna primera, kako je mogoče zlorabiti dostop vlade do podatkov o tehnoloških družbah. V demokratičnih družbah zaščitni ukrepi vključujejo sodne naloge, klavzule o časovni omejitvi hrambe podatkov in neodvisne nadzorne komisije civilnega nadzora. ZDA Tujsko obveščevalno sodišče (FISC)] pregleduje vladne zahteve za metapodatke, čeprav je njegova bivša narava pritegnila kritike. ] Nadzorna stran ACLU] Dokumenti, kjer so bile uporabljene protiteroristične pristojnosti.

Tehnološka podjetja se pogosto znajdejo med dvema mandatoma: varovanje zasebnosti uporabnikov in sodelovanje z organi pregona. Javno zaupanje spodkopava, ko se platforme dojemajo kot preveč skladne (npr. izročitev podatkov brez trdnega pravnega postopka) ali preveč odporne (npr. omogočanje prostega delovanja teroristov). je malo verjetno, da bo rešitev mogoča z enostransko rešitvijo, ki ustreza vsem; sektorski kodeksi ravnanja lahko ponudijo pot naprej.

Algoritmični bias in lažni pozitivni učinki

Avtomatizirani sistemi za odkrivanje terorističnih vsebin so usposobljeni na naborih podatkov, ki lahko predstavljajo nekatere jezike, regije ali politična stališča. To lahko vodi do nesorazmernega zaoznačevanja vsebine marginaliziranih skupnosti, kot so kurdski ali palestinski aktivisti, katerih govor je napačno označen kot ekstremistični. Človeški pregled je pogosto neustrezen glede na obseg, kar ima za posledico neupravičeno prekinitev računa ali cenzuro. Načela svete Klare[] zahtevajo preglednost v zmernosti vsebin, vključno z razvojem in testiranjem protiterorističnih algoritmov. Podjetja, kot je YouTube, so začela objavljati [] poročila o preglednosti, ki razčlenijo po razlogih za kategorije in odstranitev, vendar neodvisne revizije ostajajo redke.

Vladni obveščevalni podatki, ki se uporabljajo za usposabljanje teh modelov, so lahko tudi tajni, kar onemogoča, da zunanji raziskovalci preverijo točnost. To pomanjkanje odgovornosti je resna etična skrb, še posebej, ko lahko lažni pozitivni rezultati privedejo do neupravičenih aretacij ali zanikanja storitev.

Prihodnje usmeritve in priporočila politike

Krepitev neodvisnega nadzora

Najučinkovitejše sodelovanje na področju boja proti terorizmu so tiste, ki vključujejo neodvisne nadzorne mehanizme. Posebni poročevalec ZN za boj proti terorizmu je priporočil, da vsak sporazum o izmenjavi podatkov med tehnološkimi podjetji in vladami redno pregleduje več zainteresiranih strani, vključno s predstavniki civilne družbe. Takšni odbori bi morali imeti pooblastila za preklic izrednega dostopa, če se odkrijejo zlorabe. Države, kot je Kanada, so z zasebnimi člani za pregled praks izmenjave obveščevalnih podatkov ustanovile nacionalne odbore za preglednost [].

Usklajevanje pravnih standardov prek meja

Za zmanjšanje trenj je treba razširiti mednarodne sporazume, kot je ]CLOUD Act bilateralne pakte[]], in hkrati vključiti močnejše klavzule o človekovih pravicah. EU preučuje različico „druge generacije“ Budimpeštanske konvencije, ki bi dodala merila človekovih pravic za dostop do podatkov. Tehnološka podjetja lahko sprejmejo tudi minimalne standarde na svetovni ravni, ne glede na to, kje delujejo – z zavezanostjo vodilnim načelom ZN o podjetništvu in človekovih pravicah.

Vlaganje v tehnologije za varovanje zasebnosti

Inovativne tehnične rešitve bi lahko zmanjšale kompromis med varnostjo in zasebnostjo. Tehnike, kot so homomorfna šifriranje[] (ki omogoča računanje šifriranih podatkov), , ničelna dokazna spoznanja[] in fredirano učenje[], omogočajo vladam, da analizirajo vzorce v podatkih, ne da bi videle surove vsebine. Na primer, protiteroristična agencija bi lahko poizvedovala po šifrirani bazi podatkov platforme, da bi označila nenavadne komunikacijske vzorce, ne da bi kdaj koli dešifrirala posamezna sporočila. Te tehnologije še vedno zapolnjujejo, vendar ponujajo obetavno srednjo podlago.

Druga avenija je , ki je bila prvotno deljena z „zasebnostjo po zasnovi“, in je bila do celotne vsebine dostopna le z nalogom. Zakon o preglednosti sporočil[, ki je bil predlagan v kongresu ZDA, je namenjen zahtevi po takšnem stopenjskem dostopu za vse zahteve za boj proti terorizmu.

Premostitev vrzeli za male in srednje platforme

Večina pozornosti je bila namenjena največjim platformam, vendar se teroristi pogosto selijo v manjše, manj regulirane storitve. Pobude, kot so Tech After Terrorism’s “Platform Support” program[]], zagotavljajo brezplačna orodja in informacije o grožnjah podjetjem z omejenimi viri. Vlade lahko to pospešijo s financiranjem javnega interesa “Protiteroristične API”, ki ga lahko katera koli platforma poveže. Zakon Evropske komisije Zakon o digitalnih storitvah] vključuje določbe za sistemske ocene tveganja, ki bi prisilile večje platforme, da bi si delile tehnične najboljše prakse z manjšimi vrstniki.

Sklep

Sodelovanje med tehnološkimi podjetji in vladami na področju boja proti terorizmu ni neobvezno – nujno je, da se zgodi iz digitalne transformacije sodobnega konflikta. Ko se to naredi pravilno, rešuje življenja tako, da prekine napade, preden se zgodijo, odstrani nasilno propagando na ravni in prekine finančne mreže. Ko je to slabo, spodkopava državljanske svoboščine, pristranskosti algoritme proti manjšinskim skupnostim in spodkopava zaupanje v demokratične institucije in tehnološko industrijo.

Ključnega pomena pri tem ni izbira med varnostjo in zasebnostjo, ampak oblikovanje partnerstev, ki so pregledna, pravno omejena in predmet trdnega neodvisnega nadzora. Okviri, opisani v tem članku – baze podatkov o izmenjavi podatkov, debate o šifriranju, večstranske platforme, kot je GIFCT, in nastajajoče tehnologije za ohranjanje zasebnosti – predstavljajo razvijajočo se zbirko orodij. Nihče ni popoln, vendar skupaj tvorijo temelj za varnejši digitalni svet. Oblikovalci politik, tehnologi in civilna družba se morajo še naprej iterirati na teh modelih, pri čemer se morajo vedno zavedati, da boj proti terorizmu ne sme žrtvovati prav vrednot, ki jih teroristi želijo uničiti.