Publiskā un privātā sektora partnerību attīstība terorisma apkarošanā

Pēdējo desmit gadu laikā attiecības starp tehnoloģiju uzņēmumiem un valdības pretterorisma aģentūrām ir ievērojami padziļinājušās. Kolīdz sadarbība bija reaktīva, pēcuzbrukuma, ir pārtapusi par proaktīvu, uz datiem balstītu partnerību, kas aptver uzraudzību, satura mērenību un izlūkošanas dalīšanu. Šo pārveidi veicina tas, ka digitālo komunikāciju apjoms un teroristu grupu izsmalcinātība, izmantojot šifrētus kanālus, sociālos medijus vervēšanai un tiešsaistes finanšu tīklus. Šodien neviena atsevišķa vienība – gan publiska, gan privāta – nevar cīnīties tikai ar draudiem. Valdības paļaujas uz tādu platformu tehnisko infrastruktūru kā Meta, YouTube, Telegram un X (agrāk Twitter), lai atklātu un izjauktu teroristu darbību, kamēr uzņēmumi ir atkarīgi no valdības informācijas par draudiem, lai aizsargātu savus lietotājus. Rezultātā sadarbība ir sarežģīta, bieži vien ar juridisku un ētisku spriedzi, bet nepieciešama mūsdienu drošības sistēmām.

Šajā rakstā ir aplūkoti šo partnerību mehānismi, panākumi un pretrunas, galveno uzmanību pievēršot datu koplietošanai, šifrēšanas cīņām, tiesiskajam regulējumam un turpmākajam ceļam. Tajā izmantoti reāli piemēri, piemēram, Globālais interneta forums terorisma apkarošanai (GIFCT), hash koplietošanas datubāzu izmantošana un tādi juridiskie instrumenti kā Apvienotās Karalistes Likums par drošību tiešsaistē un ASV Likums par CLOUD.

Galvenās jomas tehnoloģiju un valdību sadarbība

Izlūkošanas koplietošana un aizdomīgu darbību pārskati

Tehnoloģiju uzņēmumi darbojas masveida datu ekosistēmas – no e-pasta serveriem līdz mākoņa uzglabāšanai sociālo mediju barotnēm – kas var saturēt signālus par nenovēršamiem teroristu zemes gabaliem. Daudzas valdības ir oficiāli kanālus, caur kuriem šie uzņēmumi brīvprātīgi vai juridiski atklāj draudu rādītājus. Piemēram, ASV Department of Homeland Security’s “See Something, Say Whoth” kampaņa ir tehnoloģiju partneru programma, kas mudina uzņēmumus ziņot par tiešsaistes ekstrēmistu saturu. Šādi ziņojumi bieži vien tiek ierosināti automatizētās sistēmās, kas skenē zināmu teroristu propagandu, bumbu veidošanas norādījumus vai vervēšanas valodu.

Tādas starptautiskas struktūras kā Apvienoto Nāciju Organizācijas Pretterorisma birojs arī ir izveidojušas sistēmas informācijas apmaiņai, kas respektē jurisdikcijas robežas. Ievērojama iniciatīva ir projekts "Tech Against Terrorism", kas nodrošina mazākas platformas ar draudu izlūkošanas un mērenības rīkiem, pārvarot plaisu starp lielām korporācijām un valdībām. UN Pretterorisma birojs] uztur daudzu uzņēmumu pieņemto labākās prakses krātuvi.

Automatizēta satura mērīšana un Hash- Sharing

Viens no efektīvākajiem tehniskajiem sadarbības veidiem ir digitālo pirkstu nospiedumu apmaiņa, kas ietver zināmu teroristu saturu. Globālais interneta forums terorisma apkarošanai (GIFCT:1]), ko dibinājis Facebook, Microsoft, Twitter un YouTube, uztur koplietotu hash datubāzi. Kad viena dalībnieka platforma identificē teroristu video vai attēlu, tā hash tiek pievienots datubāzei, un citi dalībnieki automātiski bloķē šo saturu. Valdības dod ieguldījumu, iesniedzot hashhes no izlūkdatu avotiem, paātrinot videoklipu virusālo noņemšanas. GIFCT oficiālā vietne sīki apraksta, kā šī sistēma darbojas un publicē pārredzamības ziņojumus par uzņemšanas apjomiem.

Kritiski, šī sadarbība sniedzas tālāk par izņemšanu līdz proaktīvai atklāšanai: mašīnmācīšanās modeļi, kas apmācīti uz valdības nodrošinātām datu kopām, var atzīmēt jaunas propagandas variācijas, pat ja nav hash sakritības. Tas samazina paļaušanos uz cilvēku moderatoriem, kuri var saskarties ar psiholoģisku kaitējumu, ko rada vardarbīga materiāla iedarbība.

Šifrēšana un diskusijas par piekļuvi

Šifrēšanas dilemma joprojām ir visstrīdīgākā sadarbības joma. Valdības apgalvo, ka pilnīga šifrēšana tādās platformās kā WhatsApp, Signal, un Telegram rada „drošas zonas” teroristiem, lai tie varētu sazināties nepamanīti. Viņi pieprasa likumīgu piekļuvi – bieži caur aizmugures durvīm vai klientu puses skenēšanu. Tehnoloģiju uzņēmumi tomēr novērš to, ka šifrēšana apdraudētu visu lietotāju, tostarp žurnālistu un cilvēktiesību aktīvistu, drošību, un tos varētu izmantot naidīgas valstis.

Šī diskusija ir radījusi vairākas augsta līmeņa stendus. 2016. gada San Bernardino izmeklēšanā Apple atteicās atvērt iPhone FIB, atsaucoties uz lietotāju uzticību. Nesen ES "Chat Control" priekšlikums aizdegās no privātuma aizstāvjiem. Uzņēmumi, piemēram, Signal[ ir skaidri norādījuši, ka viņi atteiksies no jebkura tirgus, kas liek viņiem pārtraukt gala-to-end šifrēšanu. Tomēr dažas valdības ir uzstājuši uz ]“klientu puses skenēšana”, kur pirms šifrēšanas tiek analizēts saturs— modelis, par kuru tiek ziņots, ka Meta ir testēšana tās šifrēta Messenger tērzēšanas. [Elektroniskais Frontier Foundation piedāvā rūpīgu tehnisko un juridisko argumentu analīzi abās pusēs.

Starpposma pieeja ir “norādītā informācijas atklāšana”, ko izmanto Apvienotās Karalistes Tiešsaistes drošības likumā, kas pieprasa, lai platformas identificētu un izņemtu teroristu saturu, izmantojot automatizētus rīkus, bet nedod pilnvaras veikt vispārēju atšifrēšanu. Šis regulējums atstāj tehnisku īstenošanu uzņēmumiem, kas noved pie atšķirīgiem rezultātiem.

Tiesiskais regulējums

Valstu tiesību akti un ārpusteritoriālie sasniegumi

Tiesību akti, kas regulē datu apmaiņu un uzraudzību, ir ļoti atšķirīgi, radot berzi globalizētā internetā. ASV Likums par CLOUD (Paskaidrojot likumīgo datu izmantošanu) ļauj tiesību aizsardzības iestādēm pieprasīt datus no ASV uzņēmumiem, neatkarīgi no tā, kur tie glabājas, ar nosacījumu, ka ārvalstu valdība atbilst noteiktiem cilvēktiesību nosacījumiem. Tas ir ļāvis reālā laika sadarbībai ar sabiedrotajiem, piemēram, AK un Austrāliju, bet kritiķi apgalvo, ka tā grauj vietējo datu suverenitāti. ASV Tieslietu departamenta CLOUD akta lapā ir izklāstīti esošie līgumi.

Eiropas Savienības ePrivātuma direktīva un Vispārīgā datu aizsardzības regula nosaka stingrus datu apstrādes ierobežojumus tiesībaizsardzības nolūkos, pieprasot tiesas garantijas un proporcionalitātes novērtējumus. Tehnoloģiju uzņēmumiem, kas darbojas visā Atlantijas okeānā, ir jāvirzās uz pienākumu labirintu, bieži izvēloties ievērot stingrāku režīmu, lai izvairītos no sankcijām. Tas var aizkavēt vai sarežģīt pretterorisma datu apmaiņu, kā tas redzams Schrems II nolēmumā, kas anulēja privātuma vairoga regulējumu.

Brīvprātīga un obligāta sadarbība

Dažas sadarbības ir brīvprātīgas – nozares pašregulācijas produkts – bet citas ir noteiktas likumā. Vācijas Tīkla ieviešanas likums (NetzDG), piemēram, piespiež platformas noņemt acīmredzami nelikumīgu saturu (tostarp teroristu materiālus) 24 stundu laikā vai saskarties ar lieliem sodiem. Uzņēmumi ir reaģējuši, ieguldot automatizētās mērenības komandās un pieņemot vairāk valdības nosūtījumu. Turpretim tādām valstīm kā Indija nav oficiālu pilnvaru, bet paļaujas uz neoficiāliem pieprasījumiem, kas var novest pie ad hoc pārmērīgas atbilstības vai pretestības.

migrācijas risks ir reāls: kad platforma būvē pretterorisma spējas, valdības var piespiest tās izmantot tos pašus instrumentus politiskai nekonsekventai uzraudzībai. Pārredzamības ziņošana un neatkarīga uzraudzība ir būtiski, lai pret to aizsargātu. Organizācijas, piemēram, Piekļuve Tagad un Cilvēktiesību vērošana regulāri auditē šādas sadarbības.

Starptautiskā sadarbība un daudzpusējas iniciatīvas

Pasaules interneta forums terorisma apkarošanai (GIFCT)

GIFCT, iespējams, ir visinstitucionalizētākā publiskā un privātā sektora partnerība šajā jomā. Dibināta 2017. gadā pēc ISIS iedvesmotu uzbrukumu viļņa Eiropā, tagad tajā ir vairāk nekā desmit dalībnieku uzņēmumu un oficiāla pārvaldības struktūra. GIFCT pīlāri ir: tehnisko risinājumu izstrāde, piemēram, kopīga hash datubāze; finansējums pētniecībai par digitālo platformu izmantošanu teroristu vajadzībām; un krīzes reaģēšanas protokoli, lai pārtrauktu ziņu notikumus, kas izraisa ekstrēmistu satura pieaugumu.

Valdības darbojas konsultatīvā padomē, un forums sadarbojas ar Eiropolu Interneta informācijas nodaļa (EU IRU) ziņo par pārrobežu draudiem. Lai gan GIFCT ir slavēts par terorisma satura apjoma samazināšanu, kritiķi atzīmē, ka tam trūkst saistošas izpildes un tas ir lēni pievērsies ekstrēmistu materiālu algoritmiskai pastiprināšanai. GIFCT pārredzamības ziņojumos ir redzams tūkstošiem hashhes apmaiņu katru mēnesi, bet neatkarīgu revīziju trūkums joprojām rada bažas.

Eiropola Interneta informācijas nodaļa un kopīgās operācijas

ES IRU tieši sadarbojas ar platformām, lai novērstu teroristu saturu, kas ievietots Eiropas Savienībā. Tai ir nodošanas līgumi ar Meta, Google un citiem, un tā vada apmācību valstu policijas vienībām. Vienības panākumus nosaka pēc pieņemšanas rādītājiem, kas parasti pārsniedz 90 % stundu laikā, bet šis rādītājs vien neatspoguļo saturu, kas atkal parādās dažādos haososos.

Tādās kopīgās operācijās kā Operācija Triton (mērķtiecīgi Islāma valsts un Al-Qaeda tīkli 14 valstīs) ir bijusi iesaistīta no platformas datiem iegūto izlūkdatu apmaiņa reālā laikā. Šīs operācijas parāda dziļas integrācijas potenciālu starp tiesībaizsardzības un tehnoloģiju uzņēmumiem, lai gan tās rada privātuma jautājumus par masveida datu vākšanu.

Izlūkošanas pārrobežu apmaiņas problēmas

Dažādi tiesiskie režīmi, datu lokalizācijas likumi un politiskā spriedze var bloķēt savlaicīgu sadarbību. Piemēram, kad teroristu uzbrukums notiek vienā valstī, aizdomās turētā digitālā nospieduma vieta var atrasties uz serveriem citā, kur ir vajadzīgi savstarpēji tiesiskās palīdzības līgumi (MLATS), kas var ilgt mēnešus. Budapeštas Konvenciju par kibernoziegumiem ratificējušas vairāk nekā 60 valstis, nodrošinot sistēmu paātrinātiem pieprasījumiem, bet daudzi parakstītāji joprojām saskaras ar birokrātisku kavēšanos.

Dažas valdības ir izmantojušas vienpusējas darbības, piemēram, serveru konfiskāciju vai veselu platformu bloķēšanu (piemēram, Pakistānas pagaidu aizliegums izmantot Telegram pēc apgalvojumiem par terorismu). Šādi pasākumi ir nesvarīgi instrumenti, kas var kaitēt pilsoniskajai sabiedrībai vairāk nekā teroristu tīkli, kurus tās cenšas sasniegt.

Ētiskie dilemmas un privātuma aizsardzības pasākumi

Uzraudzības slūžas

Ķīnas sociālo kredītu sistēma un sejas atpazīšanas izmantošana pret Uiguru musulmaņiem ir piesardzīgi piemēri tam, kā var ļaunprātīgi izmantot valdības piekļuvi tehnoloģiju uzņēmumu datiem. Demokrātiskajās sabiedrībās aizsardzības pasākumi ietver tiesas orderi, saulrieta klauzulas par datu saglabāšanu un neatkarīgas civilās uzraudzības padomes. ASV Ārējās izlūkošanas uzraudzības tiesa (FISC) izskata valdības pieprasījumus metadatiem, lai gan tās ex parte daba ir izteikusi kritiku. AKLU uzraudzības lapa dokumenti, kuros ir pārmērīgi izmantotas pretterorisma pilnvaras.

Tehnoloģiju uzņēmumi bieži vien nonāk starp diviem mandātiem: lietotāju privātuma aizsardzība un sadarbība ar tiesībaizsardzības iestādēm. Sabiedrības uzticēšanās grauj, ja platformas tiek uztvertas kā pārāk atbilstošas (piemēram, nododot datus bez stabila juridiska procesa) vai pārāk izturīgas (piemēram, ļaujot teroristiem brīvi darboties). “Privātdrošības paradokss”, visticamāk, netiks atrisināts ar vienu risinājumu, kas der visiem; nozaru rīcības kodeksi var piedāvāt ceļu uz priekšu.

Algoritmiskā bias un viltus pozitīvi

Automatizētas sistēmas teroristu satura atklāšanai tiek apmācītas datu kopās, kas var pārmērīgi pārstāvēt noteiktas valodas, reģionus vai politiskos uzskatus. Tas var novest pie nesamērīgas satura iezīmēšanas no marginalizētām kopienām, piemēram, kurdu vai palestīniešu aktīvistiem, kuru runa kļūdaini tiek dēvēta par ekstrēmistiem. Cilvēku apskats bieži vien ir neatbilstošs, ņemot vērā apjomu, kā rezultātā tiek apturētas nepareizas kontu darbības vai cenzūra. Santas Klāras principi aicina nodrošināt satura mērenību caurskatāmību, tostarp to, kā tiek izstrādāti un pārbaudīti pretterorisma algoritmi. Tādi uzņēmumi kā YouTube ir sākuši publicēt caurredzamības ziņojumus, kas saraujas pēc kategorijas un izņemšanas iemesla, taču neatkarīgas revīzijas joprojām ir retas.

Valdības inteliģence, ko izmanto, lai apmācītu šos modeļus var arī klasificēt, padarot neiespējamu ārējiem pētniekiem pārbaudīt precizitāti. Šis trūkums pārskatatbildību ir nopietnas ētiskas bažas, jo īpaši, ja viltus pozitīvi var novest pie nepareiziem arestiem vai pakalpojumu liegšanu.

Turpmākie norādījumi un politikas ieteikumi

Neatkarīgas uzraudzības stiprināšana

Visefektīvākā sadarbība terorisma apkarošanā ir tāda, kas ietver neatkarīgus pārraudzības mehānismus. ANO īpašais referents terorisma apkarošanas jautājumos ir ieteikis, ka jebkurš nolīgums par datu apmaiņu starp tehnoloģiju uzņēmumiem un valdībām periodiski jāpārskata, to veicot arī pilsoniskās sabiedrības pārstāvjiem. Šādām padomēm jābūt pilnvarām atcelt ārkārtas piekļuvi, ja tiek konstatēti pārkāpumi. Tādas valstis kā Kanāda ir izveidojušas Nacionālās drošības pārredzamības komitejas ar privātā sektora dalībniekiem, lai pārskatītu izlūkošanas apmaiņas praksi.

Juridisko standartu saskaņošana pāri robežām

Lai mazinātu berzi, būtu jāpaplašina tādi starptautiskie nolīgumi kā KLOUD akta divpusējie līgumi, vienlaikus iekļaujot stingrākas cilvēktiesību klauzulas. ES pēta Budapeštas konvencijas „otrās paaudzes” versiju, kas pievienotu cilvēktiesību kritērijus datu pieejamībai. Tehnoloģiju uzņēmumi var arī pieņemt globālus minimālos standartus, neatkarīgi no tā, kur tie darbojas, apņemoties ievērot ANO uzņēmējdarbības un cilvēktiesību pamatprincipus.

Ieguldījumi „privātās uzglabāšanas” tehnoloģijās

Inovatīvi tehniskie risinājumi varētu samazināt kompromisu starp drošību un privātumu. Tādi paņēmieni kā homomorfā šifrēšana (ļauj aprēķināt datus šifrētos datos), , nulles zināšanu pierādījumi un federētā mācīšanās ļauj valdībām analizēt datu modeļus, neredzot jēlo saturu. Piemēram, pretterorisma aģentūra varētu vaicāt platformas šifrēto datubāzi, lai atzīmētu neparastus komunikācijas modeļus, nekad neatšifrējot atsevišķus ziņojumus. Šīs tehnoloģijas joprojām ir nobriedušas, bet piedāvā daudzsološu vidusceļu.

Vēl viens ceļš ir “privacy-by-design” izlūkdatu kopīgošana , kur sākotnēji tiek koplietoti tikai metadati (piemēram, laiks, apjoms, ģeogrāfiskie identifikatori) un pilnam saturam tiek piekļūts tikai ar orderi. )Messenger Transparency Act, kas ierosināts ASV Kongresā, mērķis ir pieprasīt šādu daudzpakāpju piekļuvi visiem pretterorisma pieprasījumiem.

Mazu un vidēju platformu atšķirību pārvarēšana

Liela daļa uzmanības ir pievērsta lielākajām platformām, bet teroristi bieži migrē uz mazākiem, mazāk regulētiem pakalpojumiem. Tādas iniciatīvas kā Tech Against Terrorism’s “Platform Support” programma nodrošina bezmaksas rīkus un draudu izpēti uzņēmumiem ar ierobežotiem resursiem. Valdības to var paātrināt, finansējot sabiedrības interešu “pretterorisma API”, ko var integrēt jebkura platforma. Eiropas Komisijas Digitālo pakalpojumu akts ietver noteikumus par sistēmiskiem riska novērtējumiem, kas liktu lielākām platformām dalīties ar tehnisko paraugpraksi ar mazākiem vienaudžiem.

Secinājums

Tehnoloģiju uzņēmumu un valdību sadarbība terorisma apkarošanā nav fakultatīva – tā ir nepieciešamība, kas radusies no mūsdienu konflikta digitālās pārveides. Pareizi rīkojoties, tā glābj dzīvības, izjaucot uzbrukumus, pirms tie notiek, likvidējot vardarbīgu propagandu mērogā un izjaucot finanšu tīklus. Padarītais slikti, tā grauj pilsoņu brīvības, neobjektīvus algoritmus pret minoritāšu kopienām un grauj uzticību gan demokrātiskām institūcijām, gan tehnoloģiju nozarei.

Virzībā uz priekšu galvenais ir nevis izvēlēties starp drošību un privātumu, bet gan veidot partnerības, kas ir pārredzamas, juridiski norobežotas un pakļautas stabilai neatkarīgai uzraudzībai. Šajā rakstā izklāstītās ietvarstruktūras — datu bāzes, šifrēšanas debates, daudzpusējas platformas, piemēram, GIFCT, un jaunas privātuma saglabāšanas tehnoloģijas — pārstāv topošo instrumentu kopumu. Neviens nav ideāls, bet kopā veido pamatu drošākai digitālajai pasaulei. Politikas veidotājiem, tehnologiem un pilsoniskajai sabiedrībai jāturpina atkārtot šos modeļus, vienmēr atceroties, ka cīņai pret terorismu nevajadzētu upurēt vērtības, ko teroristi cenšas iznīcināt.