Ako technologické spoločnosti spolupracujú s vládami v boji proti terorizmu

Právne rámce Správna spolupráca

Vnútroštátna legislatíva a extrateritoriálny dosah

Zákony upravujúce zdieľanie údajov a dohľad sa veľmi líšia, vytvára trenie v globalizovanom internete. USA []CLOUD zákon (Clarising Lawful Overseas Use of Data Act) umožňuje presadzovanie práva požadovať údaje od spoločností so sídlom v USA bez ohľadu na to, kde je uložený, za predpokladu, že zahraničná vláda spĺňa určité podmienky ľudských práv. To umožnilo v reálnom čase spoluprácu so spojencami, ako je Spojené kráľovstvo a Austrália, ale kritici tvrdia, že podkopáva miestne dáta suverenity. [Oddelenie spravodlivosti USA [) Udáva existujúce dohody.

V prípade, že sa v rámci štítu na ochranu osobných údajov zistí, že sa v rámci štítu na ochranu osobných údajov nedodržiavajú pravidlá, ktoré sa vzťahujú na ochranu osobných údajov, môže sa v rámci štítu na ochranu osobných údajov obmedziť spracúvanie údajov na účely presadzovania práva, ktoré si vyžaduje súdne záruky a posúdenie proporcionality.

Dobrovoľná vs. povinná spolupráca

Niektoré spolupráce sú dobrovoľné a sú produkt priemyselnej samoregulácie a iné sú poverené zákonom. []Nemecký zákon o presadzovaní sieťových predpisov (NetzDG) ], napríklad núti platformy odstrániť zjavne nezákonný obsah (vrátane teroristického materiálu) do 24 hodín alebo čelia vysokým pokutám. Spoločnosti reagovali investovaním do automatizovaných striedmosti tímov a akceptovaním ďalších vládnych žiadostí. Na rozdiel od toho krajiny ako India nemajú formálny mandát, ale spoliehajú sa na neformálne žiadosti, ktoré môžu viesť k ad hoc nad-dodržiavanie alebo odpor.

Riziko [misie tečúca je reálne: keď platforma vytvorí schopnosti pre boj proti terorizmu, vlády môžu na ne vyvíjať nátlak, aby používali tie isté nástroje pre politické monitorovanie. Na ochranu proti tomu je nevyhnutné podávanie správ o transparentnosti a nezávislý dohľad. Organizácie ako [Access Now[ a Human Rights Watch[ pravidelne auditujú takéto spolupráce.

Medzinárodná spolupráca a mnohostranné iniciatívy

Globálne internetové fórum na boj proti terorizmu (GIFCT) v hĺbke

GIFCT je možno najinštitucionalizovanejším verejno-súkromným partnerstvom v tejto oblasti. Založený v roku 2017 po vlne útokov inšpirovaných ISIS v Európe, teraz zahŕňa viac ako tucet členských spoločností a formálnu štruktúru riadenia. Medzi piliere GIFCT , patrí: vývoj technických riešení, ako je spoločná hašišová databáza; financovanie výskumu o využívaní digitálnych platforiem na teroristické účely; a protokoly reakcie na krízy pre prelomové spravodajské udalosti, ktoré vyvolávajú prudký extrémistický obsah.

Vlády zasadajú v poradnej rade a fórum spolupracuje s [ Europol[] internetovou sekciou pre cezhraničné hrozby. Hoci GIFCT bol pochválený za zníženie objemu teroristického obsahu, kritici si všimli, že chýba záväzné presadzovanie a bol pomalý pri riešení algoritmického znásobovania extrémistických materiálov. [GIFCT] správy o transparentnosti[ ukazujú tisíce hašés vymieňaných mesačne, ale absencia nezávislých auditov zostáva znepokojená.

Europol , oddelenie internetových žiadostí o prístup a spoločné operácie

IRU EÚ pracuje priamo s platformami na odstraňovaní teroristického obsahu zverejneného v rámci Európskej únie. Má dohody o postúpení veci s Meta, Google a ďalšie, a vykonáva školenia pre národné policajné jednotky. Jednotka je úspech meria tým, že sa znižuje sadzby

Spoločné operácie ako [operácia Triton (cieľ na islamské štátne a Al-Káida siete v 14 krajinách) sa podieľali na zdieľaní spravodajských informácií v reálnom čase získaných z údajov z platformy. Tieto operácie demonštrujú potenciál hlbokej integrácie medzi orgánmi presadzovania práva a technologickými spoločnosťami, hoci vyvolávajú otázky o ochrane súkromia týkajúce sa zhromažďovania hromadných údajov.

Výzvy v cezhraničnom zdieľaní spravodajských informácií

Rôzne právne režimy, zákony o lokalizácii údajov a politické napätie môžu blokovať včasnú spoluprácu. Napríklad, keď sa teroristický útok vyskytne v jednej krajine, podozrivý Digitálna stopa môže byť na serveroch v inej krajine, vyžadujúc vzájomnú právnu pomoc zmluvy (MLAT), ktoré môžu trvať mesiace. [[Budapestský dohovor o počítačovej kriminalite bol ratifikovaný viac ako 60 krajinami, pričom poskytuje rámec pre urýchlené žiadosti, ale mnohí signatári stále čelia byrokratickým oneskoreniam.

Niektoré vlády sa uchýlili k jednostranným opatreniam, ako je napríklad zabavenie serverov alebo blokovanie celých platforiem (napr. Pakistan, dočasný zákaz Telegramu po obvineniach z terorizmu).

Etické dilemmy a ochrana súkromia

Slippery Slope of Surveillance

Akýkoľvek nástroj postavený na boj proti terorizmu môže byť prevzatý na širšie sledovanie. Čína , sociálne kreditné systémy a použitie rozpoznávanie tvárí proti Ujgurských moslimov sú varovnými príkladmi toho, ako môže byť zneužitý prístup vlády k údajom o tech spoločnosti. V demokratických spoločnostiach, záruky zahŕňajú súdne príkazy, doložky o západe slnka o uchovaní údajov, a nezávislé civilné dozorné rady. USA Predné inteligentná dohľad súd (FISC) skúma žiadosti vlády o metaúdaje, aj keď jeho ex parte charakter kreslil kritiku. ACLU , strana dohľadu dokumenty prípady, kde protiteroristické právomoci boli príliš využívané.

Technologické spoločnosti často ostanú chytené medzi dvoma mandátmi: ochrana súkromia používateľov a spolupráca s presadzovaním práva. Dôvera verejnosti narúša, keď sa platformy vnímajú ako príliš vyhovujúce (napr. odovzdávanie údajov bez silného právneho procesu) alebo príliš odolné (napr. umožňujúce teroristom voľne fungovať). Paradox ochrany súkromia [ je nepravdepodobné, že sa vyrieši univerzálnym riešením; kódexy správania špecifické pre jednotlivé odvetvia môžu ponúknuť cestu vpred.

Algoritmus (Algoritmus) a falošné pozitíva

Automatizované systémy na odhaľovanie teroristického obsahu sú vyškolené na súboroch údajov, ktoré môžu prehnane predstavovať určité jazyky, regióny alebo politické názory. To môže viesť k neprimeranému záblesku obsahu marginalizovaných komunít, ako sú kurdskí alebo palestínski aktivisti, ktorých reč je chybne označená za extrémistické. Ľudské preskúmanie je často neprimerané vzhľadom na objem, čo vedie k neoprávnenému pozastaveniu účtu alebo cenzúre. []Zásady Santa Clara[]) Výzva na transparentnosť v umiernení obsahu vrátane toho, ako sa vyvíjajú a testujú protiteroristické algoritmy. Spoločnosti ako YouTube začali zverejňovať správy o transparencii[], že sa odbúrajú odbery podľa kategórie a dôvodov na odstránenie, ale nezávislé audity zostávajú zriedkavé.

Vládne spravodajstvo používané na školenie týchto modelov môže byť tiež klasifikované, takže je nemožné, aby externí výskumníci overiť presnosť. Tento nedostatok zodpovednosti je vážny etické obavy, najmä keď falošné pozitíva môžu viesť k neoprávnenému zatknutiu alebo popieraniu služieb.

Budúce smery a politické odporúčania

Posilnenie nezávislého dohľadu

Najúčinnejšími protiteroristickými spoluprácami sú tie, ktoré zakotvili nezávislé mechanizmy dohľadu. Osobitný spravodajca OSN pre boj proti terorizmu odporučil, aby každá dohoda o zdieľaní údajov medzi technologickými spoločnosťami a vládami podliehala pravidelnému preskúmaniu zo strany rady viacerých zainteresovaných strán vrátane zástupcov občianskej spoločnosti.

Harmonizácia právnych noriem naprieč hranicami

Na zníženie trenia by sa mali rozšíriť medzinárodné dohody, ako napríklad [[]]KLOUDský zákon o bilaterálnych dohodách [], pričom by sa mali rozšíriť a zároveň by sa mali začleniť prísnejšie doložky o ľudských právach. EÚ skúma verziu Budapeštianskeho dohovoru druhej generácie, ktorá by doplnila kritériá prístupu k údajom o ľudských právach. Technologické spoločnosti môžu prijať aj globálne minimálne normy bez ohľadu na to, kde pôsobia, a to prostredníctvom záväzku k zásadám OSN o podnikaní a ľudských právach.

Investovanie do technológií ochrany súkromia

Inovatívne technické riešenia by mohli znížiť kompromis medzi bezpečnosťou a súkromím. Techniky ako []homomorfné šifrovanie (umožňujúce výpočet zašifrovaných údajov), [vzdorné dôkazy[ a federované učenie[ umožňujú vládam analyzovať vzory údajov bez toho, aby videli surový obsah. Napríklad, protiteroristická agentúra by mohla vyhľadávať zašifrovanú databázu na označenie neobvyklých komunikačných vzorov bez toho, aby sa niekedy dešifrovali jednotlivé správy. Tieto technológie sú stále dozrievajúce, ale ponúkajú sľubnú strednú pôdu.

Iná cesta je [