Ievads: MI nozīme terorisma apkarošanā

Mākslīgais intelekts ir kļuvis par pārveidojošu spēku valsts drošībā, piedāvājot valdībām un izlūkošanas aģentūrām vēl nebijušas iespējas atklāt un novērst teroristu zemes gabalus. Tradicionālās pretterorisma metodes, kas balstās uz cilvēku inteliģenci, fizisko novērošanu un galiem, arvien vairāk papildina AI sistēmas, kas spēj apstrādāt plašas datu kopas, identificēt slēptus modeļus un karoga aizdomīgas darbības mašīnā. Šī pāreja nav tikai automatizācija; tā ir būtiska izmaiņa, kā tiek vākta un analizēta informācija par draudiem. AI rīki ļauj drošības spēkiem palikt priekšā pretiniekiem, kuri paši kļūst tehnoloģiski sarežģītāki. Tomēr šo sistēmu ieviešana rada sarežģītus jautājumus par privātumu, pilsoniskajām brīvībām un algoritmiskā sprieduma uzticamību. Šajā rakstā tiek pētīta AI pašreizējā lietojumprogramma terorisma apkarošanā, to tehniskie mehānismi, to ētiskās problēmas, ko tie rada, un kas nākotnē var būt šai strauji mainīgajai jomai.

Kā AI darbojas pretterorisma jomā

AI sistēmas, kas tiek izmantotas terorisma apkarošanai, apvieno mašīnmācīšanos, dabīgu valodas apstrādi, datorredzi un progresīvu analītiku. Šīs tehnoloģijas strādā kopā, lai apkopotu milzīgus apjomus strukturētu un nestrukturētu datu – no sociālo mediju postiem līdz satelītattēliem – un destilējamu operatīvo inteliģenci. Galvenā priekšrocība ir ātrums: ko varētu veikt komanda cilvēku analītiķu nedēļas vai mēnešus var paveikt minūtēs. Bet precizitāte arī uzlabojas, algoritmiem mācoties no jauniem datiem, samazinot viltus pozitīvas laika gaitā, vienlaikus pielāgojoties mainīgajai draudu taktikai.

Mašīnmācīšanās un paraugatzīšana

Lielākā daļa AI pretterorisma lietojumu pamatā ir mašīnmācīšanās (ML). Algoritmi tiek apmācīti par vēsturiskiem datiem par zināmām teroristu darbībām – sakariem, ceļojumu modeļiem, finanšu darījumiem un uzbrukuma metodēm. Pēc apmācības šie modeļi var atklāt anomālijas reālā laika datu plūsmās. Piemēram, ML modelis varētu atzīmēt pēkšņu šrifta ziņojumapmaiņas smaili starp iepriekš nesaistītu personu grupu vai neparastu prekursoru ķīmisko vielu iegādi. Pattern atzīšana attiecas uz ģeotelpisko analīzi, kur AI identificē aizdomīgas kustības tuvu jutīgai infrastruktūrai. Pārskatīta mācīšanās joprojām ir izplatīta klasifikācijas uzdevumu veikšanai (piemēram, “drauds” pret “nedrauds”), bet neuzraudzītas metodes arvien vairāk tiek izmantotas, lai atklātu iepriekš nezināmus modeļus bez iepriekš marķētiem datiem.

Dabas valodas apstrāde

Dabas valodas apstrāde (NLP) ļauj AI saprast un analizēt cilvēku valodu no dažādiem avotiem — sociālajiem medijiem, forumiem, ziņu rakstiem un pārtvertajiem sakariem. Sentimentu analīze, tēmu modelēšana un objektu atzīšana ļauj sistēmām atklāt radikalizācijas valodu, darbā pieņemšanas centienus un operatīvās diskusijas. NLP rīki var strādāt dažādās valodās un dialektos, kas ir būtiski, tostarp arābu, pašto, somāliešu un citās valodās, kas ir būtiskas mūsdienu draudu ainavām. Uzlaboti transformatoru modeļi (līdzīgi GPT arhitektūrai) tiek pielāgoti terorisma apkarošanai, spēj saprast kontekstu, sarkasmu un kodēto terminoloģiju. Tomēr NLP sistēmas nav nekļūdīgas: tās var nepareizi interpretēt kultūras izpausmes vai neatzīt ekstrēmistu grupu izmantotos slangus, lai izvairītos no atklāšanas.

Datorredze un novērošana

Datorredze AI apstrādā video kadrus no CCTV kamerām, droniem un ķermeņa kamerām, lai identificētu indivīdus, objektus un interešu uzvedību. Sejas atpazīšanas sistēmas sakrita ar aizdomās turētajiem pret sardzes pulsētajām publiskajām telpām, bet objektu atklāšanas algoritmi punktē ieročus, pamestas paketes vai neatļautus transportlīdzekļus jutīgo zonu tuvumā. Uzvedības analīze – piemēram, atraisot, skrienot vai neierastu pūļa kustību – var izraisīt brīdinājumus pirms uzbrukuma. Privātuma aizstāvji ir izteikuši bažas par masu novērošanu, īpaši tad, ja AI tiek izmantots nešķirojot, nevis mērķēts uz konkrētiem, pamatotiem mērķiem. Lai risinātu šo problēmu, dažas aģentūras izmanto “privacy-reserving” datorredzes metodes, kas pluvina līdz pozitīvas spēles sākšanai, vai izmanto malu skaitļošanu, lai apstrādātu datus lokāli, nevis straumējot tos uz centrāliem serveriem.

Datu saplūšana un analīze

Neviens no datu avotiem nesniedz pilnīgu izlūkdatus. AI izceļas ar informācijas saplūšanu no atšķirīgiem kanāliem – komunikācijas metadatiem, finanšu ierakstiem, ceļojumu manifestiem, biometriskiem datiem un atklātā pirmkoda intelekta – lai radītu holistisku ainu. Grafiskie analīti algoritmi kartē attiecības starp indivīdiem, organizācijām un notikumiem, atklājot slēptos tīklus. Saites analīze var identificēt centrālos skaitļus kamerā, novērtēt to ietekmi un paredzēt iespējamās turpmākās darbības. Šī saplūšana prasa rūpīgu uzmanību datu kvalitātei, lai laika zīmogiem un trūkstošajām vērtībām; atkritumu ievākšana-ievākšana paliek kritisks trūkums. Tāpēc vadošās pretterorisma AI sistēmas ietver datu validācijas cauruļvadus un cilvēku uzraudzību, lai atzīmētu neatbilstības.

Lietojumi terora aktu atklāšanai

MI tiek piemērots vairākās terorisma apkarošanas jomās, sākot no agrīnās brīdināšanas līdz izmeklēšanai pēc neidentificēšanas. Katra lietotne piedāvā unikālas spējas un izaicinājumus.

Sociālo mediju uzraudzība

Sociālie mediji joprojām ir galvenais ekstrēmistu propagandas, vervēšanas un operatīvās koordinācijas vektors. AI rīki skenēšanas platformas, piemēram, X (agrāk Twitter), Telegram, TikTok un šifrētas ziņojumapmaiņas lietotnes plānošanas rādītājiem. Atslēgvārdu noteikšana, attēlu saspiešana un tīkla analīze ļauj aģentūrām identificēt kontus, kas dalās vardarbīgā saturā vai sazinās ar zināmiem ekstrēmistiem. Piemēram, ASV Homeland Security departamenta programma “Sociālo mediju skrīninga” izmanto AI, lai novērtētu vīzu pieteikumu iesniedzēju tiešsaistes pēdas. Eiropā ES Radikalizācijas izpratnes tīkls ir finansējis projektus, kas izmanto NLP, lai atklātu tiešsaistes radikalizāciju. Tomēr viltus pozitīvie joprojām ir problēma: algoritmi var kļūdīties, ka notiek politiskas debates par draudu signāliem, kas noved pie nevajadzīgas nevainīgu personu pārbaudes. Pārredzamības ziņojumi no lielākajiem tehnoloģiju uzņēmumiem liecina, ka miljoniem satura tiek ik mēnesi iezīmēti ar terorismu saistītu politiku īstenošanai, bet ievērojama daļa vēlāk tiek atjaunota pēc cilvēka pārbaudes.

Finanšu darījumu analīze

Teroristu finansēšana bieži vien plūst caur likumīgiem banku kanāliem, labdarības organizācijām vai kriptovalūtu. Uz AI balstītas nelikumīgi iegūtu līdzekļu legalizēšanas (AML) sistēmas analizē darījumu modeļus, lai identificētu aizdomīgas darbības: lielas naudas plūsmas, apļveida pārskaitījumus vai darījumus, kas saistīti ar augsta riska jurisdikcijām. Neuzraudzīta mācīšanās atklāj jaunas naudas atmazgāšanas tipoloģijas, kas uz noteikumiem balstītas sistēmas garām. Finanšu darījumu darba grupa (FATF) mudina izmantot MI aizdomīgu darījumu ziņošanai, bet atzīmē, ka algoritmi ir jārevidē neobjektīvi un nedrīkst nesamērīgi novirzīt minoritāšu grupas vai labdarības organizācijas. Praksē modeļi tiek apmācīti par vēsturiskiem uzskatiem, kas var ietvert agrāk diskriminējošus policijas modeļus, – izaicinājums, kas prasa pastāvīgu kalibrēšanu.

Tīkla analīze un sakaru uzraudzība

Analizējot metadatus no tālruņa zvaniem, e-pasta ziņojumiem un ziņojumapmaiņas lietotnēm, AI var rekonstruēt sakaru tīklus, neizlasot saturu – mazāk uzbāzīgu alternatīvu masu novērošanai. Sociālo tīklu analīze identificē centrālos mezglus, tiltus starp kopām un indivīdiem, kas darbojas kā “izslēgšanās” starp šūnām. Laika sērijas analīze var norādīt uz operatīvo plānošanas posmiem. Piemēram, pēkšņa zvanu biežuma palielināšanās starp iepriekš neaktivizētiem kontaktiem var būt pirms uzbrukuma. U.K. GCHQ ir publiski apspriedusi, izmantojot AI, lai prioritizētu pārtveršanu, samazinot slogu uz cilvēku analītiķiem. Metadatu analīze joprojām ir strīdīga: metadati var atklāt sensitīvu personisko informāciju, piemēram, par medicīniskām iecelšanām vai politiskām piederībām, izraisot privātuma tiesību uzvalodu vairākās jurisdikcijās.

Prognozējošā policija un riska novērtējums

Prognozējamie analītikas modeļi lēš nākotnes uzbrukumu iespējamību, balstoties uz vēsturiskajiem datiem, sociālekonomiskajiem faktoriem un pašreizējo intelektu. Šie modeļi palīdz piešķirt resursus—patru, uzraudzības komandas, ostu drošību. Dažas sistēmas piešķir indivīdiem riska rādītājus, iezīmējot tos lielākai uzraudzībai vai iekļaušanai sardzes sarakstos. Tomēr kritiķi apgalvo, ka prognozējoša policijas darbība var radīt pašizpildes ciklus, kur jomas ar lielāku policijas kontroli rada vairāk datu, nostiprinot modeļa koncentrēšanos uz tām pašām kopienām. Neatkarīgi pētījumi ir pierādījuši, ka prognostiskie instrumenti var pastiprināt rasu un reliģisko aizspriedumu, ja nav rūpīgi izstrādāti. RAND korporācija iesaka prognozējošos modeļus būt pārredzamiem, pakļautiem ārējai revīzijai un izmantot kā vienu ieguldījumu daudzu cilvēku vidū lēmumu pieņemšanā.

Problēmas un ētiskie apsvērumi

MI integrācija terorisma apkarošanā ir saistīta ar nopietnām problēmām, kas saistītas ar privātumu, aizspriedumiem, atbildību un ļaunprātīgas izmantošanas iespējām, un tāpēc politikas veidotājiem, tehnologiem un pilsoniskajai sabiedrībai ir jāpievērš īpaša uzmanība.

Privātums un pilsoņu brīvības

Masu uzraudzība, ko nodrošina AI — katra saziņas, sociālo mediju un kustību skenēšana — ir pretrunā ar privātuma pamattiesībām demokrātiskās sabiedrībās. Eiropas Savienības Vispārīgā datu aizsardzības regula (GDPR) nosaka stingrus ierobežojumus automatizētai lēmumu pieņemšanai un profilēšanai, kam nepieciešama nepārprotama piekrišana vai juridiskais pamats. Amerikas Savienotajās Valstīs Ceturtais grozījums aizsargā pret nepamatotu meklēšanu, bet masveida datu vākšanas programmas, piemēram, VDI PRISM, tika pārkāptas dažās interpretācijās. Uzdevums ir izstrādāt AI sistēmas, kas ir mērķtiecīgas, samērīgas un pakļautas neatkarīgai uzraudzībai, nevis savākt visu, lai atrastu adatu sienainītis. Privātuma pēc projekta pieejas, piemēram, atšķirīga privātuma un federēta mācīšanās, piedāvā tehniskus risinājumus, bet to pieņemšana izlūkošanas aģentūrās joprojām ir ierobežota.

Bijas un algoritmiskā godīgums

Piemēram, ja iepriekšējās izmeklēšanās neproporcionāli tiks pievērsta uzmanība noteikta izcelsmes personām, modelis iemācīsies atzīmēt līdzīgus profilus, izveidojot atgriezenisko diskriminācijas loku. Sekas var būt smagas: nepareiza iekļaušana novērošanas sarakstos, uzraudzības uzmākšanās, ceļošanas tiesību liegšana un sabiedrības stigma. Mazināšanās stratēģijas ietver mācību datu kopu novirzīšanu, atšķirīgu ietekmes modeļu testēšanu un dažādu ieinteresēto personu grupu iesaistīšanu sistēmas izstrādē. Apvienoto Nāciju Organizācija ir aicinājusi veikt cilvēktiesību ietekmes novērtējumus pirms AI izmantošanas valsts drošības kontekstā.

Viltus pozitīvi un apvainojumi

Pat ļoti precīzas MI sistēmas rada viltus pozitīvus – uzliesmojumus, kas izrādās nevainīga darbība. Pretterorismā viltus pozitīvs var izraisīt policijas reidu, arestu vai pat dronu streiku (militārā kontekstā). Kļūdu izmaksas nav tikai administratīvas, tās var iznīcināt dzīvības. Pētījumi par teroristu sardzes uz AI bāzes ir atklājuši, ka ievērojama daļa vārdu ir kļūdaini vai novecojuši. Viltus pozitīvo faktoru samazināšanai ir vajadzīgi sarežģītāki modeļi, lielākas un daudzveidīgākas apmācības kopas un spēcīga cilvēka-sloop pārbaude. Dažas aģentūras izmanto divu posmu procesu: AI sistēmas karogu potenciālie draudi, bet cilvēku analītiķim ir jāapstiprina pirms darbības veikšanas. Šis kompromiss atzīst, ka AI ir cilvēka sprieduma palielināšanas, nevis aizstāšanas līdzeklis.

Atbildība un pārraudzība

Ja AI sistēma rada viltus pozitīvu vai noved pie tiesību pārkāpumu, kurš ir atbildīgs? Algoritma izstrādātājs? Aģentūra, kas izvietoja to? Operators, kas pārspēja sistēmas ieteikumu? Tiesiskais regulējums AI pārskatatbildībai joprojām ir aktuāls. Daudzās valstīs esošās kriminālās un civilās procedūras pienācīgi nerisina algoritmisko kaitējumu. Pārredzamība — publicējot, kā darbojas modeļi, kādus datus tie izmanto, un to darbības rādītāji — ir būtisks pirmais solis. Vairākas valdības ir izveidojušas ētikas padomes AI valsts drošībā, piemēram, ASV Aizsardzības inovāciju padomes AI principus un Eiropas Komisijas Augsta līmeņa ekspertu grupu IN jautājumos. Tomēr jēgpilna uzraudzība prasa neatkarīgu ārējo grupu auditabilitāti, nevis tikai iekšēju pārskatīšanu.

Kā risināt problēmas

Atzīstot šīs problēmas, valdības, starpvaldību organizācijas un privātā sektora partneri izstrādā sistēmas, lai nodrošinātu, ka MI tiek izmantots atbildīgi terorisma apkarošanā.

Tiesiskais regulējums

Eiropas Savienības ierosinātajā AI aktā ir kategorizēti AI terorisma apkarošanas lietojumi kā “augsts risks”, ievērojot stingrus atbilstības novērtējumus, cilvēku uzraudzību un pārredzamības prasības. Amerikas Savienotajās Valstīs Nacionālais standartu un tehnoloģiju institūts (NIST) ir publicējis riska pārvaldības sistēmu AI, kas pievēršas aizspriedumiem, uzticamībai un izskaidrojamībai. Starptautiskās organizācijas, piemēram, Apvienoto Nāciju Organizācijas Pretterorisma komiteja (KTK) ir izdevušas vadlīnijas par jaunu tehnoloģiju izmantošanu, uzsverot cilvēktiesības un tiesiskumu. Valstu tiesību akti pakāpeniski kodificē šos principus, lai gan to izpilde joprojām ir nevienmērīga. Kritiķi atzīmē, ka tiesiskais regulējums bieži atpaliek no tehnoloģiju ieviešanas, atstājot nepilnības, kuras var izmantot.

Pārredzamība un izskaidrojamība

Lai AI lēmumus varētu uzticēt, tiem jābūt izskaidrojamiem. Izskaidrojamās AI (XAI) metodes rada cilvēklasāmus pamatojumus, kāpēc tika izteikts konkrēts brīdinājums, piemēram, “šo personu 24 stundu laikā marķēja, jo trīs telefonsarunas ar zināmu ekstrēmistu un lidojuma rezervēšana uz konflikta zonu”. Melnās kastes modeļi (dziļi neirālie tīkli) ir mazāk piemēroti terorisma apkarošanai bez XAI papildinājumiem, jo to iekšējie apsvērumi ir neskaidri. Aģentūras arvien vairāk uztic, ka ieviestās sistēmas nodrošina izskaidrojamību galalietotājiem un, ja nepieciešams, skartajām personām. Informācijas komisāra birojs Apvienotajā Karalistē pieprasa, lai automatizēti lēmumi ar būtisku juridisku ietekmi tiktu papildināti ar jēgpilnu skaidrojumu.

“Cilvēka-cilindra” sistēmas

Lielākā daļa ētikas vadlīniju attiecībā uz MI valsts drošības jomā uzstāj uz jēgpilnu cilvēka kontroli. Cilvēkam, kas ir kustībā (HITL), nozīmē, ka automatizētie rezultāti ir jāpārskata kvalificētai personai pirms tiek veikta rīcība. HITL var būt gan vienkārša apstiprināšana (cilvēka apstiprinājums ziņojuma atbrīvošana) līdz aktīvai sadarbībai (cilvēka pielāgošanās parametri, kas balstās uz MI ieteikumiem). Kritiskos lēmumos-arestā, uzraudzības autoritātē, mērķtiecīgi streiki-cilvēka spriedums joprojām ir pats svarīgākais. ASV Aizsardzības departamenta politika attiecībā uz autonomiem ieročiem prasa cilvēka kontroli pār letāliem lēmumiem, princips, kam loģiski būtu jāattiecas uz AI-inficētu draudu atklāšanu, kas varētu izraisīt letālas sekas. Apmācības analītiķi, lai saprastu AI ierobežojumus un apstrīdētu algoritmiskos rezultātus, ir pastāvīga prioritāte.

MI nākotne terorisma apkarošanā

Tā kā MI tehnoloģija turpina attīstīties, tās nozīme terorisma apkarošanā paplašināsies gan apjoma, gan sarežģītības ziņā. Nākotnes tendenču paredzēšana ļauj politikas veidotājiem sagatavoties gan iespējām, gan riskiem.

Reālā laika draudu noteikšana

Edge AI- darbojas modeļi uz lokālām ierīcēm, nevis mākoņserveriem- ļaus ātrāk apstrādāt novērošanas plūsmas un sensoru datus, ar minimālu latentumu. Kamera stadionā varētu uzreiz identificēt ieroci un brīdināt drošību, pirms ierodas uzbrucējs. Pārtverto sarunu translācija un transkripcija reāllaikā varētu brīdināt iestādes par operatīvo valodu sekundēs. Tomēr reālā laika noteikšana arī palielina spiedienu uz perfektu precizitāti, jo nav laika cilvēka pārskatīšanai pa daļām scenārijos. Tas palielina algoritmiskas neveiksmes likmes.

Pret draudiem, kas saistīti ar MI

Pretinieki arī pieņem AI. Teroristu grupas var izmantot AI, lai radītu dziļi viltotus video propagandai, automatizētu vervēšanu čatbotus vai izvairītos no atklāšanas, radot reālistiskus, bet sintētiskus saziņas modeļus. AI-potenciāli sociālie boti var izplatīt dezinformāciju, lai kūdītu uz vardarbību vai segtu operatīvos plānus. Pretterorisma AI tāpēc jāattīstās, lai atklātu AI-radīto saturu. Šī bruņošanās sacensība starp aizskarošu un aizsardzības AI prasīs nepārtrauktus ieguldījumus pētniecībā, kā arī sadarbību starp valdībām, tehnoloģiju uzņēmumiem un akadēmijām.

Starptautiskā sadarbība

Terorisms ir starptautisks drauds, tomēr bieži vien AP sistēmas tiek izstrādātas un izvietotas valstu robežās. MI rīku sadarbspēja starp valstīm— apdraudējuma rādītāju, paraugrezultātu un paraugprakses apmaiņa var ievērojami uzlabot novēršanu. Globālais terorisma apkarošanas forums (GCTF) un Interpols ir ierosinājis programmas, lai atvieglotu šādu sadarbību. Tomēr datu suverenitātes likumi, izlūkošanas koplietošanas ierobežojumi un atšķirīgi privātuma standarti rada šķēršļus.

Secinājums

Mākslīgais intelekts piedāvā spēcīgus rīkus terora aktu atklāšanai un novēršanai, kas ļauj ātrāk veikt analīzi, plašāku uzraudzību un precīzāku modeļa atpazīšanu nekā tradicionālās metodes vien. No sociālo mediju uzraudzības un finanšu analīzes līdz policijas un tīklu kartēšanas prognozēšanai AI jau pārveido pretterorisma operācijas visā pasaulē. Tomēr šie ieguvumi nāk ar pamatīgiem pienākumiem: aizsargāt privātumu, izvairīties no aizspriedumiem, nodrošināt atbildību un uzturēt cilvēku uzraudzību. Nākotnē, visticamāk, būs vēl lielāka MI integrācija drošības arhitektūrās, bet tikai tad, ja tiks izstrādātas un īstenotas stingras ētikas sistēmas.