A evolución das asociacións públicas-privadas na loita contra o terrorismo

Durante a última década, a relación entre empresas tecnolóxicas e axencias de loita contra o terrorismo do goberno profundou significativamente.O que unha vez foi unha cooperación reactiva e post-ataque evolucionou nunha asociación proactiva, dirixida a datos que abarca a vixilancia, a moderación do contido e a compartición de intelixencia. Esta transformación está impulsada polo volume de comunicacións dixitais e a sofisticación de grupos terroristas usando canles encriptadas, medios sociais para o recrutamento e redes financeiras en liña.Hoxe, ningunha entidade única -pública ou privada- pode afrontar a ameaza só.Os gobernos confían na infraestrutura técnica de plataformas como Meta, os usuarios legais, a colaboración de YouTube, e a ameaza do goberno, que son esenciais, e a miúdo a ameaza do goberno.

Este artigo examina os mecanismos, os éxitos e as controversias destas asociacións, con foco en intercambio de datos, batallas de cifrado, marcos legais e a estrada a seguir.

Áreas básicas de colaboración tecno-administrativa

Información sobre a intelixencia e os informes de actividade sospeitosos

As empresas tecnolóxicas operan grandes ecosistemas de datos, desde servidores de correo electrónico ata fontes de redes sociais, que poden conter sinais de inminentes conspiracións terroristas. Moitos gobernos formalizaron canles a través das cales estas empresas revelan voluntariamente ou legalmente indicadores de ameaza. Por exemplo, a campaña "Ver algo, dicir algo" do Departamento de Seguridade Interna ten un programa de socios tecnolóxicos que anima ás empresas a informar de contido extremista en liña.

Organismos internacionais como o A Oficina das Nacións Unidas de Contra-Terrorismo tamén estableceu marcos para o intercambio de información que respectan os límites xurisdicionais. Unha iniciativa notable é o proxecto FLT:2Tech Against Terrorism, que proporciona plataformas máis pequenas con ferramentas de intelixencia de ameazas e moderación, reforzando a brecha entre as grandes corporacións e os gobernos.

Moderación automática de contidos e compartición de hash

Unha das colaboracións técnicas máis efectivas é a posta en común de pegadas dixitais (hashhes) de contidos terroristas coñecidos.O FLT:0 Global Internet Forum to Counter Terrorism (GIFCT), fundado por Facebook, Microsoft, Twitter e YouTube, mantén unha base de datos hash compartida.Cando un membro identifica un terrorista ou imaxe, o seu hash engádese á base de datos e outros membros bloquean automaticamente ese contido.Os gobernos contribúen mediante a presentación de présas de fontes de intelixencia, acelerando as tomas antes de vídeos virais.

Criticamente, esta cooperación esténdese máis aló da eliminación para a detección proactiva: os modelos de aprendizaxe automática formados en conxuntos de datos proporcionados polo goberno poden introducir novas variacións de propaganda, mesmo cando non hai coincidencia de hash. Isto reduce a dependencia dos moderadores humanos, que poden facer fronte a danos psicolóxicos debido á exposición a materiais violentos.

Cifra e debate sobre o acceso

Os gobernos argumentan que o cifrado final a fin en plataformas como WhatsApp, Signal e Telegram crea "parasitos seguros" para que os terroristas se comuniquen sen ser detectados.Eles esixen acceso legal - a miúdo a través de portas traseiras ou escaneo do cliente. empresas tecnolóxicas, con todo, contra ese cifrado debilitante poñería en perigo a seguridade de todos os usuarios, incluídos xornalistas e activistas dos dereitos humanos, e podería ser explotado por estados hostís.

Na investigación de San Bernardino de 2016, Apple rexeitou abrir un iPhone para o FBI, citando a confianza do usuario. Máis recentemente, a proposta da UE "Chat Control" sacou lume dos defensores da privacidade. Empresas como FLT:0 Signal Signal Signal declararon explicitamente que se retirarán de calquera mercado que os obriga a romper o cifrado final a fin. Con todo, algúns gobernos teñen empurrado para a "prezado a exploración cara ao cliente"FLT:3 onde se analizan os argumentos de cifrados da Fundación Messenger (FLT) antes de que se indique que os dous lados técnicos da versión de proban os argumentos de verificación de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de datos de usuario.

Un punto medio é o enfoque FLT:0" de divulgacións deseñadas "[FLT: 1] utilizado na UK Online Safety Act, que require que as plataformas para identificar e eliminar contido terrorista usando ferramentas automatizadas, pero non obriga a descifrar mantas.

Lexislación nacional e alcance extraterritorial

As leis que regulan o intercambio de datos e a vixilancia difiren amplamente, creando fricción nunha Internet globalizada.The US FLT:0]CLOUD Act (Clarificando o uso legal de datos no exterior) permite que a aplicación da lei esixa datos de empresas baseadas en Estados Unidos independentemente de onde sexa almacenada, sempre que o goberno estranxeiro cumpra certas condicións de dereitos humanos. Isto permitiu a cooperación en tempo real con aliados como o Reino Unido e Australia, pero os críticos argumentan que mina a soberanía dos datos locais.

A Directiva de privacidade da Unión Europea e Regulamento Xeral de Protección de Datos (GDPR) [FLT: 3] impón límites estritos ao tratamento de datos para a aplicación da lei, requirindo ordes xudiciais e avaliacións de proporcionalidade. empresas tecnolóxicas que operan en todo o Atlántico deben navegar por un labirinto de obrigacións, moitas veces optando por cumprir co réxime máis estrito para evitar sancións. Isto pode atrasar ou complicar o intercambio de datos contra o terrorismo, como se ve no fallo de Schrems II que invalidou o marco de privacidade.

Cooperación voluntaria vs. obrigatoria

Algunhas colaboracións son voluntarias, produto da autorregulación da industria, mentres que outras son obrigatorias pola lei.The FLT:0 German Network Enforcement Act (NetzDG) "(FLT:1)", por exemplo, forza ás plataformas a eliminar contidos manifestamente ilícitos (incluído o material terrorista) dentro de 24 horas ou afrontar multas pesadas.As empresas responderon investindo en equipos de moderación automatizados e aceptando máis referencias gobernamentais.

O risco de que se produza un aumento de emisións é real: unha vez que unha plataforma constrúe capacidades para o terrorismo, os gobernos poden presionar a eles para usar as mesmas ferramentas para o seguimento da disidencia política.Información de transparencia e supervisión independente son esenciais para protexerse contra iso. Organizacións como Access NowFLT:3 e Human Rights Watch auditoría regularmente tales colaboracións.

Cooperación internacional e iniciativas multilaterais

Foro Mundial de Internet para a Loita contra o Terrorismo (GIFCT)

Fundado en 2017 tras unha onda de ataques inspirados polo ISIS en Europa, agora inclúe máis dunha ducia de empresas membros e unha estrutura de goberno formal. GIFCT inclúen: desenvolvemento de solucións técnicas como a base de datos hash compartida; financiamento de investigación sobre uso terrorista de plataformas dixitais; e protocolos de resposta de crise para romper eventos de noticias que desencadean unha subida de contido extremista.

Os gobernos sentan nun consello consultivo e o foro colabora co FLT:0 Europol {{FLT:1}} {{FLT:1}} {{SITENAME}} }} , a bandeira das ameazas transfronteirizas. aínda que GIFCT foi eloxiado por reducir o volume de contido terrorista, os críticos consideran que carece de aplicación vinculante e foi lento para tratar a amplificación algorítmica do material extremista.

Unidade de referencia en Internet de Europol e operacións conxuntas

A IRU da UE traballa directamente con plataformas para eliminar o contido terrorista publicado na Unión Europea.Con acordos de referencia con Meta, Google e outros, e realiza adestramento para unidades policiais nacionais.O éxito da unidade mídese por taxas de despregue, normalmente superiores ao 90% en horas, pero esta métrica por si soa non supón contido que rexurde baixo diferentes hashes.

Operacións conxuntas como a Operación Triton (que pretende crear o Estado Islámico e as redes de Al Qaeda en 14 países) involucraron o intercambio de intelixencia en tempo real derivado dos datos da plataforma.

Retos na compartición de intelixencia cruzada

Diferentes réximes legais, leis de localización de datos e tensións políticas poden bloquear a cooperación oportuna. Por exemplo, cando se produce un ataque terrorista nun país, a pegada dixital do sospeitoso pode residir nos servidores noutro, requirindo tratados de asistencia xurídica mutua (MLAT) que poden levar meses.

Algúns gobernos recorreron a accións unilaterais, como a toma de servidores ou o bloqueo de plataformas enteiras (por exemplo, a prohibición temporal de Paquistán sobre Telegram despois de acusacións de terrorismo).

Dilemas éticos e protección de privacidade

A Espéra de Surveillance

Calquera ferramenta construída para o terrorismo pode ser reutilizada para unha vixilancia máis ampla.O sistema de crédito social de China eo uso de recoñecemento facial contra os musulmáns veciños son exemplos cautelares de como o acceso do goberno aos datos da empresa de tecnoloxía pode ser abuso.En sociedades democráticas, salvagardas inclúen ordes xudiciais, cláusulas de posta de sol sobre a retención de datos e tribunais de control civís independentes.The USFLT:0 Foreign Intelligence Surveillance Court (FISC) revisa as solicitudes do goberno para metadatos, aínda que a súa natureza ex-estacionamento foi feita por crítica: documentos de vixilancia.

As empresas tecnolóxicas a miúdo póñense en contacto entre dous mandatos: protexer a privacidade dos usuarios e cooperar coa aplicación da lei.A confianza pública erosiona cando as plataformas son percibidas como demasiado compatibles (por exemplo, administrar datos sen un proceso legal robusto) ou demasiado resistentes (por exemplo, permitir que os terroristas operen libremente).O paradoxo de seguridade de privacidade é improbable que se resolva por unha solución única, os códigos de conduta específicos do sector poden ofrecer un camiño adiante.

Bias algorítmicas e falsos positivos

Os sistemas automatizados para detectar contidos terroristas son adestrados en conxuntos de datos que poden sobrerepresentar certas linguas, rexións ou puntos de vista políticos. Isto pode levar a unha flagxe desproporcionada de contidos de comunidades marxinadas, como activistas kurdos ou palestinos cuxo discurso é erroneamente etiquetado como extremistas.A revisión humana é a miúdo inadecuada dado o volume, dando como resultado suspensións de contas erróneas ou censuras.Os principios de Santa Clara seguen a ser transparentes na moderación do contido, incluíndo o desenvolvemento e proba de algoritmos contraterrorismo.

A intelixencia do goberno utilizada para adestrar estes modelos tamén pode ser clasificada, facendo imposible para investigadores externos para comprobar a precisión.

Orientacións e recomendacións de políticas de futuro

Reforzar a visión independente

O relator especial sobre o contra-Terrorismo das Nacións Unidas recomenda que calquera acordo de compartición de datos entre empresas de tecnoloxía e gobernos estea suxeito a revisión periódica por parte dun consello multi-axente incluíndo representantes da sociedade civil. Tales consellos deben ter o poder de revogar acceso excepcional se se se se atopan abusos. países como Canadá estableceron os Comités de Transparencia Nacional de Seguridade (FLT:1) cos membros do sector privado para revisar as prácticas de compartición de intelixencia.

Harmonización de normas legais en todas as fronteiras

Para reducir a fricción, os acordos internacionais como a Lei FLT:0 eCLOUD deben ampliarse ao incorporar cláusulas de dereitos humanos máis fortes.A UE está a explorar unha versión de "segunda xeración" da Convención de Budapest que engadiría criterios de dereitos humanos para o acceso aos datos.As empresas tecnolóxicas tamén poden adoptar estándares mínimos globais, independentemente de onde operan, comprometéndose aos Principios de Xestión das Nacións Unidas sobre os Dereitos Humanos e as Empresas.

Investir en tecnoloxías de “privacidade-prevención”

As solucións técnicas innovadoras poderían reducir o intercambio entre seguridade e privacidade. Técnicas como o cifrado holomorfa (que permite computación en datos cifrados), probas de coñecemento cero [FLT: 3] e FLT: 4] aprendizaxe federada FLT:5 permite aos gobernos analizar patróns en datos sen ver o contido en bruto. Por exemplo, unha axencia de contraterrorismo podería consultar a base de datos cifrada dunha plataforma para marcar patróns de comunicación pouco comúns sen cifrar nunca as mensaxes individuais.

Outra vía é a compartición de intelixencia "privacy-by-design" [FLT: 1], onde só metadatos (por exemplo, temporización, volume, identificadores xeográficos) son compartidos inicialmente, e o contido completo só se accede cunha orde.

Agrupar a plataforma para plataformas pequenas e medianas

Gran parte do foco estivo nas plataformas máis grandes, pero os terroristas adoitan migrar a servizos máis pequenos e menos regulados.Iniciativas como Tech Against Terrorism's "Platform Support" (Apoio Antiterrorista) proporciona ferramentas libres e intelixencia de ameaza a empresas con recursos limitados.Os gobernos poden aceleralo financiando unha " API de terrorismo" de interese público que calquera plataforma pode integrar.

Conclusión

A colaboración entre as empresas tecnolóxicas e os gobernos contra o terrorismo non é opcional, é unha necesidade que nace da transformación dixital do conflito moderno.Cando se fai ben, salva vidas interrompendo os ataques antes de que ocorran, eliminando a propaganda violenta a escala e interrompendo as redes financeiras.

Avanzando, a clave non é elixir entre seguridade e privacidade, senón deseñar alianzas que sexan transparentes, legalmente limitadas e suxeitas a unha supervisión independente robusta.Os marcos descritos neste artigo -base de datos de intercambio de datos, debates de cifrado, plataformas multilaterais como GIFCT e tecnoloxías emerxentes que preservan a privacidade- representan o conxunto de ferramentas en evolución. Ningún é perfecto, pero xuntos forman unha base para un mundo dixital máis seguro. responsables políticos, tecnólogos e sociedade civil deben continuar iterando sobre estes modelos, sempre lembrar que a loita contra o terrorismo non debe buscar moi bos valores.