反恐公私伙伴关系的演变

过去十年来,技术公司和政府反恐机构之间的关系大大加深。 曾经是被动的、后攻合作已经发展成一种积极主动的、数据驱动的伙伴关系,涵盖监视、内容节制和情报共享。 数字通信量庞大,恐怖集团利用加密渠道、社交媒体进行招募和在线金融网络的复杂程度,推动了这种转变。 今天,没有一个公共或私人实体能够单独应对这一威胁。 政府依靠Meta、YouTube、Telegram和X(前Twitter)等平台的技术基础设施来发现和瓦解恐怖活动,而公司则依靠政府的威胁情报来保护用户。 由此产生的合作是复杂的,常常充满法律和道德上的紧张关系,但对于现代安全框架来说是不可或缺的。

本文探讨了这些伙伴关系的机制、成功和争议,重点是数据共享、加密战、法律框架和前进道路。 文章借鉴了全球反恐互联网论坛(GIFCT ) 、 散列共享数据库的使用、以及英国在线安全法和美国反恐法等立法工具。

技术与政府合作的核心领域

情报分享和可疑活动报告

科技公司经营着庞大的数据生态系统 — — 从电子邮件服务器到云存储到社交媒体反馈 — — 能够包含即将到来的恐怖阴谋的信号。 许多政府已经正式建立了这些公司自愿或合法披露威胁指标的渠道。 比如,美国国土安全部的“See something, Say something”运动有一个技术伙伴计划,鼓励企业报告网上极端主义内容。 此类报告往往由自动系统引发,这些系统扫描已知的恐怖主义宣传、炸弹制造指令或招募语言。

联合国反恐怖主义办公室[等国际机构也建立了尊重管辖权界限的信息共享框架,一个值得注意的倡议是反恐技术[项目,该项目为较小的平台提供了威胁情报和温和工具,缩小了大公司与政府之间的差距。 联合国反恐怖主义办公室[维持了一个许多公司采用的最佳做法库。

自动内容调制和散列

最有效的技术协作之一是分享已知恐怖主义内容的数字指纹。由Facebook、微软、Twitter和YouTube创建的全球反恐互联网论坛[维持一个共享散列数据库。当一个成员平台识别一个恐怖主义视频或图像时,其散列将自动添加到数据库中,其他成员自动封锁该内容。各国政府通过提交情报来源的散列,在视频进入病毒化之前加快取下。 GIFCT的官方网站详细介绍了该系统的运作情况,并公布了下载量的透明度报告。

关键是,这种合作超越了清除,而是主动的检测:接受过政府提供的数据集培训的机器学习模型可以标榜新的宣传变化,即使不存在散列匹配。 这减少了对人类主持人的依赖,因为他们可能因为接触暴力材料而面临心理伤害。

加密和访问辩论

加密难题仍然是最有争议的合作领域。 各国政府认为,在WhatsApp、Signal和Telegram等平台上进行端到端加密为恐怖分子的通信制造了“安全港 ” , 使其无法被察觉。 他们要求合法进入 — — 通常是通过后门或客户端扫描。 然而,技术公司反对削弱加密会危及所有用户的安全,包括记者和人权活动家,并可能被敌对国家利用。

这场辩论产生了几个引人注目的对峙。 在2016年的圣伯纳迪诺调查中,苹果公司以用户信任为由拒绝为联邦调查局打开iPhone。 最近,欧盟的“控制聊天”建议引起了隐私倡导者的火力。 类似 Signal 这样的公司明确声明,它们将从任何迫使它们打破端对端加密的市场退出。 尽管如此,一些政府还是推动“客户端扫描” ] , 其中的内容在加密之前被分析 — — 据报道Meta正在其加密信使聊天中测试的一个模型。 [ 电子前沿基金会[ 提供了对双方技术和法律论据的透彻分析。

中间立场是英国《在线安全法》中使用的 ” 指定披露”[方法,它要求平台使用自动化工具识别和消除恐怖分子内容,但并不强制进行一揽子解密。 这一框架将技术实施留给公司,导致不同的结果。

协作的法律框架

国家立法和域外影响

有关数据共享和监督的法律差异很大,在全球化的互联网上制造摩擦。 美国《CLOUD法案》(《澄清合法海外使用数据法》)允许执法部门要求美国公司提供数据,而不论数据存放在何处,条件是外国政府满足某些人权条件。 这促成了与英国和澳大利亚等盟国进行实时合作,但批评者认为这损害了当地的数据主权。 美国司法部CLOUD法案网页 概述了现有的协议。

欧盟的[私密指令和一般数据保护条例(GDPR)对执法数据处理施加了严格的限制,要求有司法授权和相称性评估。 跨大西洋的技术公司必须穿越义务的迷宫,经常选择遵守更严格的制度以避免制裁。 这可能会拖延或使反恐数据共享复杂化,如施雷姆斯二号裁决中宣布隐私盾框架无效。

自愿与强制性合作

有些合作是行业自我管制的自愿产品,而另一些合作则由法律授权。例如,德国网络执法法迫使平台在24小时内清除明显非法的内容(包括恐怖主义材料)或面临巨额罚款。公司的反应是投资自动温和小组,接受更多的政府转介。相反,印度这样的国家没有正式的授权,而是依靠非正式请求,这可能导致临时的过度遵守或抵制。

任务“”的风险是真实的:一旦一个平台建立了反恐能力,政府就可能迫使它们使用同样的工具监测政治异议。透明度报告和独立监督对于防范这种情况至关重要。像现在和人权观察这样的组织定期审计此类合作。

国际合作和多边倡议

全球反恐因特网论坛(全球反恐论坛)

全球信息传输中心也许是该领域最制度化的公私伙伴关系。 2017年,在伊斯兰国在欧洲发动袭击后,它成立,现在包括十多个成员公司和正式治理结构。 全球信息传输中心的主要支柱包括:开发共享散列数据库等技术解决方案;资助恐怖分子使用数字平台的研究;以及引发极端主义内容激增的突发新闻事件的危机应对协议。

论坛与欧洲刑警组织互联网查询股(EU IRU)合作,以标出跨界威胁。 虽然全球信息传输中心因减少恐怖主义内容而受到赞扬,但批评者指出,它缺乏强制力,而且处理极端主义材料的算法放大工作缓慢。 全球信息传输中心透明度报告显示每月交换数千份散列,但缺乏独立审计仍然是一个关切问题。

欧洲刑警组织的因特网查询股和联合行动

欧盟国际联盟与欧盟内部的平台直接合作,移除恐怖分子的内容。 它与Meta、Google等签订了转介协议,并为国家警察单位提供培训。 欧盟国际联盟的成功率是通过拆卸率衡量的 — — 通常在数小时内超过90 % , 但仅这一标准并不能说明在不同散列下重新出现的内容。

联合行动,如行动Triton(针对14个国家的伊斯兰国和基地组织网络),涉及实时分享从平台数据中获取的情报,这些行动表明执法公司和技术公司之间深度融合的潜力,尽管它们提出了关于大宗数据收集的隐私问题。

跨界情报共享方面的挑战

不同的法律制度、数据本地化法和政治紧张局势会阻碍及时合作。 比如,当一个国家发生恐怖袭击时,嫌疑人的数字足迹可能存在于另一个国家的服务器上,需要几个月的司法协助条约。 《布达佩斯网络犯罪公约》已经60多个国家批准,为快速请求提供了框架,但许多签署国仍然面临官僚主义拖延。

某些政府采取单方面行动,如扣押服务器或封锁整个平台(例如巴基斯坦在恐怖主义指控后暂时禁止Telegram ) 。 这些措施是钝器,比它们针对的恐怖网络更可能伤害民间社会。

道德困境和隐私保障

监视的滑动

任何反恐工具都可以重新用于更广泛的监控。 中国的社会信用体系和对维吾尔穆斯林的面部识别都是政府获取技术公司数据可能遭到滥用的谨慎例子。 在民主社会中,保障措施包括司法授权、数据保存的日落条款和独立民事监督委员会。 美国外国情报监视法院审查政府要求元数据,尽管其单方面性质引起了批评。 ACLU的监控网页记录了反恐权力被过度使用的案例。

技术公司往往发现自己处于两个任务之间:保护用户隐私和与执法部门合作。 当平台被认为过于合规(例如,在没有强有力的法律程序的情况下移交数据)或阻力过大(例如,允许恐怖分子自由运作 ) 时,公众信任就会受到损害。 “隐私-安全悖论”不太可能通过一刀切的解决办法来解决;针对具体部门的行为守则可能提供一条前进的道路。

算术偏差和假阳性

侦查恐怖分子内容的自动化系统都经过了可能过度代表某些语言、地区或政治观点的数据集培训,这可能导致边缘化社区的内容被过度标榜,如被错误地标榜为极端主义言论的库尔德人或巴勒斯坦活动家。鉴于数量庞大,人文审查往往不够充分,导致账户被错误中止或审查。圣克拉拉原则[呼吁内容节制透明,包括如何制定和测试反恐算法。YouTube等公司已开始发布透明度报告,按类别和删除理由细分,但独立审计仍然很少。

用于培训这些模型的政府情报也可能被分类,使得外部研究人员无法核实准确性,这种缺乏问责是一个严重的伦理问题,特别是当假阳性会导致错误逮捕或拒绝服务时。

未来方向和政策建议

加强独立监督

最有效的反恐合作是那些植根独立监督机制的合作,联合国反恐问题特别报告员建议,技术公司和政府之间的任何数据共享协议都应由包括民间社会代表在内的多方利益攸关者委员会定期审查,一旦发现滥用情况,此类委员会应有权取消例外准入,加拿大等国家已与私营部门成员建立了[国家安全透明委员会[],以审查情报共享做法。

统一跨界法律标准

为了减少摩擦,应当扩大《CLOUD法》等国际协定,同时纳入更强有力的人权条款。 欧盟正在探索布达佩斯公约的“第二代”版本,增加获取数据的人权标准。 技术公司也可以通过遵守《联合国工商业与人权指导原则》,采用全球最低标准,无论它们在哪里运作。

投资“私人保护”技术

创新的技术解决方案可以减少安全与隐私之间的权衡。 诸如 异态加密[(允许对加密数据进行计算)、 零知识证明[ 和[] 强化学习,使各国政府能够在不看到原始内容的情况下分析数据模式。 例如,反恐机构可以查询一个平台的加密数据库,以标出异常的通信模式,而不会破解单个信息。 这些技术仍然成熟,但提供了有希望的中间基础。

另一种途径是“逐一设计”情报共享,最初只有元数据(例如时间、数量、地理识别符)共享,而只有凭授权才能获取全部内容。 美国国会提出的《信使透明度法》[旨在要求所有反恐请求都具有分层准入权。

缩小中小型平台的差距

大部分关注点都集中在最大的平台上,但恐怖分子往往转向规模较小、监管不严的服务。 诸如反恐技术“平台支持”方案[等举措向资源有限的公司提供免费工具和威胁情报。 政府可以通过资助任何平台都能整合的公益性“反恐API”来加快这项工作。 欧盟委员会的《数字服务法》包括系统性风险评估条款,将迫使更大的平台与较小的同行分享技术最佳做法。

结论

科技公司和政府之间的反恐合作并非可选的,而是现代冲突数字化转型所必然产生的。 成功后,通过在袭击发生前破坏袭击、大规模消除暴力宣传以及破坏金融网络来拯救生命。 失败后,它侵蚀公民自由、对少数群体的偏见算法,并削弱对民主机构和技术行业的信任。

展望未来,关键不是在安全与隐私之间做出选择,而是设计透明、有法律约束力、受到严格独立监督的伙伴关系。 本条概述的框架 — — 共享数据库、加密辩论、全球信息、通信和通信全球倡议等多边平台以及新兴的隐私保护技术 — — 代表着不断发展的工具包。 没有一个工具是完美的,但两者共同构成了更安全的数字世界的基础。 决策者、技术专家和民间社会必须继续在这些模式上坚持不懈,永远铭记打击恐怖主义的斗争不应牺牲恐怖分子所要摧毁的价值。