管理新兴技术的挑战

监管漏洞:为什么管理新兴技术比看上去更难

与以往不同的是,我们正经历一个技术加速期。 人工智能、基因编辑、分布式分类账和量子计算方面的突破并不是遥不可及的概念,而是已经嵌入日常生活的产品、服务和系统。 每波创新都带来巨大的希望 — — 疾病、更高效的能源网、透明的供应链和新的创造性表达形式。 然而,与这一希望一起更令人担心的是:我们如何管理仍在发明的技术,这些技术的风险被误解,并且可能多年来无法感受到其影响?

传统的监管模式——立法、然后执行、然后更新——是为一个发展较慢的世界设计的。 如今,技术的发展速度比法律起草的速度快,更不用说通过法律了。 到采用监管框架时,它所要达到的技术可能已经转移或过时。 这不仅仅是立法者的失败;而是创新速度与治理速度之间的结构性不匹配。 解决这种不匹配不仅需要更好的规则,而且需要一种完全不同的制定规则的方法。

新兴技术的独特性

新兴技术不仅仅是现有工具的新版本,它们常常代表范式的转变,而实际上,新的方法却不能完美地融入现有监管类别。无驾驶汽车不仅仅是一台有计算机的汽车;它只是轮子上的决策媒介。基因编辑工具不仅仅是医疗设备;它是一种改写生命准则的手段。 监管者被要求监督词汇、风险和利益攸关方仍在定义的领域。

是什么让技术"新出现"?

几个特点将新兴技术与渐进式改进区分开来,它们往往]新颖技术在其核心机制中,在能力上迅速演变,在长期效果上不确定,它们可以是的趋同因素,意思是它们结合了多个领域的进步,例如,AI适用于用于身份核查的生物学或屏蔽链,最后,它们经常中断[,更新现有的商业模式、劳动力市场和社会规范。

主要例子包括:

• 人工智能(AI) – 能够学习,理性,决策的系统,从大语言模型到自主的载体.
• 锁链和分布式编目技术 – 能够实现无信交易的分散网络,基础加密和智能合同.
• 生物技术和基因编辑 — CRISPR-Cas9等工具可以修改DNA,在医学,农业和合成生物学中都有应用.
• 物联网(IOT) – 连接传感器和设备,生成大量数据流,使智能城市和工业自动化成为可能.
• 量子计算[] – 利用量子现象解决古典计算机难解决的问题的计算,对密码学和材料科学有影响.
• 自主系统 – 无人机,机器人,以及运行时有不同程度的人类监督的车辆.

这些技术不是孤立的;它们相互影响和扩展。AI赋予对IOT数据的分析权力。Blockchain保证了AI培训数据的安全。基因编辑创建了连接互联网的生物传感器。因此,监管挑战不仅仅是单独管理每一种技术,而是预测它们趋同的效果。

管制的必然性

监管的理由在于几个支柱:保护公共安全、确保公平、维护人类自主和保持公众信任。 没有护卫,新兴技术可能会在收益实现之前造成伤害 — — 考虑的是拒绝贷款的偏颇算法、为植物网而劫持的无担保IOT设备,或者不加监督地释放到环境中的基因编辑生物。 监管并不是创新的敌人;而是创新能够负责任地进行的框架。

平衡创新与预防

技术监管的核心矛盾在于促进创新和减少风险之间的平衡。过度监管可能使有希望的发展在成熟之前消失,使社会丧失潜在利益。监管不力可能导致灾难,使整个领域倒退,并侵蚀公众的信任。 防范原则[ 认为,面对不确定但可能严重的伤害,应采取行动防止它,但往往被援引,但当损害的性质不明时,可能难以适用。基于风险的监管,监管程度与潜在伤害的严重程度成比例。例如,客户服务的AI-power式聊天机与AI-用于作出医疗诊断的监管相比,风险较低,并应当面临更轻的监管。

解决安抚问题

举世最多的挑战是“速度问题”——技术变革的速度与监管反应的速度之间的差距。立法程序本身是考虑的,目的是建立共识和考虑多种观点。相反,技术公司可以在几周内使产品释放。这种不对称意味着,在通过法律时技术环境已经发生了变化。监管者试图通过[]日落条款[(规定期限后失效的法律]、监管沙盒[(在不完全遵守的情况下可以测试新产品的控制环境],以及[]适应性监管,这些监管建立定期审查和调整机制。

具体的监管挑战

除了速度问题外,新兴技术还带来一系列具体困难,使传统规章不适合这项任务。

技术复杂性和知识差距

为了正确监管,你必须理解你正在监管的东西。 许多新兴技术都具有很深的技术性,需要计算机科学、生物学、密码学或材料科学方面的专业知识。 监管者是通才,不能是各领域的专家。 这种知识不对称使得他们依赖他们所监管的行业的投入,从而产生监管捕捉的风险。 解决方案包括雇用专业技术人员,与学术机构合作,以及使用专家顾问小组[将技术现实转化为政策语言。

管辖权和全球分裂

技术不尊重边界。 块链网络同时在数十个国家运行。 在一个大陆上培训的数据的AI模型可以部署在另一个大陆。 这种全球性造成了一系列相互冲突的监管。 构建全球产品的公司必须遵循欧盟GDPR、中国的数据主权法、加利福尼亚的隐私规则以及数十个其他制度。 结果要么只有利于最大参与者的遵守负担,要么是竞相将公司置于限制性最小的管辖范围。 国际协调,如经合组织的AI原则[ 或关于AI的全球伙伴关系,提供了一条前进的道路,但具有约束力的全球协议仍然很少见。

道德困境和价值观冲突

新兴技术迫使社会面对深刻的伦理问题。当自动车辆杀死行人时,谁要负责? 是否应该允许基因编辑疗法在医学必要性之外增强人的特质? 面部识别应当如何平衡隐私和公民自由?这些问题涉及相互竞争的价值观之间的权衡,即安全与自由、创新与公平、效率与隐私。 监管不可避免地将价值选择编码,但这些选择往往是隐含的而不是通过公共审议作出的。 为了建立合法性,监管者需要让包括伦理学家、民间社会团体和受技术影响最大的社区在内的不同声音参与其中。

公众看法和错误信息

公众对于新兴技术的理解往往受到媒体的描述、乱语和恐惧的左右。 疫苗和5G网络都是错误信息宣传的目标;基因编辑和AI同样容易受到攻击。 当公众害怕时,监管者可能会对限制规则反应过度,而限制规则会减缓有益的创新。 当公众无动于衷时,监管者可能根本缺乏采取行动的政治意愿。 通过透明的沟通、独立风险评估和包容性对话教育公众对于建立合法监管所要求的知情同意至关重要。

案例研究:实践条例

审视监管者如何采用具体技术,既发现进展,也发现陷阱。

人工智能:欧盟AI法

预计将在2025年全面执行的欧洲联盟AI法是人工智能的第一个全面法律框架,它采用基于风险的方法,将AI系统分为四级:不可接受的风险(禁止)、高风险(在严格要求下)、有限风险(透明度义务)和最小风险(没有额外义务 ) 。 高风险系统包括关键基础设施、就业、信用评分、执法和移民中所使用的系统。 关键是,该法适用于欧盟内外的供应商和部署者,并具有全球影响力。

《国际法》的优点在于其明确性和相称性,其弱点在于它是在GPT-4等基因化的国际法模型成为主流之前的几年起草的,导致对基础模型的最后一分钟修正。这说明了速度问题:在该法得到充分实施时,新的国际法模型能力,如可在世界上采取行动的代理系统,可能需要进一步更新。该法关于实施行为和授权行为[的规定允许一些灵活性,但核心结构在几年内保持不变。

区块链和密码货币:一片零散的景观

区块链监管仍然十分分散,由于分散化的性质,很难确定单一的责任方。 比特币和埃瑟恩在分布在不同管辖区的数千个节点网络上运行,没有一家公司控制这些节点。 监管者侧重于数字世界和物理世界之间的摩擦 点:交易所、钱包提供者和稳定币发行者。 欧盟的“Crypto-Asets(MICA)监管”[ 市场提供了包括稳定币在内的加密资产的统一框架,并旨在保护投资者,同时促进创新。 相反,美国依赖证交会和公平贸易委员会的执法行动,造成了证券和商品的不确定性。 一些国家,如萨尔瓦多,将比特币作为法定价格来接受;中国等,完全禁止了加密货币交易。

板链监管困境十分严峻:手太重可以推动海外创新,而手太轻则可以引发欺诈、洗钱和系统性风险。 监管沙盒[,其中的金融技术公司可以在监管下测试产品,在英国、新加坡和澳大利亚都有效地利用了这种手段来建立理解,而不会取消创新。

生物技术和基因编辑:CRISPR革命

2012年开发了CRISPR-Cas9基因编辑技术,为精确,负担得起的DNA修改打开了大门。 世界各地的监管系统反应不同。 在美国,FDA将基因编辑作物视为“植物 ” , 如果没有引进外国DNA,而人类的基因疗法则受到严格的临床试验要求。 欧洲法院2018年裁决,基因编辑获得的生物受到与转基因生物(GMOs)相同的严格监管,这一决定受到批评,因为其抑制了农业创新。 与此同时,中国采取了更宽容的做法,包括对引发全球热潮的人类胚胎进行有争议的实验。

生物技术监管所面临的挑战是应用范围很广:从治疗遗传疾病到创造抗旱作物到发展合成生物。 一种一刀切的做法是不够的。 所需要的是 层次分明的监管制度,根据使用情况——治疗、农业、环境、娱乐——以及脱离自然过程的程度,实行不同的监督水平。

利益攸关方与协作

有效的监管不能从上面强加,需要多个利益攸关方的积极参与,每个利益攸关方都带来不同的观点和激励。

政府机构

政府制定法律框架、执行规则并代表公共利益。 它们必须平衡行业、公民和国际伙伴的相互竞争需求。 美国公平贸易委员会或英国的ICO等机构已经成为事实上的技术监管机构,经常利用现有的消费者保护法来解决新的问题。 然而,与它们所监管的公司相比,它们往往资源不足,其工作人员可能缺乏评估复杂系统的技术专长。

行业领导人

技术公司对自己的产品有最深刻的了解,而且执行变革的能力最大,许多公司都接受了[]负责任的创新[框架,公布了道德准则,并设立了内部审查委员会,但自我管制有其局限性:公司奖励往往优先考虑速度和利润,而不是安全和公平。最有效的行业贡献来自[ 共同管制[——公司帮助制定随后获得法律效力的标准,见于全球网络倡议,以维护数字权利或在AI上的伙伴关系。

学者和研究人员

大学和研究机构提供独立的专业知识和长期思维,它们可以预见到工业界忽视和评价监管对现实世界的影响的风险。 但是,学术见解往往需要数年的时间才能发表,这可能会落后于产业变革的步伐。 更快的机制,如快速反应研究网络或政策研究金,可以帮助弥补这一差距。

民间社会和公众

民间社会组织、消费者倡导者和受影响社区对权利、公平和正义提出了重要的观点。 他们可以要求公司和政府都承担责任,他们往往代表政策辩论中最不听话的声音。 通过[公民陪审团[、的民意调查以及公开的评论期,可以提高监管决定的合法性。 挑战在于确保参与有意义,而不是象征性的,确保公众获得关于往往复杂和不透明的技术的明确、准确的信息。

关于建立更灵活的监管制度的建议

任何单一的改革都无法解决监管差距。 相反,需要将结构性变革、程序创新和文化转变结合起来。

适应性和弹性规章

传统的"命令与控制"监管对于快速移动的领域来说过于僵化. 监管者应该采用适应性监管 框架,其中包括内在审查周期,日落条款,以及通过次级立法更新规则的能力而不经过整个立法过程. 英国的 监管地平线理事会是一个体制机制的例子,旨在发现新兴技术,并在危机发生前建议相称的监管方法.

扩大监管沙盒和实验

监管沙盒让公司在合规负担减轻的受控环境中测试创新产品。 英国金融行为管理局率先采用这一法,此后数十个国家对无人机到自主车辆等一切行为都采用了这一法。 实验性立法[ 仅适用于有限的时间和地理区域,可以生成真实世界的数据,为最终的永久规则提供依据。 然而,沙盒必须谨慎设计,以避免成为风险最大的创新的避风港,而无需充分监督。

投资管理能力和专门知识

政府需要吸引和保留技术人才。这意味着有竞争力的工资、快速雇用授权以及公务员通过在公司、实验室或研究中心的安置而利用尖端技术的机会。 技术研究员方案,如US数字服务]18F,将有经验的工程师和设计师带入政府从事短期项目。 同样,监管者应当投资 用于审计AI系统、区块链交易和IOT设备的福尔分析工具,就像他们今天投资于法证会计工具一样。

推动国际协调和相互承认

相互承认[——通过信任另一国的管理制度,消除了重复遵守的必要性——可以减少不成体系现象。 国际标准化组织[ISO] 和IEEE全球倡议等机构制定自愿标准,可成为规章。在多边一级,G7、G20和经合组织等论坛为大赦国际、数字贸易和数据治理制定了提供共同基线的原则。虽然大多数技术、软法律文书、行为守则和共同基准都不可能有有约束力的全球协议,但这种协议可以产生事实上的协调统一。

将道德操守和公众考虑纳入这一进程

监管不仅仅是技术工作,而是社会价值的反映。设计上的道德应纳入研发阶段,而不是作为事后考虑而增加。 民主工具[,如公民在AI或基因编辑上的集会,可以表面价值和权衡,结果是更合理的监管,使公众相信,减少后期出现反弹或不遵守的风险。

预兆而不是反应

积极监管要求[ 视距扫描和技术展望 各机构应在产品进入市场前保持新兴技术的监视清单和委托风险评估 欧盟委员会联合研究中心 定期为决策者发布关于新兴技术趋势的报告,同样,美国政府问责局[有一个技术评估职能,评估新技术的影响,这些展望能力应当得到加强并纳入立法日历。

结论

监管新兴技术并非不可能,但与监管既有工业是根本不同的任务。 它要求谦卑地对待我们所不知道的事情,适应我们所学到的东西的速度,以及跨学科和跨边界的合作。 利害攸关的莫过于今天:我们今天开发的技术将塑造世界世代。 这个世界是共享繁荣与安全,还是不平等和可预防的伤害,这在很大程度上取决于我们是否能够建立像它们所管理的技术那样创新的监管体系。 目标不是要阻止进步,而是要谨慎、包容地引导进步,并明确理解未来不是发生在我们身上的事情,而是我们共同创造的东西。