管理漏洞:為什麼管理新兴科技比看起來更難

人們在網路上發表了一個不一樣的科技加速期。 人工智能、基因編輯、分布式賬本和量子計算的突破並非如遠期概念,而是像已經嵌入日常生活的產品、服務和系統一樣。 每一波创新都帶有巨大的希望 — — 疾病、更高效的能源網格、透明的供應鏈和新型的創意表達。 然而,與這項希望相伴,我們更深的忧虑是:我們如何管理那些仍在發明、其風險不甚明、其影響可能多年來沒有感受到的科技?

傳統的規矩模式—立法、执行、更新—是為一個發展速度较慢的世界而設計的。 如今,科技進展速度比法律起草的速度快,更別說已經過去了。 到了一個規矩框架被通過時,它所要达到的科技可能已經轉移或过时。 这不仅是立法者的失敗,也是创新速度和治理速度的结构性不匹配。 解决這種不匹配需要的不只是更好的規矩,而是完全不同的規矩制定方法。

新兴科技的独特性

新兴科技不只是現有工具的新版本。 它們常常代表范式的轉變 — — 完全是新的方法,來做一些不完全符合現有的規定。無駕駛的汽車不只是一輛有電腦的汽車,而是輪子上的決定代理。基因編輯工具不只是醫學裝置,也是重寫生命規則的手段。 监管者被要求監督那些词汇、風險和利害相关者仍在被定義的领域。

是什么讓科技"新鮮"?

某些特性將新兴科技和增量改进相区别。 它們通常在核心機理中[ , 能力中 快速進化 , 以及[ 不确定 , 其長期效果可以 相容性[, 意思是它們结合了多领域的進步, 例如,AI适用于生物或區塊鏈, 用于身份證實。 最后, 它們常常 , 使现有的營業模式、劳动力市场和社会规范更新 。

主要例子包括:

  • 由大型語言模型到自主車輛,
  • 鎖鏈與分配的列德格科技 — 分散的網路, 能夠讓無信交易、 暗藏加密和智能合同得以存在。
  • 科技與基因編輯 – CRISPR-Cas9等工具可以修改DNA,
  • 網路(IOT) – 連接的感應器和裝置產生大量數據流,
  • 量子計算 – 計算利用量子现象解決古典電腦難以解決的問題,
  • 無人機、機器人與車輛在人體監控下不同程度運作。

這些科技不是被分離的, 而是互相交換和放大。 AI 授权分析 IOT 資料。 章魚鏈可以保障 AI 訓練資料。 基因編輯會產生生物傳感器連接網路。 因此, 管理上的挑戰不只是單獨管理每種科技, 而是預測其交集的 效果。

管理的必要

管理的理由有以下几大支柱:保障公共安全、确保公平、维护人自主和维护公共信任。 没有看守,新兴科技可能會在收益实现之前造成傷害 — — 想想有偏見的算法,不提供贷款,被劫持用于博物網的无保障IOT裝置,或者基因编辑的生物在不受监督的情况下释放到环境中。 管理不是创新的敵人;而是创新可以负责任地进行的框架。

平衡创新与防范

科技管理的核心緊張是促進創新與減低風險的平衡。 超限管制會在發展成熟前扼殺有希望的發展, 使社會失去潜在利益。 低限管制會導致災害, 使整個田地都落空, 也消滅公信度。 [[FLT: 0]] 的审慎原則[[[FLT: 1] —— 認為在面临不确定但可能嚴重的傷害時, 應采取行动防止它, 常被援引, 但當傷害的性质不明時, 可能很難适用。 更务实的規矩是[[FLT: 2] , 風險害的規矩[[FLT: 3] , 其監控程度與可能嚴重的傷害成正比。 例如, 客戶服務的AI 權式聊天機比於AI 的醫療定更低, 也應面對更輕的規矩。

解決安裝問題

引言最多的挑戰之一是“速度問題” —— 科技變化速度和管制反應速度之间的差距。立法程序本身就具有審商性,旨在建立共识和考慮多种观点。相形之下,技術公司可以在數周內使產品的釋放量大到爆。這不对称意味到法律通過時,技術地貌已經改變。 管制者試圖以 日落条款[(在设定期限之后到期的法律)、[ 管制沙盒[(在不完全遵守的情况下可以测试新產品的控制環 )和[] 适应性管理,以建立定期审查和調整机制。

具体的管理挑戰

新的科技也帶來了一系列困難,

技術复杂性和知識差距

管理要好,你必須明白你正在管制的事物。很多新兴科技都非常有技術性,需要電腦科學、生物學、加密學或材料科學方面的專業。 管理者是通才,不能是各领域的專家。這項知识的不对称性使得他們依赖于所監管的行业的投入,从而造成管理抓取的風險。 解決方案包括雇用專業技術工作人员,與學院合作,以及使用 專家咨詢小组[ , 將技術現實驗化為政策語言。

管辖和全球分裂

科技不尊重邊界。 一個區塊鏈網路會在數以十數的國家內運作。 一個從一個大陸學習過的AI模型可以部署在另一個大陸。 這個全球性會造成一套互不相容的規定。 一個建立全球產品的公司必須導引歐盟的GDPR、中國的數據主权法、加州的私密規則以及其他數以十數的政權。 結果是, 要么只偏愛最大玩家的遵守負擔, 要么是種族到公司最不具有限制性的地區的底部。 國際協調, 如经合组织的AI 原則[[[FLT: 1] 或 Global Partnership 的 , 提供一條前進路, 但具有约束力的全球協議仍然很少。

道德困境和价值冲突

新兴科技迫使社會面對深层次的道德問題。當自主的車子殺人時,誰要負責? 是否應讓基因編輯疗法在醫療需要之外提升人的特質? 面部認同與私生活和公民自由如何平衡? 這些問題涉及相爭的价值观之间的取舍,即安全與自由,创新與公平,效率與隱私。 管制必然是價值選擇的代碼,但這些選擇往往暗含而不是由公共考量做出。 要建立合法性,监管者需要吸收不同的声音,包括道德學家、公民社会团体和受科技影响最大的社群。

公共觀察和不正確信息

疫苗和5G網路都是不正確的活動目標; 基因編輯和AI也相當脆弱。 當公众害怕時, 监管者可能會反應過激, 限制的規矩會延緩有益創新。 當公众漠不關心時, 监管者可能根本缺乏采取行动的政治意愿。 以透明交流、獨立的風險評論和包容性的對話教育公众,是建立合法监管需要的知情同意所必不可少的。

案例研究:实践的规范

研究管理者如何處理特定科技,

人工智能:欧盟AI法案

歐盟的AI法案, 预计将在2025年完全實施, 是人工智能的第一個全面法律框架。它需要以基于風險的方法[, 将AI系統分为四層:不可接受的風險(禁止),高风险(受严格要求的),有限風險(透明度义务)和最小風險(不增加的責任 ) 。 高风险系統包括那些在重要基础设施、就业、信用分數、执法和移民中所使用的系統。 關鍵的是,该法适用于歐盟内外的供應者和部署者,使其具有全球的影响力。

AI法案的优点在于其清晰度和相称性。它的缺陷在于它是在GPT-4等基因化AI模型成為主流之前的幾年起草的,导致基礎模型的最後一刻修正。這说明了速度問題:當法案完全生效時,新的AI能力,如可以在世界范围内采取行动的代理系統,可能需要进一步的更新。 该法案的 实施法案和授权法案[的规定可以有一些灵活性,但核心结构仍然固定在多年內。

區塊鏈與加密貨幣:一片破碎的地貌

板鏈管制仍然很分散。 板鏈管制的分散性使得一個負責方的分離性難以辨別。 比特币和埃塞魯姆在分布在各司法管辖区的千個節點的網路上, 沒有一家公司控制著它們。 管制者們都集中在數位世界和物理世界( 交易所、 錢包提供商和穩定幣發售商) 之間的摩擦點[[FLT: 1] 。 歐盟的[[[FLT: 2] 冰晶- 管制中的馬克特(MICA) 提供了一個统一的框架, 包括穩定幣和保護投資人, 并提倡創新。 相對的對象, 美國則依靠證券交易委和CFTC的执法行動, 造成對哪些證券是证券和商品的不确定性。 有些国家,如萨尔瓦多, 已把比特币當作合法招牌; 中國等, 完全禁止了加密幣交易。

板塊鏈的管制困境很明顯:手太重可以推动海外的創新,而手太輕可以造成舞弊、洗錢和系統風險。 监管沙盒[, 金融科技公司可以在監控下測試產品, 已在英國、新加坡和澳洲有效使用, 以建立理解,而不取消創新。

生物技术和基因編輯:CRISPR革命

2012年的基因編輯技術CRISPR-Cas9開發了精确、可承受的DNA改型。世界各地的管制系統都做出了不同的反应。在美國,FDA把基因改型作物當做"植物",而人類的基因疗法則要接受严格的临床試驗要求。歐洲法院在2018年裁定,基因改型所獲得的生物要遵守同基因改型生物(GMOs)一樣的嚴格規定,而這個決定被批評是扼殺農業創新。 与此同时,中國也采取了更寬大的做法,包括對引起全球反常的人類胚胎進行有爭議的實驗。

生物技术管理所要面對的挑战是应用的極大廣泛:從治療傳統疾病到建立抗旱作物到合成生物。 一個一刀切的方法是不充分的。 需要的是 的層層管制制度[,它基于使用(治療、农业、環境、消遣)和自然流程的偏离程度,适用不同的監督水平。

利益攸关方与协作

有效的管理不能由以上來強制,它需要多方利益相关者的积极参与,而各方都帶來不同的看法和刺激。

政府机构

政府制定了法律框架、實施規則并代表了公共利益。 政府必須平衡業務、公民和國際伙伴的競爭需求。 美國的公平贸易委员会或英國的ICO等机构成了實際的科技管理者,常常利用现有的消费者保护法來解決新事物。 然而,與所监管的公司相比,他們常常缺乏資源,而他們的員工可能缺乏技術專業來評估複雜的系統。

工業領袖

科技公司最深刻地了解自己的產品,最有能力實施改革。許多公司都接受了 负责任的革新 框架,公布道德准则和建立內部審查委員會。然而,自律有局限性:公司刺激措施往往把速度和利润放在安全和公正的优先位置。最有效的業務贡献是通过[co-regation ——公司在其中帮助制定那些被赋予法律效力的标准,如全球網路倡 , 或 AI上的合作伙伴关系。

學者和研究员

大學和研究机构提供獨立專業和長期思考。他們可以預測到工業忽略和评价管理對現實世界的影響的風險。 然而,學術的洞察力常常需要多年才能發表,而這會落后於工業變遷的速度。 更快的机制,如快速反應研究網絡或政策研究金,可以幫助弥合這個差距。

民间社会和公众

公民團體、民間社團、民間社團、民間社團、民間社團都對權利、公平與公義帶來重要觀點。 它們可以讓公司和政府都負責, 也常常代表政策辯論中最不聽從的聲音。 公民陪審團[、 、 民意調查[[]、以及開放的評論期, 都能夠提高管理决策的合法性。 問題在于确保參與是有意义的,而不是象征性的,而且公众能得到關於那些常常是複雜且不透明的科技的清晰、准确的信息。

建立更快速的管制制度的建议

任何改革都無法解決管理漏洞。 相反,需要的是结构性變更、程序革新和文化變更的结合。

包容和灵活管理

傳統的「指令與控制」規定太過僵化, 無法快速移動。 規定者應采用 適應性規定 框架, 其中包括內置的審查周期、日落条款、以及不經過全面立法程序而更新規定的能力。 英國的[ 規定地平線議會 是一個体制机制的典范, 旨在找出新兴的技術, 并在危机發生前提出相称的規定方法。

放大管理沙盒和實驗

管理沙盒讓公司在一個控制环境中試驗新產品, 並且減少遵守負擔。 英國金融行為管理局率先采取此法, 之後有數十個國家對無人機到自主車輛等一切事都采用了此法。 實驗性立法[ 只在有限时间内适用, 地理区域可以產生現實性數據, 以為終極久的規定提供資訊。 然而, 沙盒必須小心設計, 避免在沒有充分監督的情况下成為最有風險的創用品的安全避難地。

投資於管理能力與專業

政府需要吸引和保留技術人才。這意味著有竞争力的薪水、快速雇用權以及公务员通过在公司、實驗室或研究中心的安置而取得尖端科技的機會。 科技研究员程序 US Digital Service 18F,將有经验的工程師和設計師帶入政府,以做短期工程。 类似地,管理者們應該投資于[ 的法學分析工具,以對AI系統、屏障交易和IOT裝置进行审计,就像他們今天在法學計算工具上投資一樣。

推动国际协调和相互認同

互授——通过信任另一国的管制制度,消除了重复遵守的需要——可以减少分散。 国际标准化組織[ISO]和IEEE全球倡議等机构制定自愿标准,可被采用到管制中。在多边层面, G7、G20和OECD等论坛提出了提供共同基准的AI、數位贸易和數據治理的原則。虽然大多数科技、软法律工具、行为守则和共同基准都不可能有有约束力的全球协定,但可以建立事实上的协调一致。

道德和公眾审议

管制不只是一個技術,而是社會價值的反映。 設計道德學應被建在研究與發展的階段,而不是作為後腦子加入。 民主工具[,例如公民在AI或基因編輯上的集会,可以表達價值和取舍。 結果是更合法的管制,使公眾信任,降低後來反彈或不遵從的風險。

預期而不是反應

歐洲委員會的联合研究中心[ 定期為决策者出版關於新兴科技發展趋势的報告。相类似, 美國政府问责局[ 有一個 技術评估功能,用以评估新技术的影響。這些預測能力應得到加强并融入立法日程。

結 论

管理新兴科技不是不可能的,但這與管理既有产业是根本不同的。它需要谦卑地看待我們所不知道的事情,快速地适应我們所學到的事物,跨学科和跨國合作。 關鍵不可能更高:今天我們所發展的科技將塑造世界世代。 這個世界是共享的繁荣和安全,還是不平等和可预防的危害,都在很大程度上取决于我們能否建立像管理技术一樣的创新管理体系。 目標不是要阻止進步,而是要小心翼翼地、包容地引导它,并清楚理解未來不是我們所發生的事情,而是我們共同創造的事情。