美國的人工智能和科技道德的運作方式已經成為了國會聽證會的一個定義机制。 由于人工智能系統渗透到关键部门 — — 保健诊断、刑事司法算法、自主工具和金融决策 — — 強力監督和知情决策的必要性從來就沒有像現在這樣迫切。 這些聽證會是公共论坛,立法者、技術家、道德學家、業務領袖和民间社会可以在此審查新出现的風險、辩论道德保障和探索立法补救措施。 它們不只是程序上的規矩,而是法律、创新和民主问责制的动态交汇點。

國會科技監督的進展

國會對科技的監督并不是新鮮事物。從廣播和電視早期到網路和社交媒體的崛起,立法聽證會定期處理創新对社会的影响。 然而,目前的人工智能時代提出了独特的挑戰:人工智能系統不是靜態產品,而是适应性、不透明且常常不可预测。人工智能發展的速度 — — 由大型語言模型、基因化人工智能和自主系統的跳跃所展示 — — 已經超越了傳統的立法周期。 因此,聽證會成了國會追趕、教育自己和發表管理意向的必不可少的工具。

20世纪60年代的首個高知名度AI聽證會主要關注於自动化和工作易位的經濟影響。 到2010年代末和2020年代初,這項論辯擴大到包括了算法偏見、面部認證暂停以及監控科技的道德影響。 2023–2024年的一系列聽證會,尤其是涉及主要AI公司如OpenAI、Google和微软的CEO的聽證會,是一個轉折點。 這些會議吸引了前所未有的公众注意,突出了在AI能力超越管制界限之前建立道德框架的紧迫性。

AI聽證會的關鍵焦點

現代國會聽證會對AI與科技道德的討論, 一直围绕數個核心主題進行。

隱私與資料安全

AI系統是數據的貪婪的客戶。聽證會一再討論公司如何收集、储存和使用個人信息來訓練模型。目擊者常常會證實數據違法、數據的擅自二次使用以及消费者同意机制的不足。 立法者們調查私隱法(如健康保險可移植性和问责法(HIPAA)以及儿童在线隐私保护法(COPPA))在多大程度上适用于AI訓練管道。 美國缺乏全面的聯邦私隱私法,這仍然是一個反复的挫折,目擊者要求立法类似于歐盟一般數據保護法(GDPR),但又符合AI的独特要求。

偏执和公平

數理偏見是關鍵道德問題。 國會聽證會審判了AI系統在雇佣、放款及刑事判決中因种族、性别或社会经济地位而受歧視的案例。 例如,关于預測警力算法的聽證會揭示了歷史數據如何能使系統性歧視持續。 立法者們質疑證人關於審判偏見的方法、訓練數據的多元性以及有偏見結果的问责机制。 討論常常引發了對高风险AI系統的强制性審查和部署前公平性評估的建議。

透明度和可解性

許多AI系統,尤其是深层的神经網路,都以「黑盒」運作, 其內部的决策过程甚至對開發者來說都不透明。聽證會探索了解釋性需求, 特别是在AI的決定直接影響個人權利的情況下, 如信用評分或醫療診斷。 證人討論了可解釋模型的可行性與複雜模型的性能权衡。 立法者推動文件標準, 如模擬卡或數據表, 以提高透明度。 專業機密與公開責任的衝突是重複的。

问责制和赔偿责任

AI系統造成傷害時, 即自動駕車撞車、臉部認證錯誤造成非法逮捕、或算法性地否定福利, 誰負責呢? 國會聽證會處理這些情形所需的責任框架。 法律學家、保險業和技术公司的證人提出反差看法。 有些人主张對開發者嚴格的責任; 其他人提出關注标准; 其他人主张有限的责任盾以鼓勵革新。 “算法責任”的概念啟發了拟议的聯邦立法,包括數理學責任法,它要求自動決定系統的影響性評估。

安全和安保

專家證實了AI系統追求意想不到目的的「調整失敗」的風險。 立法者探索了是否有必要先發制人、獨立安全審查, 甚至延遲某些高风险發展。 討論常常會有參考框架, 如國家標準與技術研究所(NIST)AI风险管理框架, 以及國際倡议, 如關於AI安全的Bletchley宣言。

工作

自我化焦慮是AI聽證會的一項主題。 演化的演化不僅僅僅是預言要改變工作,需要重新技能方案,以及AI增加人力。聽證會研究了特定部门的影响 — — 制造业、客戶服务、法律研究、新聞工作 — 以及对现有社會安全網的充足性的辩论。 立法者們常常會邀請工会代表及勞工發展專家提供地表觀點。 普遍基本收入(UBI)偶尔會出現,但會成為长期的政策性反應,仍有爭議。

国家安全和地缘政治競爭

國安策略中, AI是關鍵元素。 參議院武裝委員會和國土安全委員會的聽證會討論AI的軍事用途, 從無人機群到情報分析。 立法者也考慮了與中國和其他国家的競爭動勢。 國防官员和情報界領袖的證詞强调在戰事中要保持科技優先, 管理道德界限。 關于致命自主武器系統的爭論仍為一個积极的前線, 人權運動者要求先行先驅禁止。

政策和监管框架的影响

國會聽證會不只是談話,而是直接告知立法程序。 重大聽證會後提出的法案常常包含證詞中所提出的關注和建议。 例如,2019年首次推出并在之後的會議中重新提出的算法问责法案,顯然是從聽到的關於偏見和透明度的證詞中衍生出來的。 白宮科技政策局发布的拟议的AI權法案也從民權保護的討論中吸取了相似的資料。

美國聯邦貿易委員會(FTC)在對假冒AI行為的審判後, 加大了對此的执法力度。 商務部在聽證了關于需要標準化測試的證詞後, 成立了AI安全研究所。 國會仍在討論全面AI立法, 听证会是临时措施和業務自律的強制功能。 數家科技大公司在高知名度的審判後宣布了AI安全與透明方面的自愿承諾, 表示立法的威脅甚至在法律通過前就能塑造公司行為。

反之,在法律上,法律的規矩也變得很不合理。 儘管有這些影響,批評者指出,聽證會可能導致沒有具体後續措施的實驗監督。 立法常常因在管理範圍、州法律的先行性或责任条款上存在党派分歧而延遲。 然而,反复聽證會對一個議題的累积效果卻創造了一個紀錄,未來的决策者可以使用它。

專家證詞和公開投資的作用

國會聽證會的成功取决于證人的质量與多元性。委員會通常會邀請各大科技公司、學術研究者、公民社会組織和政府機構的代表。道德學家和法律學家的出席,确保了道德與哲學的關注時間。近些年,人們鼓勵加入受AI害直接影響的人的聲音,例如受到偏見的治安或因自动化而流离失所的工人。這項轉移承認道德不只是理論性的,而是活下來的。

公眾參與的不只是證人證詞,聽證會是直播的,引起媒體的報導和公開的討論。宣傳團體利用聽證會向立法者施壓,动员其成員。聽證錄音和錄像的公开記錄成了研究者、記者和教育者們的資源。有些委員會試圖實驗虛擬的證詞和书面的公開評論,以擴大參與。

國會在討論時, 也常會用問題來發表政治觀點, 而不是收集資訊。 儘管有這些缺陷, 听证会仍是國會處理复杂科技問題最引人注目的方式之一。

耳聽过程的挑戰和批評

國會聽證會的技術複雜度通常會超越典型的立法者專業。 許多議員都大量依靠員工簡報和黨內立场, 导致表面的質疑。 第三, 听证会可以成為由舞台管理的事件, 由證人和立法者把談話點放在重心之上, 而不是真正的調查。 第四, 党派分化常流進聽證會, 使AI道德成為了一個楔形問題,而不是兩黨的關注。

另一挑戰是司法權的擴張。 AI触及了幾乎每個委員會:司法、商業、能源、軍事、健康、教育等等。 這種分散化可能導致訊息和监管漏洞不一致。 建立國會AI專門委員會的努力被提出但尚未實現。 此外,政府和工業之間的旋轉門也引出了關于监管抓捕的問題,因为聽證人常常會有利益冲突。

國際比對:學習其他治理模式

歐盟也推進了以風險為主的AI法, 以危害潛力為主的AI應用程式, 并规定了相应的責任。 證人常以歐盟方法為模範, 但也注意到法律文化與執行能力的不同。 英國的AI安全研究所和中國的算法建議系統管理框架提供了州領導與工業領導治理的對比例子。

國際協調的需要是重複的議題, 特别是可以跨國部署的邊界AI模型。

展望:有效治理的建议

歐洲人權研究所的發言人和學者都希望國會能有更好的選擇。 國會的聽證會方式必須進一步發展。 觀察者們已提出一些改进。 首先,委員會应通过無党派的辦公室、研究金或跨機構的細節,着力於技术專業,以強調質疑。 其次,聽證會的結構應讓潛水更深,或許可以多日的會議或小的工作组。 第三,國會應把受影响社群和一線的從事者,而不仅仅是高管和學者,标准化。 第四,聽證會應明确地涉及长期风险,以及直接的傷害,包括存在的安全考量。

政治方面,聽證會可能會為未來的AI全面法提供資訊。 可能的因素包括:強制性高效系統的风险评估、某些應用程式(如醫學AI)的市前批准、自主系統的責任規則、聯邦先行的AI法以及AI安全研究的持續資金。 國會聽證會將是這些想法的考驗和完善的關鍵所在。

總之, 人工智能和科技道德的未來將不僅由工程師和企業家,而且由國會聽證會代表的民主程序來塑造。 它們是公開的論壇,是公司權的檢查,也是對科技必須為人價值服務的提醒。 随着119國會的召集和新的AI突破的出現,聽證室仍然是我們算法未來的道德轮廓最重要的地方之一。

供进一步讀取的外部資源: