英國首相Andy Burnham的內閣辦公室於週五正式否決了由自由民主黨上議員Lord Clement-Jones在《網路安全與韌性法案》(Cyber Security and Resilience Bill)修正案中所提議的「AI緊急斷電開關」(kill switch)機制。內閣發言人明確聲明:「英國無法簡單地關閉AI,阻擋國記憶體取模型也無法阻止AI在他地被開發或濫用」,凸顯官方認定單一國家的強制斷電手段在技術與地緣現實上均不可行。
此決策的背景導火線,是Anthropic公司「對齊科學」(Alignment Science)負責人Evan Hubinger於九月初在社群平台X上的驚人發言。他直言「我真的相信AI可能在十年內殺死全人類,機率超過10%」,並警告目前人類「尚未有明確計畫」來解決超級智慧(superintelligence)的對齊難題。隨後,Anthropic研究員Jacob Coxon宣布離職,痛批Anthropic與OpenAI之間的軍備競賽是「拿我們的命在賭博」,強調「這不是行銷噱頭」。
值得高度關注的是,《金融時報》揭露Anthropic的最新模型Claude Mythos 5.1拒絕提交給英國AI安全研究院(AISI)進行測試,僅提供給經過審核的美國機構。此舉引發英國國會對科技巨頭單方面決定安全審查標準的強烈不滿,首相Burnham已將AI安全大臣Kanishka Narayan升格進入核心內閣,以強化政府內部對AI威脅的戰略討論層級。
此事件的本質並非傳統的政商利益角力,而是人類文明面對「超級智慧失控」這個前所未有的存在性風險(Existential Risk)時,科學不確定性、技術發展競賽與國家主權監管能力三者之間的根本結構性矛盾。
第一層矛盾是「科學不確定性 vs 緊急立法衝動」。Clement-Jones上議員的「緊急斷電開關」提案,源自對AI實驗室內部警告的反射性政策回應。然而,從技術現實來看,現代前沿大型語言模型並非集中式的單一伺服器實體,而是透過API、雲端分佈與開源權重在全球無縫運作。英國單一國家的「斷電」舉措,在分散式架構下既無法物理中斷服務,也無法阻止模型權重在他國被重新部署,這是技術架構對法律主權的「典範轉移」式挑戰。
第二層矛盾是「商業機密 vs 國家安全審查」。Anthropic拒絕將Claude Mythos 5.1提交給英國AISI審查,揭示了當前AI監管的核心痛點:前沿模型正從「學術開源」轉向「國家級機密資產」。科技巨頭以商業敏感性與國家安全(美國國安考量)為由,正在系統性地收緊外部安全測試的權限,這使得英國作為「AI安全全球領導者」的定位面臨實質性掏空風險。
第三層矛盾則是「對齊科學(Alignment)的真實絕望」。Anthropic作為全球最重視AI安全的公司之一,其內部頂尖研究員接連發出「我們尚未有計畫」的絕望訊號,這並非商業競爭話術,而是對齊研究社群對「自我改進型超智慧」發展速度的集體焦慮。當最懂技術的工程師都承認「沒有計畫」時,外部立法者的「斷電開關」提議,在科學本質上便顯得過於淺薄,反映出監管工具的演進速度,正遠遠落後於前沿模型的自我演化速度。
戰略貿易流向與供應鏈依賴度
HS 8542資料來源:UN Comtrade 聯合國商品貿易統計庫 · 全球市場規模 $5,800 億美元 / 年
對比1980年代車諾比核災如何催生《核能安全公約》,以及2010年代Deepwater Horizon漏油事件如何重塑離岸油氣監管,每一次重大技術災難都是人類被迫建立「超國家級安全防線」的催化劑。然而,當前AI產業的演進速度與地緣分佈,使得這類國際協議的形成面臨前所未有的瓶頸。基於此脈絡,未來三年最可能出現三種情境:
面對AI監管的結構性困局,企業、投資人與政策制定者應採取以下雙軌行動:
01 起因觸發:Anthropic對齊科學負責人Evan Hubinger公開示警「超智慧10年內滅絕人類機率>10%」
02 一階傳導:英國上議院提出《網路安全與韌性法案》「緊急斷電開關」修正案
03 二階擴散:英國內閣辦公室正式否決單一國家強制斷電權,揭示技術監管的結構性極限
04 宏觀終局:AI安全治理從「國家主權監管」典範轉移至「企業自律+國際分散式審查」的新常態,全球進入「與不可控系統共存」時代
跨事件因果網路圖譜 3 驗證節點
AI 驗證因果鏈條 · 可拖曳節點 · 點兩下開啟文章
Anthropic執行長示警:AI軍備競賽失控,三階段監管框架成全球解方?
Anthropic執行長Amodei的三階段監管框架倡議與本文Lord Clement-Jones「AI緊急斷電開關」修正案屬同一全球AI安全監管主線,兩者皆反映前沿AI企業內部對超智慧失控風險的警訊,以及單一國家強制監管手段在跨國軍備競賽現實下的可行性困局
AI 資料中心暴政:當科技巨獸碾壓社區正義與國家水資源
AI軍備競賽推升算力軍備需求,驅動全球資料中心以失控速度擴張並碾壓社區與水資源,形成本文所揭示的「單一國家無法關閉AI」地緣現實的硬體基礎
FITT Forward 2026:印度深科技十年路線圖的兩日定錨
印度深科技十年路線圖將AI基礎模型列為核心前沿,本文英國否決kill switch與Anthropic拒測事件同屬各國在AI主權與安全審查標準上的戰略競合延伸,反映民主陣營內部對AI治理路徑的分歧