英國首相Andy Burnham於國會接受自由民主黨黨魁Ed Davey質詢時,正式承認人工智慧對國家安全構成「真實風險」,並同步宣布將AI安全大臣Kanishka Narayan升格入閣,試圖強化政府對前沿AI模型的監管力度。此一表態的時間點極為敏感,正值美國AI安全新創Anthropic內部爆發離職潮與公開警告之際。
事件的導火索來自Anthropic安全研究員Evan Hubinger於社群平台X上發出的驚人言論:他個人評估未來十年內,AI導致人類物種滅絕的機率高達10%以上。更令英國朝野震驚的是,他直言Anthropic「尚未找到解決超智慧對齊問題的明確方案」。與此同時,另一名研究員Jacob Coxon宣布辭職,痛批Anthropic與OpenAI正以「我們的生命作為籌碼」,進行自我改進型超智慧的競賽。
雪上加霜的是,《金融時報》揭露Anthropic已拒絕將其最新模型提交給英國AI安全研究所(AISI)進行事前測試。英國前內閣辦公廳大臣Darren Jones隨即致函首相、聯合國秘書長古特雷斯與OECD秘書長科爾曼,呼籲建立全新的「超智慧監管多邊條約」,強調各國政府必須立即介入這場失控的技術軍備競賽。
此事件的本質並非單純的政商利益角力,而是一場發生在「技術加速主義」與「人類存亡論」之間的典範級哲學與工程衝突,但其外溢效應已深深刻入地緣政治與產業競爭格局。
從背景脈絡觀察,這場危機並非憑空而降。AI對齊問題(Alignment Problem)自2010年代中期成為顯學以來,始終是頂尖實驗室無法跨越的技術鴻溝。Anthropic所倡導的「Constitutional AI」與「可擴展監督」機制,本是業界最嚴謹的安全防線之一,如今卻被自家研究員公開質疑「並未真正解決對齊問題」。
更深層的結構性矛盾在於:商業模式與安全使命的內在張力。Anthropic估值在2025年攀升至數千億美元區間,OpenAI更已進入IPO前夕,資本市場對「通用人工智慧(AGI)」的估值溢價,正與安全研究所需的「煞車機制」產生根本衝突。Coxon所控訴的「以生命為賭注」,本質上正是商業化壓力侵蝕安全邊界的具體展現。
此外,這也是一場跨大西洋的監管主權之爭。英國AISI曾於2024年與Anthropic簽署備忘錄,取得前沿模型的優先測試權,如今卻被單方面「技術性規避」,顯示美國AI巨頭已開始將外國監管視為商業摩擦而非安全夥伴。Burnham將AI安全大臣升格入閣,正是英國試圖在失去測試主導權後,透過內閣級別的政治位階重新奪回話語權。
戰略貿易流向與供應鏈依賴度
HS 8507資料來源:UN Comtrade 聯合國商品貿易統計庫 · 全球市場規模 $1,300 億美元 / 年 (複合成長率 >24%)
這場危機的歷史座標,可比擬為1940年代的曼哈頓計畫前夕——當時愛因斯坦等人亦曾致函羅斯福警告核武風險,但最終仍走向軍備競賽。今日的AI超智慧之爭,正上演著相似的劇碼。
01 起因觸發:Anthropic內部研究員公開辭職並警告AI物種滅絕風險
02 一階傳導:英國國會質詢逼宮,AI安全大臣升格入閣
03 二階擴散:英國AISI遭拒測試,跨大西洋AI監管信任崩塌
04 三階擴散:全球輿論轉向,多邊條約呼聲高漲
05 宏觀終局:AI產業估值模型改寫,地緣科技冷戰格局成形
跨事件因果網路圖譜 7 驗證節點
AI 驗證因果鏈條 · 可拖曳節點 · 點兩下開啟文章
超級智慧倒數計時?專家示警:AI十年內滅絕人類機率逾10%
Anthropic研究員公開示警AI滅絕風險並揭露對齊問題未解,促使英國政府正視國安風險、強化監管並推動超智慧多邊條約。
Anthropic執行長示警:AI軍備競賽失控,三階段監管框架成全球解方?
同一AI軍備競賽主線的雙軌演進:目標文章聚焦英國政府對Anthropic拒絕送測與內部滅絕警告的國安回應,文章#11867則為Anthropic執行長Amodei同步提出的三階段監管框架倡議,兩者共同構成「企業內部示警+國家安全介入+國際條約呼籲」的監管壓力三螺旋。
明尼蘇達學區導入ChatGPT Edu:OpenAI垂直深耕K-12教育市場
Anthropic離職員工警告AI失控風險,加上英國承認AI國安威脅並升格監管大臣,形成全球對生成式AI的治理壓力,明尼蘇達學區據此排除學生、僅限教職員存取並自建PAUSE IT七大審核框架,正是學區端對AI安全爭議的具體治理回應,凸顯監管壓力已從國家層級滲透至K-12校園。
AI 資料中心暴政:當科技巨獸碾壓社區正義與國家水資源
AI基礎設施暴政成為AI安全監管的物證基礎:美國資料中心因擴張導致社區健康損害與水資源浩劫,反向驗證Anthropic研究員對AI失控的警告並提供各國推動AI安全立法與多邊條約的社會正當性與急迫性論據。