人工智慧（AI）的「存在性風險」（Existential Risk）議題，已從邊緣科幻論述急速躍升為全球科技與政策圈的核心辯題。所謂存在性風險，意指 AI 系統的失控或誤用，可能導致人類文明遭遇不可逆轉的災難性後果，甚至物種滅絕的極端情境。這項警告並非空穴來風——2023 年底，OpenAI 與 Google DeepMind 的高階主管接連發出公開警示，認為當前大型語言模型（LLM）的突現能力（Emergent Capabilities）已超出人類可預測範圍。
英國 AI 安全峰會（AI Safety Summit）於 2023 年 11 月在布莱切利園召開，28 國共同簽署《布莱切利宣言》，成為全球首份承認「前沿 AI 風險」的官方多邊文件。美國拜登政府隨即於 2023 年 10 月發布《AI 行政命令》，要求開發商對運算能力超過特定閾值的模型進行強制安全測試。此一連串動作，標誌著 AI 監管已從「軟性指引」正式跨入「硬性法規」階段。
此事件本質為人類面對新興顛覆性技術時的典範轉移級別認知衝突，牽涉科學哲學、技術治理與資本權力的多層次角力。
第一層：科學派 vs. 末日論者的路線之爭。 一派是以「有效利他主義」（Effective Altruism, EA）為核心的減災主義者（如 OpenAI 前董事會成員與 DeepMind 創辦人），主張超級智慧（AGI/ASI）可能在數十年內降臨，人類必須以「對齊研究」（Alignment Research）為最高優先。另一派則是產業加速主義者（e/acc），認為 AI 風險被過度放大，恐將扼殺創新。
第二層：監管路徑的典範分歧。 歐盟採取《AI 法案》的「風險分級」事前審查機制，美國傾向「彈性指引 + 行政命令」的市場自律模式，中國則將其與社會信用、內容審查結合形成國家級 AI 安全框架。三方監理哲學截然不同，埋下未來全球 AI 治理碎片化的種子。
第三層：科技巨擘的內部權力裂解。 2023 年 11 月 OpenAI 爆發董事會逼宮 CEO 事件，正是「商業化派」與「安全派」路線之爭的白熱化縮影。核心矛盾在於：誰有資格定義「安全」？誰有權力按下暫停鍵？
此議題並非單純陰謀論，而是人類首次面對「自主決策機器」時的集體存在焦慮投射，其深層結構源自技術奇點理論、控制論（Cybernetics）與生物安全（Biosecurity）等數十年思想脈絡。
對照歷史，AI 存在性風險的辯論與1980 年代重組 DNA 技術的「阿西洛馬會議」（Asilomar Conference）驚人相似——當時科學家自主暫停實驗直至建立安全指引。當前 AI 治理可謂站在「阿西洛馬時刻」的延長線上，但面臨的全球化與商業化壓力遠甚以往。
無論哪種情境，「誰能駕馭 AI」將重新定義 21 世紀的國家權力與企業壟斷邊界。
01 起因觸發：LLM 突現能力突破臨界，AI 實驗室高階主管公開聯署警告
02 一階傳導：英國布莱切利峰會與美國 AI 行政命令相繼出爐
03 二階擴散：OpenAI 董事會政變、Anthropic 估值溢價、AI 安全新創募資熱
04 宏觀終局：全球 AI 治理碎片化形成美歐中三大監理板塊，重塑 21 世紀地緣科技權力版圖
因果網路圖譜 1 節點
可拖曳節點 · 點兩下開啟文章