澳洲獨立媒體 Crikey 發表一篇評論性文章，直接點名 Anthropic 與 OpenAI 內部的「末日論者」（doomer）陣營，指控這些主張 AI 將導致人類滅亡的激進派人士，已透過系統性遊說策略「俘虜」（capture）各國政府監管機構，進而形塑有利於少數大型 AI 實驗室的不對稱監管框架。
文章標題以「邪教」（cultist）形容這群內部人士，並質疑其所推動的「AI 存在性風險」（existential risk, X-risk）論述，背後實質上是為了鞏固先驅者的市場壟斷地位。真正的危機在於，當監管規則由被監管者所影響的「安全敘事」所主導時，新進參與者與開源社群的創新空間將遭到系統性壓縮。
雖然原文章本篇幅極短、未提供具體數據或受影響國家清單，但其核心論點觸及當前全球 AI 治理最敏感的結構性矛盾：究竟是誰在替「安全」定義話語權？以及這套話語如何回頭綁定監管機構的政策選擇？
這場衝突的本質，並非單純的技術安全辯論，而是一場「敘事權與監管權的雙重爭奪戰」。要理解其深層結構，必須從 AI 安全的歷史脈絡與產業演進來拆解。
2014 年至 2023 年間，AI 安全領域逐漸從學術邊陲走向主流議程。早期，有效利他主義（Effective Altruism, EA）運動與其分支「有效加速主義」（e/acc）之間，就已埋下路線矛盾的種子。OpenAI 早期成立的宗旨是「確保通用人工智慧（AGI）造福全人類」，然而當其轉型為營利實體、並接受微軟鉅額投資後，內部路線分歧加劇。Anthropic 由前 OpenAI 核心成員創立，自詡為「安全優先」的實驗室，獲得 Google 與亞馬遜的策略性投資，形成了與 OpenAI 雙寡頭競爭、卻在「安全敘事」上互相加持的特殊結構。
從背景脈絡來看，「末日論」並非憑空而生：其學術根源可追溯至牛津大學人類未來研究所（Future of Humanity Institute, 2017 年被主要贊助者撤回經費後式微）與哲學家尼克·博斯特羅姆（Nick Bostrom）的「回紋針思想實驗」。然而，當這些學院理論被吸收到商業策略之中，便產生嚴重的目標偏移：
真正的矛盾核心是：AI 安全究竟是公共財，還是另一種型態的產業進入壁壘？ 這是當前各國立法者在推動 AI 法案時，最需要釐清的結構性問題。
若將當前 AI 監管走向與歷史上的關鍵監管爭議進行比對，例如 1990 年代網路金融監管、2010 年代社群媒體免責條款（Section 230）辯論、2018 年 GDPR 落地歷程，可以歸納出三條可能的演化路徑：
面對 AI 監管架構可能加速形成的「敘事俘虜」風險，各利害關係人應採以下具體行動：
01 起因觸發：Anthropic 與 OpenAI 內部「末日論」陣營透過智庫、學術與政策論壇，系統性推廣「存在性風險」論述
02 一階傳導：美、英、歐主要監管機構開始將「存在性風險」納入 AI 法案草案的風險分級依據
03 二階擴散：開源社群、新創企業與學術機構面臨合規門檻墊高，技術發布週期被迫延長
04 三階深化：全球 AI 供應鏈出現「安全認證」壁壘，企業採購與政府標案偏好具備安全背書的供應商
05 宏觀終局：AI 創新集中度攀升，地緣科技權力向少數掌握安全話語權的實驗室傾斜，形成新一代數位基礎設施的結構性壟斷
因果網路圖譜 3 節點
可拖曳節點 · 點兩下開啟文章