年僅27歲、曾先後任職於OpenAI與Anthropic的AI預訓練研究人員Jacob Coxon,於本週二晚間發布的離職聲明在不到24小時內突破1億次瀏覽。他在貼文中直言,「兩家公司都不負責任,正全速奔向自我改良的超智慧(superintelligence),並拿我們的性命作為賭注。」
Coxon進一步指出,業界內部對於AI可能在2030年前終結人類文明的恐懼並非公關話術,許多高階主管與資深研究員私下皆流露出深切憂慮,只是對外修辭趨於保守。他的前同事、現任Anthropic對齊科學負責人Evan Hubinger隨即回應表示認同,並且個人評估未來十年內AI導致人類滅絕的機率高於10%,坦言業界至今尚未找到對齊(alignment)的明確解方。
對此,Anthropic聲明強調始終坦承AI將帶來巨大效益與前所未有的風險;OpenAI全球事務主管Chris LeHane則於隔日發布部落格,呼籲同業應建立共享安全標準。前Anthropic研究員Rafi Ayub則提出逆向觀點,認為業界刻意炒作「人類滅絕」敘事以膨脹AI的重要性,卻完全忽略對人類社群、批判性思考等「中間地帶」的實質危害。截至週四,已有數十位政治人物呼籲加強AI監管;然而,美國總統川普卻以「我們會有個小齒輪來擋住它」輕描淡寫回應,前白宮AI資深政策顧問Dean Ball亦公開承認在任內因社會壓力而對AI安全隱憂進行自我審查。
這場風暴的本質,並非單純的技術路線之爭,而是「科技巨頭內部良知派」與「商業化加速派」之間攤在陽光下的意識形態決裂。值得深入剖析的是,事件中牽涉的並非傳統意義上的政商利益角力,而是一場關於人類文明存續的典範轉移之辯。
從技術演進脈絡來看,AI安全議題長期被主流學界與產業界刻意邊緣化。Coxon與Hubinger所屬的「對齊研究」社群,主張超智慧系統在自主迭代後將脫離人類控制,因此必須在可逆窗口期內解決「對齊」問題。然而,這派聲音多年來被視為「末日論者(doomer)」,前白宮顧問Dean Ball的告白便揭示了這種「論述緊身衣(discursive straitjacket)」——安全倡議者在內部遭到系統性消音,這正是當前AI研發的文化結構性病灶。
從更深層的結構性誘發成因來看,Rafi Ayub的批判提供了另一個關鍵視角:「人類滅絕」敘事本身已成為科技巨頭鞏固權力的修辭工具。當企業將資源集中投注於遙遠的AGI終點站,諸如人類連結、認知退化、社會信任瓦解等迫在眉睫的中間地帶危害,便被刻意遮蔽。這種「以終極風險綁架公共討論」的策略,使大眾注意力從當下的實質危害轉移至科幻式的末世想像,反而成為科技公司規避現實監管的最佳煙幕彈。
而政治層面的斷裂更為危險。川普政府以「絕對樂觀」姿態拒絕正視風險,其《AI行動方案》以加速創新為核心,與歐盟《AI法案》的預防性原則形成根本對比。Bernie Sanders參議員與數十位國會議員的緊急呼籲,反映出美國行政與立法部門在AI治理上的嚴重認知斷層。這場衝突的核心矛盾,在於人類社會是否正以「線性進步」的樂觀敘事,掩飾「指數型風險」帶來的不可逆災難。
戰略貿易流向與供應鏈依賴度
HS 8542資料來源:UN Comtrade 聯合國商品貿易統計庫 · 全球市場規模 $5,800 億美元 / 年
這場AI安全論戰並非科技史上的孤例,其結構與20世紀核能發展、1970年代重組DNA(recombinant DNA)暫停實驗、以及社群媒體崛起前的隱私辯論驚人相似。當年Asilomar會議在科學家自主克制下延緩了基因工程濫用,而今AI產業正站在類似歷史分岔點上。基於歷史規律與當前變數,我們可預演三種未來情境:
面對這場結構性的典範轉移,無論是科技從業者、投資人或政策制定者,皆須從「線性思維」轉向「風險對沖思維」,具體行動建議如下:
跨事件因果網路圖譜 3 驗證節點
AI 驗證因果鏈條 · 可拖曳節點 · 點兩下開啟文章
AI 脫韁:當生成式影像成數位利刃,誰來守護你的最後一寸隱私?
OpenAI與Anthropic競逐超智慧所引發的AI失控存亡風險,正是生成式影像技術被武器化、衍生兒童性剝削與隱私崩壞危機的產業根源;頂尖研究員的內部示警凸顯AI Guardrails的全面失靈
AI席捲大企業職缺 印度IT教父籲:就業重任轉向千萬小新創
超智慧競速所預示的AI典範轉移,正是Nilekani主張就業引擎須由大企業轉向千萬小新創的結構性驅動力,兩者共同描繪AI紅利與就業紅利的全球性張力
當資安防護變成阻力:員工「繞道而行」正在瓦解企業零信任防線
AI巨頭以人類存亡為賭注的失控推進,使企業內部生成式AI工具部署失序,進而引爆員工為規避繁瑣存取管控而產生的「工作繞道」資安漏洞,形成AI治理失靈的具體微觀後果