美國國家人工智慧協會共同創辦人暨執行長Caleb Max表示,關於恐怖組織打造「AI自主軍」的想像存在重大誤解,目前並沒有 rogue agents 自行組軍攻擊美國的證據。真正的風險在於,惡意行為者利用大型語言模型生成情報、擬定計畫並提升既有攻擊能力。
美國國會聽證會中,眾議員Morgan Luttrell曾向國家情報總監詢問,能否程式化建立「由AI生成的恐怖軍隊」。Max則主張採取跨政府、科技企業、網路安全單位與國會的分工協作,而政府責任局測試多家AI平台的結果也證實,模型確實可能輸出可供惡意行為者利用的內容。
航空業近期發生全國性地面停飛事件後,Max指出航空基礎設施的資料傳輸能力仍受老舊銅纜限制。AI帶來的安全風險尚未進入自主攻擊階段,但基礎設施承載力不足,已成為更直接且可驗證的系統性弱點。
這場辯論的核心並非「AI是否已經能獨立發動恐怖攻擊」,而是誰能率先將通用AI轉化為低成本、可複製且難以追查的攻擊能力。Max同時提出兩項相互牽制的判斷:美國大型科技公司的產品已加入部分安全防護,但部分中國開放權重模型可下載並在本機執行,未必內建相同防護,也不一定連上網路,因此執法機關較難掌握使用紀錄。能力擴散與可監測性之間的落差,才是下一階段國安風險的真正結構。
這並非單純的技術安全爭議,也涉及監管、產業競爭與國家安全之間的利益角力。美國若因風險過度收緊AI部署,可能壓抑國內投資與創新,卻不會讓競爭對手停止研發;反之,若只追求快速上市,開放權重模型的邊界責任及部署責任便會變得模糊。Max因此主張以分層治理取代單一禁令,並強調「以更多AI防範惡用AI」的必要性。
另一個矛盾存在於數位安全與實體安全之間。AI確實能協助航空管制、網路防禦及大量資料分析,但前提是資料中心、交換器、銅纜、電力與軟體都能承受更高負載。近期航空中斷顯示,現代AI應用與老舊關鍵基礎設施之間出現技術債落差;這比科幻式的自主恐怖軍更可能成為近期瓶頸。
值得注意的是,Max是產業協會代表,其「現行威脅並非自主AI軍」的判斷雖然有助澄清風險量級,卻也可能淡化未來快速演進、代理式系統與基礎設施攻擊的-combined danger。合理結論不應是放鬆戒心,而是把預算由單純禁止AI,轉向模型防護、部署監測、關鍵設施韌性及跨部門情報協作。
經驗顯示,重大安全威脅通常不是由完全自主的系統一步驟跨越,而是由技術進步、組織採用、監管落差與基礎設施脆弱性逐步累積。從間諜軟體、殭屍網路到生成式AI的擴散,皆顯示攻擊者會先採用成本最低且最容易擴張的既有工具,再尋求更高程度的自動化。因此,未來最可能出現的不是完整的「AI恐怖軍」,而是AI被嵌入既有攻擊鏈。
整體而言,未來的勝負不取決於誰擁有最聰明的單一模型,而在於誰能建立「模型安全、部署治理、基礎設施韌性與情報回應」四位一體的完整防線。
01 起因觸發:國會聽證會聚焦AI生成恐怖軍的可能,引發自主代理與工具濫用的風險辨識
02 一階傳導:科技企業強化模型防護,監管機關開始測試越獄、資訊危害與權限控管
03 二階擴散:開放權重模型、雲端服務與本機部署形成多層供應鏈,擴大跨國歸因難度
04 實體傳導:航空停飛凸顯資料流量、銅纜、電力及舊式系統成為AI規模化的瓶頸
05 市場重估:資本從追逐模型規模,轉向資安、監控、資料中心與關鍵基礎設施韌性
06 宏觀終局:AI競爭由能力競賽轉向安全責任、部署透明度與國家安全能力的系統競賽
領域延伸情報推薦 相關延伸研讀
依主題領域自動關聯之高參考價值外電情報