美國政府問責局(GAO)依新罕布什爾州州長瑪吉・哈森要求進行調查,測試四大生成式AI平台是否能依提問產出完整的恐怖攻擊計畫。報導稱,受測平台包括ChatGPT等服務,四家平台皆在不到12小時內提出相當完整的行動方案。
這項結果引發民主黨議員要求將AI安全列為國會優先議題。參議員安吉拉・金稱,其長期支持為AI平台設置防護規範,並正與同僚研擬政策方案;眾議員蘇珊・平格里則形容調查結果「令人深感不安,卻完全不意外」。
若哈森所屬民主黨於明年1月重掌參議院,她將出任參議院國土安全暨政府事務委員會主席。事件的核心並非AI主動策劃攻擊,而是平台面對高風險要求時,缺乏足夠可靠的拒答、升級通報與測試機制。
這項調查真正揭示的,是生成式AI能力快速跨越安全門檻,與平台治理、立法監督及責任歸屬之間的速度落差。生成式模型可整合公開資訊、規劃多階段步驟並以流暢語言輸出;一旦產品改採工具串接、即時搜尋或代理式架構,單次提示詞便可能轉化為可執行的攻擊規劃文件。
各方並非只有抽象的「安全對創新」之爭。新罕布什爾州州長以公共安全名義要求GAO介入,民主黨議員借此推動國會取得平台問責與資料調閱權力;平台業者則面臨兩難:若完全限制敏感內容,可能削弱企業級研究、資安防禦與公共安全用途;若放寬限制,又可能承擔傷害、消費者保護及國安責任。
最大受益者可能是具備完整安全測試、事件通報與企業合規能力的平台;承受最大成本者,則是缺乏資源的小型模型業者,以及依賴AI整合流程的企業客戶。
這次結果可與早期社群平台散播激進內容、AI輔助網路攻擊及深度偽造風險相比;過往主要依賴事後下架,如今焦點已轉向生成內容能否在形成階段被即時攔截。未來政策競爭的核心,將是誰能證明其產品可在高風險用途下維持可控。
整體而言,未來不會是單純禁止敏感問題,而是要求平台回答四個問題:誰能接觸高風險能力、哪些行為被阻擋、誰負責通報,以及事故發生後能否重建責任鏈。
01 起因觸發:GAO測試四大AI平台能否依提問生成完整恐怖攻擊方案
02 一階傳導:平台遭紅隊測試、問責披露與高風險提示過濾要求
03 二階擴散:AI資安、模型驗證、稽核及事故通報市場加速成長
04 宏觀終局:生成式AI監管由內容下架轉向能力分級與全鏈路問責
領域延伸情報推薦 相關延伸研讀
依主題領域自動關聯之高參考價值外電情報