AI殺鏈壓縮至分秒：當按下「核准鍵」的士兵，已來不及驗證目標

本事件本質並非單純的技術應用辯論，而是「技術演進速度」與「法律、倫理、問責制度」之間出現結構性斷裂所引發的深層治理危機。下文將從歷史脈絡、技術邏輯與制度失靈三個維度展開解析。

一、從「自主武器」到「壓縮殺鏈」：辯論典範的根本轉移

過去十年的國際軍控辯論，多聚焦於「致命自主武器系統」（LAWS）是否能自行選定並交戰目標。然而本次聽證揭示了一個更為深層的轉折：真正的風險已不在於機器扣下板機，而在於人類在決策鏈中被降格為「形式上的核准者」。前軍官與軍事倫理學者 Joseph Chapa 強調，辯論不應僅停留在系統自主程度，更須追問 AI 是否依賴統計推論、在特定作戰環境失效時會發生什麼、其決策能否事後稽核。這顯示學界與政策圈已認知到，以「人類在迴路中」（Human-in-the-Loop）作為安全屏障的傳統假設，正因 AI 推論速度與複雜度而被根本性動搖。

二、Maven 系統與統計式 AI 的「不可逆透明度危機」

美國陸軍現役的 Maven 智慧系統（Maven Smart System）正是此一衝突的縮影。Chapa 警告，統計式 AI 系統與傳統軟體不同，輸入資料的微小變化即可導致產出結果出現實質性差異，且高度複雜的模型使其決策路徑在事後幾乎無法重現。這對於依賴「事後重建打擊合理性」的軍事司法與戰爭法體系構成毀滅性挑戰——當 AI 將決策從數小時壓縮至數分鐘，人類操作者既無時間挑戰系統建議，亦無能力在事後驗證建議生成的邏輯鏈條。

三、平民保護制度的結構性崩壞：問責真空的制度成因

本次聽證最令人不安的揭露，在於五角大廈 2022 年設立的「平民保護卓越中心」已陷入嚴重的制度失靈。督察長報告顯示，該中心發生人員流失或調職、關鍵平民傷亡資料管理平台資金中斷、資深督導委員會停止運作。這並非孤立事件，而是反映出在 AI 加速軍用化的同時，配套的問責機制卻正面臨資源與組織層面的雙重萎縮。當前《國防授權法案》第 1057 條雖要求五角大廈提交年度平民傷亡報告，但該規定並未明確要求揭露 AI 是否涉入特定事件，Klasing 因此建議修法強制揭露 AI 角色。

四、歷史鏡鑑與技術哲學的反思：2004 年伊拉克的慶祝槍響

聽證會開場引用的伊拉克案例極具深意：2004 年基爾庫克（Kirkuk）的人口普查巡邏中，士官長 Nick Ellison 面對車內兩名持機槍男子，在眼神交會中觀察到恐懼神情，果斷下令停火——事後證實那只是新郎兄弟的慶祝鳴槍。Mysyshyn 指出，AI 系統的測試必須涵蓋偏見、可靠度、平民保護、真實時間壓力下操作者能否中斷系統，以及決策能否在全生命週期中被追溯。此一案例與米納布小學慘案形成強烈對比——前者證明了人類直覺與時間換取來的「有意義判斷」如何拯救生命，後者則展示了當時間被 AI 壓縮殆盡、人類僅剩形式核准時的災難性後果。

五、衝突的最終本質：人類定義的框架決定機器的邊界

Mysyshyn 與 Carnegie Endowment 資深研究員 Steve Feldstein 同時指出，若人類在建構 AI 系統前即設定了「特定人口特徵即為合法目標」的預設前提，AI 不會糾正這項根本性偏誤。換言之，AI 並非價值的來源，而是將人類既有偏見以工業化速度執行的放大器。這場聽證的深層矛盾，本質上是「技術決定論」與「人類能動性」在現代戰場上的終極對撞。