加州康特拉科斯塔縣（Contra Costa County）正積極推動將生成式人工智慧（Generative AI）導入刑事司法程序，協助撰寫該縣行之有年的「罪犯風險評估報告」（Pre-Sentence Investigation Report, PSIR）。這份厚達數十頁的PSIR文件，由緩刑官耗費大量時間訪談嫌犯、調閱前科、彙整量刑因子後撰寫，是法官決定被告是否入監、緩刑或接受社區矯治的關鍵依據。
由於加州法律強制規定重罪被告須有完整PSIR才能進入量刑程序，緩刑部門長期處於案件積壓的壓力中。縣方官員指出，AI工具並非取代人類決策，而是協助將訪談逐字稿、前科紀錄與量刑指引草擬為初版文件，再由緩刑官進行覆核與修改。
這項實驗計畫不僅是全美公部門導入生成式AI的指標性案例，更觸及司法演算法化最深層的辯論：當決定一個人是否失去自由的文字，由AI撰寫，公平性與問責機制該如何重新定義？ 該縣預計於今年內啟動試點，後續成效將成為其他郡縣與州政府是否跟進的重要風向球。
此事件本質上並非傳統的政商利益角力，而是涉及科技治理、公共信任與人權保障的深層結構性辯論，因此適合從歷史演進、倫理風險與制度調適的脈絡切入。
早在2010年代，「COMPAS」風險評估系統就曾引發爭議。ProPublica研究指出該演算法對非裔被告的「再犯率預測」存在系統性偏差，導致全美對司法AI的信任度重挫。時至今日，生成式AI雖技術更強，卻帶來新型態風險：大型語言模型（LLM）有「幻覺」（Hallucination）問題，可能在毫無根據的情況下編造前科紀錄或量刑情節；若緩刑官未嚴格覆核，被告可能因AI錯誤內容而面臨不當量刑。
結構性挑戰可從三個層面檢視：
這場實驗的核心矛盾，在於「效率紅利」與「權利保障」之間的取捨——AI可緩解積案壓力，但若缺乏透明監督機制，反而可能讓科技成為另一種隱性歧視的載體。
比對歷史軌跡，美國公部門導入AI曾經歷多次重大試錯。2010年代COMPAS爭議曾讓許多州急踩煞車，但近年生成式AI浪潮又將其推回議程。加州康特拉科斯塔縣的試點，極可能成為全美司法AI的「壓力測試場」。
無論哪種情境發生，此案都已成為觀測「AI能否進入國家強制權力核心」的關鍵指標。
最高優先級戰略建議：所有利害關係人均應在2025年底前完成「司法AI風險盤點」，因這場實驗的結果將決定未來十年美國乃至全球AI治理的基本格局。
01 起因觸發：加州康特拉科斯塔縣緩刑部門積案壓力，催生AI協作試點
02 一階傳導：全美縣市級緩刑機構重新評估AI導入可行性
03 二階擴散：LegalTech產業鏈上游（LLM供應商、審計工具商）迎來新商機
03 二階擴散：民權團體與法律扶助組織動員，要求建立AI監督與知情同意機制
04 宏觀終局：全美乃至全球將以本案為判例，制定司法AI治理的倫理紅線與合規框架
因果網路圖譜 3 節點
可拖曳節點 · 點兩下開啟文章