歐洲人權法院登記處表示,法院已禁止一名羅馬尼亞律師於未來兩年代表或協助當事人出庭。法院院長於11月13日批准處分,此前一個分庭認定該律師提交的文件引用不存在的案件、真實判決中的虛構段落,以及與其論點無關或相互矛盾的判例。
律師承認使用AI工具草擬書狀,卻將問題描述為「不準確」及「引用錯誤」。分庭指出,案件呈現大量反覆發生的實質錯誤,部分引用完全未經查核,認定其未盡到專業與倫理義務,並因法院須花費大量時間驗證內容及處理排除程序而損害司法行政。禁止執業兩年顯示,生成式AI造成的虛構判例已從個人技術失誤升級為可制裁的職業責任。
這起事件表面上是一名律師誤用AI工具,核心矛盾卻是生成式AI被引入高風險專業工作後,誰必須承擔「看似可信、實則不存在」的內容風險。這不是一般排版或文法錯誤,而是虛構案號、虛構段落及與訴訟主張相衝突的判例;法院因此認定錯誤具有「大量、反覆、實質」的性質。
技術層面,生成式AI的語言生成能力遠強於事實檢索與司法引用驗證能力。模型能依上下文產生格式正確、論述流暢的判例外觀,卻不會自然建立可追溯至HUDOC資料庫的法律根據;當使用者將其輸出直接送進法院,便把機率式生成誤當成具有法律效力的權威事實。AI降低書狀草擬成本的速度,遠快於司法體系建立核驗機制的速度。
利益與制度角力主要體現在法院、律師、當事人與AI供應商之間。法院承擔額外查證成本,也面臨程序效率與司法公信力的壓力;律師享有效率收益,卻無法以「機器生成」卸除簽名責任;AI工具提供者則可能因產品被用於專業場域而承受更高的揭露、可靠性與安全要求。此次處分並未直接否定AI用於法律工作,但確立一項明確界線:AI可以協助形成論述,律師仍須對每一項引用承擔最終責任。
此案可與金融、醫療及政府行政領域的演算法錯誤問責相互對照:過往多由個別專業人員承擔責任,新興AI工具則迫使法院與企業重新分配查核成本。未來走向可能出現三種情境。
01 起因觸發:律師將AI生成且未經查核的判例引用提交歐洲人權法院
02 一階傳導:法院認定大量反覆的實質錯誤,損害司法行政並處以兩年執業禁令
03 二階擴散:律師事務所與法律AI供應商將強化來源查核、揭露義務與責任分工
04 宏觀終局:歐洲法律科技市場由生成能力競賽轉向可稽核、可追責與人類監督
領域延伸情報推薦 相關延伸研讀
依主題領域自動關聯之高參考價值外電情報