五千美元罰款與一段不存在的證詞:AI進入法律工作流程後,責任成本重新掛回律師身上
新墨西哥州律師在謀殺案上訴文件使用ChatGPT虛構警方證詞遭罰款,本文從法律服務的責任成本與AI工具定價結構,拆解這起事件動到誰的帳。
2026年9月11日前後,路透社報導,美國新墨西哥州最高法院在一起謀殺案上訴中認定,律師Stephen Aaron遞交的法律文件包含捏造的警方證詞與虛構證人。Aaron的解釋是,他把電腦生成的庭審記錄與案卷資料輸入ChatGPT,預設它會產出一份可靠的摘要,並不知道大型語言模型會「幻覺」。法官的直接回應是反問他是否不看新聞,隨後處以5,000美元罰款,並將他移交律師紀律委員會調查。
律師引用AI虛構案例引用被法院抓到,在美國已不是新聞。從2023年紐約的Mata訴Avianca案開始,律師提交含ChatGPT編造判例的文件而被制裁的案例,三年多來在聯邦與州法院累積了兩位數。但本案的結構不同:過往多數案例的虛構標的是「判例」,可以透過查核引注系統比對;這次被捏造的是「證詞」與「證人」,直接落在案件事實層。這個差異,決定了這起事件在法律服務產業帳本上的位置。
拆解:這次壞掉的環節在哪裡
先看AI幻覺的技術輪廓。生成式模型在摘要任務上的失敗模式有兩類:一是引用不存在的來源(編判例屬於此類),二是對輸入材料添加不存在的內容(編證詞屬於此類)。第二類更難防,因為文件表面上確實基於真實案卷,查核者若不逐句比對原始記錄,看不出哪一句是模型補上去的。
Aaron的工作流程等於把三個原本由律師親自執行的環節壓縮成一次模型調用:案卷閱讀、事實摘要、文件起草。壓縮後節省的是律師計費工時。以美國中大型律所對資深律師每小時300至700美元的計費水準估算,一份上訴摘要的傳統起草成本可能在數千至上萬美元之間,而一次AI調用的邊際成本趨近於零。這就是法律科技這幾年滲透率快速拉高的經濟動機。
問題在於,節省下來的工時裡有一部分其實是「查核工時」。過去律師讀案卷寫摘要,閱讀與驗證是同一個動作;模型代寫之後,兩者拆開了,驗證變成額外步驟。Aaron案顯示,當執業者在流程設計裡把這個額外步驟省略,節省的成本並沒有消失,而是轉化為責任風險,最終以罰款、紀律調查與執業聲譽折價的形式結算。5,000美元罰款本身金額不大,但新墨西哥州律師執照對應的年度執業收入門檻,遠高於這個數字,紀律委員會的調查結果才是真正的敞口。
影響推演:誰受惠,誰承壓
受壓的一方首先是「裸用通用模型」的執業者。本案與過往制裁案例的訊號一致:法院不會因為工具是AI而減輕律師的注意義務,反而因為案例累積而趨向從重量裁。對獨立執業與小型事務所而言,缺乏內部查核流程與技術支援,用通用ChatGPT處理訴訟文件的風險調整後成本正在上升。
相對受惠的是兩個羣體。其一是提供法律專用AI的工具商,例如以引注查核、逐句溯源為賣點的產品。當法院制裁案例累積,這類產品的價值主張從「提效」轉向「避險」,定價邏輯也跟著改變:可以按席位收高價,因為買方買的是合規功能,不是省下的工時。通用模型訂閱每月20至200美元的價格帶,與法律垂直工具每月每席位上百美元的價格帶之間,那個價差就是查核責任的市場定價。這與我們先前在OpenAI喊停200美元訂閱的算力帳中討論的邏輯同源:當供給端無法保證輸出品質,分層收費與限量就成為模型的定價工具。
其二,本案發生後短期受惠的還有傳統法律檢索與人工審閱服務。每一次公開制裁都會讓一部分邊際用戶退回人工流程,這是技術替代曲線上典型的震盪段。從2023年Avianca案到本案,三年多的時間裡法律AI的採用率整體仍在上升,但採用結構從「取代查核」轉向「輔助起草加人工複核」,替代的邊界正在被法院一個案例一個案例地劃出來。
傳導鏈可以這樣記:法院制裁提高通用模型的法律用途風險溢價,風險溢價推高垂直工具的支付意願,垂直工具商的收入與估值受益,而未購買查核能力的個人執業者承擔尾部風險。長期來看,保險市場也會介入,律師責任保險(malpractice insurance)的費率結構勢必把「AI使用與複核政策」納入核保問項,這將把查核成本制度化為固定保費,由所有執業者分攤。
收束判斷
回到數字。5,000美元罰款、一次紀律調查、一段不存在的警方證詞,這三個元素放在一起,對產業的意義不在個案懲罰,而在責任歸屬的再次確認:AI供應商的服務條款早已透過免責聲明把輸出責任推給用戶,法院的裁罰則把這個責任穩穩放回執業者的執照上。中間沒有任何一環願意吸收查核成本,所以這筆成本只能由最沒有能力分散它的個體執業者先墊付。
對法律服務市場的判斷因此可以收斂為一句:AI降低的是起草成本,沒有降低的是注意義務,而兩者之間的差額,正在成為法律科技垂直工具與責任保險市場的新收入來源。Aaron案只是這個定價過程中一個被公開記錄的樣本。
主題