AI 法律：為什麼它會引用不存在的判例
語言模型的本質：預測下一個字，而非查證事實
大型語言模型（LLM）的核心訓練目標，是根據前文預測下一個 token（詞元）。給定「根據 2019 年第二巡迴法院的判決，」這串文字，模型會計算出最可能接續的詞彙序列。它學到的是「判例引用的語言長什麼樣子」，而不是「這個判例是否真實存在」。
換句話說，模型並沒有內建一個「事實查核器」。它的損失函數（loss function）獎勵的是「預測下一個字的準確度」，而不是「陳述的真實性」。當訓練資料中充滿了格式工整的判例引用，模型就學會了這種格式；但格式正確，不等於內容正確。這就像一個從未去過巴黎的人，靠著讀遍旅遊書，也能寫出一篇看起來很逼真的巴黎遊記——只是裡面可能把羅浮宮的位置寫錯了。
更關鍵的是，模型在生成時具有「取樣」機制（temperature、top-p 等參數），這讓輸出帶有隨機性。即使模型「知道」某個判例可能不存在，它也可能因為取樣而生成一個看似合理的替代品。這種隨機性在創意寫作中是優點，在法律引用中卻是致命傷。
訓練資料的斷層與「似真性」陷阱
另一個關鍵因素是訓練資料的性質。法律資料庫（如 Westlaw、LexisNexis）是高度封閉且需付費的商業資料，多數公開訓練語料並不會完整收錄判決全文。模型可能讀過大量法律部落格、新聞報導、法學評論，這些文本「談論」判例，卻不一定包含判例的完整引用資訊。於是模型學到了「談論判例的語氣」，卻沒有學到「判例的精確座標」。
此外，模型有知識截止日期（knowledge cutoff）。即便某個判例真實存在，若它出現在截止日期之後，模型也無法得知。但模型不會因此說「我沒有這個資訊」，而是會根據已有的語言模式，生成一個「看起來應該存在」的判例。這就是所謂的「似真性陷阱」：模型最佳化的目標是「聽起來對」，而不是「事實正確」。
法律引用的特殊性在於，它是一種高度結構化的資訊：案件名稱、當事人、法院、年份、卷宗號、页码，每一項都有嚴格格式。模型很容易學會這種格式的「語法」，卻難以保證「語義」的正確性。這就像一個人學會了寫身分證字號的格式，卻隨機填入數字——格式對了，號碼卻是假的。
檢索增強生成（RAG）能解決嗎？
面對幻覺問題，業界提出的主要解方是檢索增強生成（Retrieval-Augmented Generation，RAG）。其概念是：在模型生成答案之前，先從外部資料庫檢索相關文件，再把檢索結果放入提示中，讓模型「根據檢索到的內容」回答。理論上，這能大幅降低幻覺，因為模型不再單靠記憶生成，而是有實際文本作為依據。
然而，RAG 並非萬靈丹。首先，如果檢索系統沒有找到正確的判例，模型仍可能「補齊」一個不存在的引用。其次，檢索到的文件可能被模型誤讀或錯誤引用——它可能把 A 判例的內容套用到 B 判例的名稱上。第三，RAG 的品質高度依賴資料庫的完整性與檢索演算法的精準度，而法律資料庫的授權成本極高，多數通用型 AI 工具並沒有接入完整的法律資料庫。
因此，RAG 是「降低風險」的工具，而不是「消除風險」的保證。這也是為什麼專業法律 AI 工具（如 Westlaw Precision、Lexis+ AI）會強調其引用來源可追溯，並且要求使用者點擊連結回到原始文件核對。換句話說，負責任的設計不是讓 AI「代替」查證，而是讓 AI「輔助」查證，並把最終判斷權留給人類。
三、法律專業的特殊風險：為什麼法律領域特別容易踩雷
AI 幻覺在所有領域都會造成問題，但在法律領域，它的後果特別嚴重。這不是因為法律人比較不擅長使用科技，而是因為法律工作的本質，對「精確性」與「可歸責性」有著遠高於其他行業的要求。
判例引用的精確性要求
法律論證的正當性，很大程度建立在「先例」之上。一個判例的引用，不只是裝飾，而是整個論證的基石。如果引用的判例不存在，論證就失去支撐；如果引用的判例被誤解，論證就可能誤導法院。這種精確性要求，遠超過一般文章引用參考文獻的標準。
更麻煩的是，法律引用有嚴格的格式規範（如藍皮書 Bluebook 格式）。案件名稱的斜體、卷宗號的縮寫、法院層級的標示、年份的括號位置，每一個細節都有講究。AI 很擅長模仿這些格式，這反而讓虛假引用更難被肉眼辨識。一位經驗豐富的律師可能會覺得「這個卷宗號的數字範圍有點怪」，但這種直覺並非人人具備，也不該是唯一的防線。
法律資料的封閉性與版本問題
法律資料的另一個特性是「版本敏感性」。同一部法規可能因修法而變動，同一個判例可能被上級法院撤銷或區別（distinguish）。AI 模型若沒有即時更新，就可能引用已被撤銷的判例，或套用舊版法規。這種錯誤比「引用不存在的判例」更隱蔽，因為判例本身存在，只是已經失效。
此外，不同司法管轄區（jurisdiction）的法律差異極大。美國聯邦法院與州法院、英國與澳洲、台灣與日本，法律體系與判例文化各不相同。通用型 AI 模型往往混淆這些區別，產出「跨轄區拼貼」的內容。對法律工作者而言，這種錯誤可能導致管轄權論述的基礎動搖。
專業責任與倫理邊界
律師對當事人負有勤勉義務（duty of diligence），對法院負有真實義務（duty of candor）。提交虛假判例，無論是否出於故意，都可能構成違反職業倫理。美國多州律師公會已明確表示，律师使用 AI 生成內容時，仍須對最終文件負完全責任。換句話說，「是 AI 寫的」不能成為免責理由。
這帶出一個更深層的問題：當 AI 大幅降低產出法律文件的门檻，專業判斷的價值在哪裡？答案在於「驗證」與「詮釋」。AI 可以快速生成草稿，但判例是否適用、論證是否嚴謹、策略是否符合當事人利益，這些仍需人類律師的專業判斷。AI 幻覺的存在，反而凸顯了人類專業不可替代的部分。
四、實務防線：律師與法律工作者如何安全使用 AI
與其因噎廢食，不如建立一套可操作的防線。以下從工作流程、工具選擇到組織治理，提出具體建議。
建立「三層驗證」工作流程
第一層是「來源驗證」：任何 AI 生成的判例引用，都必須回到權威資料庫（如 Westlaw、LexisNexis、司法院法學資料檢索系統）逐筆查證。查證的內容包括案件名稱、卷宗號、法院、年份、判決要旨是否與 AI 所述一致。這一步不能省略，也不能只查一半。
第二層是「語境驗證」：確認該判例是否仍有效、是否被撤銷、是否適用於當前管轄區與事實情境。一個真實存在的判例，若被錯誤類比，仍然可能導致論證失敗。這一步需要法律專業判斷，無法完全自動化。
第三層是「論證驗證」：檢查 AI 生成的論述邏輯是否連貫，是否存在跳躍或過度推論。AI 有時會把多個判例的要旨「縫合」成一個看似完整但實際上不存在的論證鏈。這一步需要人類律師通讀全文，確認每個推論環節都有依據。
工具選擇與提示工程
在工具選擇上，優先使用專門為法律領域設計的 AI 工具，而非通用型聊天機器人。專用工具通常具備以下特性：接入權威法律資料庫、提供引用來源連結、標示知識截止日期、區分不同管轄區。這些設計能大幅降低幻覺風險，但仍不能取代人工驗證。
在提示工程（prompt engineering）方面，有幾個實用技巧。第一，明確要求「只根據提供的資料回答，若資料不足請說不知道」。第二，要求 AI 標示每個陳述的來源，並區分「檢索所得」與「模型推測」。第三，要求 AI 對不確定的內容加上警示標記。第四，避免一次要求太多判例，因為生成量越大，幻覺機率越高。第五，要求 AI 以「結構化格式」輸出，方便後續逐項核對。
值得注意的是，提示工程只能「降低」而非「消除」幻覺。再精緻的提示，都無法保證模型不說謊。因此，提示工程必須搭配前述的驗證流程，才能形成完整防線。
事務所層級的治理政策
個人層面的謹慎固然重要，但制度層面的治理更能防範系統性風險。律師事務所可以考慮建立以下政策：明定哪些 AI 工具可以使用、哪些資料可以輸入 AI（避免洩漏當事人機密）、要求所有 AI 輔助文件留存使用紀錄、規定引用驗證的責任人與流程、定期舉辦 AI 倫理與實務培訓。
此外，事務所可以建立「AI 產出物」的內部標記制度，讓審閱者知道哪些段落由 AI 生成、哪些經過人工改寫。這有助於區分責任，也方便後續追蹤。部分大型事務所已開始設置「AI 治理委員會」，專門處理工具評估、風險控管與倫理爭議。
五、未來展望：從「幻覺」到「可驗證」的法律 AI
AI 引用不存在的判例，短期內不會完全消失，但技術與制度的演進正在縮小風險窗口。以下幾個方向值得關注。
首先是「可驗證 AI」（verifiable AI）的發展。研究者正在開發能夠標示每個陳述來源的模型架構，讓使用者可以點擊引用、回到原始文件。這種「引用溯源」機制，若能與法律資料庫深度整合，將大幅提升 AI 輸出的可信度。部分法律科技公司已推出「每個引用都可點擊」的產品，雖然仍不完美，但已是重要進展。
其次是「法律 AI 評測基準」的建立。學術界與業界正在發展專門測試法律 AI 幻覺率的基準資料集，例如給定一系列法律問題，檢查 AI 引用的判例是否真實存在、是否正確適用。這類評測能幫助使用者選擇較可靠的工具，也能推動開發者改進模型。
第三是「監管與行業標準」的形成。美國律師公會、英國律師監管局等機構已開始發布 AI 使用指引。未來可能出現更明確的規範，例如要求律師揭露 AI 使用情況、要求事務所建立驗證流程、甚至對重大疏失課以更嚴格的責任。這些規範的目的不是限制創新，而是建立信任基礎。
最後是「人機協作模式」的成熟。未來的法律工作不太可能是「AI 取代律師」，而更可能是「律師指揮 AI、AI 輔助律師、人類負責最終判斷」。在這種模式下，AI 負責檢索、摘要、草擬，人類負責驗證、詮釋、策略。AI 幻覺的存在，反而讓「人類把關」成為不可或缺的環節。
結語：幻覺是一面鏡子，照出專業的價值
AI 引用不存在的判例，表面上是技術缺陷，深層來看，它映照出法律專業的核心價值：精確、負責、可追溯。當機器能夠流暢地生成看似專業的文本，人類的價值不在於「寫得比機器快」，而在於「判斷機器寫得對不對」。這種判斷力，來自法學訓練、實務經驗與倫理意識，是 AI 短期內難以取代的。
對法律工作者而言，與其恐懼 AI 幻覺，不如把它當成一個提醒：每一個引用、每一個論證、每一個結論，都值得被認真對待。AI 可以幫我們節省時間，但不能幫我們承擔責任。當我們使用 AI 時，我們不是把判斷外包給機器，而是把機器當成一個需要被嚴格監督的助手。
對一般讀者而言，這篇文章的意義在於理解：AI 不是萬能的法律顧問。當你看到 AI 給出斬釘截鐵的法律答案時，請保持懷疑，要求來源，並在必要時諮詢專業律師。在這個資訊爆炸的時代，批判性思考比任何工具都更重要。
AI 法律應用的未來，不會是「零幻覺」的烏托邦，而會是「可驗證、可問責、可協作」的新常態。與其追求一個不會犯錯的機器，不如建立一套能夠發現錯誤、修正錯誤的制度。這才是法律介面對 AI 時代最務實的回應。