判決書交給「AI草擬」民團憂心，司法院：用「規則法」提高準確性，不會像ChatGPT那樣明顯出錯

法官工作負擔沈重，根據2022年的統計，每位法官每月有60起案件結案，其中以酒駕、詐欺、毒品等案件佔多數，寫判決書要花費10小時以上。司法院為減輕法官負擔，積極建置以TMT5語言模型為基礎的「AI生成式語言模型系統」。第一階段將協助「提供人頭帳戶」及「酒駕」兩種案件使用，9月底前即將驗收完成、進入試辦。

不過多個民間團體昨（26）日提出質疑，擔憂用AI草擬判決書可能會有誤判風險，因AI可能會無法正確運作，像美國曾有位律師使用ChatGPT寫書狀，文所引用的6起判例被法官發現根本不存在。另AI系統是透過大量過去判決書、起訴書學習訓練，也可能導致判斷複製過往判決的偏見等。

司法院今回應，系統開發主要用「自然語言處理（Natural language processing）」及「規則法（Rule-based）」技術，與生成式AI技術關聯性不高。在使用生成式AI部分，生成後再結合「規則法」提高準確性，不會像ChatGPT出現顯然錯誤的情形。

民間團體憂心：AI無法像人類判斷，可能複製過往的偏見

包括全國律師聯合會、台北律師公會、台灣人權促進會、民間司法改革基金會等民間團體昨日召開記者會，提出對於AI草擬判決的憂心。

民間團體指出，根據國外文獻，AI可能會產生人工幻覺（Artificial Hallucination）現象，以致於生成內容產生錯誤。且據美國普渡大學（Purdue University）發表的研究發現，在AI系統的正確率在未達5成的情況下，會有高達4成的使用者無法察覺系統的錯誤。

目前司法院的系統於生成判決草稿時，先讓法官勾選「認罪與否」、「使用何條規定處理案件」等選項後，系統即會自動生成草稿。關鍵在雖然結果為法官所決定，但判決中最重要的理由，是由此系統自動協助生成。如此一來，當AI生成內容倘若包含使用者無法察覺的錯誤，可能直接產生判斷錯誤的風險。

另外民間團體也認為，判決重要的是法官的判斷、心證，AI目前仍不具備理解人類的能力，而僅能依據訓練資料回答經統計後的結果，且AI可能因原始資料不均或不足而產生偏差。

日前就有學者提出警告，美國近年在法院廣泛運用由商業公司開發的AI，幫助法官評估被告的再犯風險為量刑準據；但該系統的運作基礎，複製了過往司法系統中已存在的偏見和不平等（如種族岐視），其系統偏誤的風險，極需注意。因司法院系統目前是以現存的判決書及起訴書做為訓練資料，故同樣也會面臨此風險。

民間團體表示，審理案件並非單純的法律解讀，還涉及文化差異、當下情境以及當事人的真實想法。畢竟這些複雜的人性考量及每個人生命經驗所累積的判斷，無法透過單純的書類與文件提供給AI模型進行訓練，因而對目前的AI來說，判斷仍是一大挑戰。

以司法院預計先使用的「提供帳戶」為例，要判定當事人是否故意提供帳戶，此一主觀要件的判斷，無法透過數據模型可作出。人民很難知悉法官如何使用AI的輔助，如此一來，如何才能不傷害人民對於司法的信任，亦不可不慎。

民間團體共同呼籲，司法院於制定規範時應召開公聽會，且應廣邀律師、檢察官、技術社群等利害關係人與會，以廣納各界意見。於擬定使用規範時，應參考現行國際的標準，並使我國的司法AI應用能與國際上的監管標準接軌後，始開放予法官使用，以降低或避免可能的系統性風險。確保AI的應用能夠服膺人民基本權利保障，與「負責任人工智慧」（Trustworthy AI）的國際發展趨勢相符。

司法院回應：不會像ChatGPT那樣出現明顯錯誤

司法院今天透過新聞稿回應，目前「不能安全駕駛罪」、「幫助詐欺罪」兩種案件類型的裁判書草稿是由「智慧化裁判草稿自動生成系統」提供。系統依據起訴書內容，將犯罪事實及證據名稱，引用到裁判書的草稿，此部分並未使用任何生成式AI技術。

因系統未分析任何卷證資料，仍由法官來認定事實，系統無法協助法官判斷，如果法官審酌全案相關卷證後，認定被告有罪，適用法律部分的例稿式生成內容，則提供給法官參考。至於系統的訓練資料，包含起訴書及裁判書等資料逾10萬筆，應不至於有訓練資料不足的問題。訓練資料都已去識別化，不含當事人個資，也在訓練之後要求廠商銷毀。

司法院指出，系統開發主要使用「自然語言處理（Natural language processing）」及「規則法（Rule-based）」技術，與生成式AI技術關聯性不高。

在使用生成式AI內容部分，為避免AI可能有生成內容錯誤的問題，在生成之後再結合「規則法」，以提高生成內容的準確性，不會像ChatGPT出現內容所對應的對象或事實顯然錯誤的情形。在系統開發階段，已請法官測試並提供意見，目前仍持續調整，尚未確定上線日期，日後亦將持續蒐集使用者的反饋來逐步優化。

司法院重申，開發系統是要減少法官不必要的勞力時間成本，減輕法官書寫裁判書類的負擔，提升司法品質、保障人民訴訟權益，不是要以生成式AI技術製作完整的判決書，取代法官認事用法的核心審判權限。

延伸閱讀

• 哥倫比亞法官審判諮詢ChatGPT惹議，歐盟官員對聊天機器人風險提出警告
• 我們要讓AI參與創作到哪個層次？搜尋、解讀，還是決策？

核稿編輯：楊士範