15 49.0138 8.38624 arrow 0 bullet 1 4000 1 0 horizontal https://am1320.com 300 0 1
theme-sticky-logo-alt
February 27, 2024

華裔律師向法院提交由人工智能聊天軟件ChatGPT生成的虛假案例法律摘要 法院裁定她需支付法院費用

一名華裔律師去年向法院提交由人工智能聊天軟件ChatGPT生成的虛假案例法律摘要,法院裁定,雖然她無意作出欺詐行為,但仍需支付法院費用。

律師以人工智能聊天軟件ChatGPT生成的虛假案例作為法律摘要,被認為是首次有類似虛構案例進入加拿大法律體系,並可能開創本國的法律先例。

BC最高法院法官David Masuhara在裁決中表示,在法院文件與提交予法院的其他材料中,引用虛假案例是濫用程序,相當於向法院作出虛假陳述,若不加以控制,可能會導致誤判。

案情指,律師Lorne and Fraser MacLean於一宗民事訴訟中,發現對方律師Chong Ke軻翀向法院提交列有虛假判例的文件,內容由人工智能聊天軟件ChatGPT生成,並不屬實。

假案例由軻翀提交,並屬一宗家庭糾紛的一部分,糾紛的核心是父母申請帶孩子到中國旅遊。

據法院記錄顯示,當軻翀意識到案例是假時,已撤回有關案例,但沒有向與訟方律師透露撤回案例的原因。

法院的裁決,首次對爭議核心的兩宗假案作出總結,MacLean律師在發現案例是虛構後,尋求軻翀需個人支付懲罰性特殊費用、以及他們花時間揭露錯誤的法院費用。

Masuhara法官接受軻翀呈交的解釋,即她對ChatGPT的風險一無所知,並已採取措施來糾正錯誤。

他讚揚MacLean的法律團隊資源充足,發現該兩宗虛假法律案例不可能獲納入法律記錄,但就拒絕對軻翀處以特殊費用的懲罰,原因是只有於嚴重濫用司法制度、故意不誠實、或存在惡意不當行為的情況下,有關處罰才合適。

Masuhara說,軻翀亦已遭受重大的負面影響,並已真誠地向法院道歉,承認犯下嚴重錯誤,不過,軻翀並無注意BC律師會於去年6月及11月發出的通知,警告生成式人工智能的風險,同時警告ChatGPT本身輸出的案例可能不準確,軻翀使用假案例導致案件延誤,亦為對方律師帶來混亂與額外的工作。

Masuhara認為,由於軻翀提供的虛假案例,並遲遲不進行補救,令與訟方律師不得不採取各項措施來處理,有關的額外工作與費用,應由軻翀個人承擔,他裁定軻翀應承擔相當於兩日法院的聆訊費用,約需支付數千元。

此外,Masuhara更指令軻翀必須審核其正處理的所有檔案,若發現有人工智能生成的法律摘要,必須即時通知與訟方律師,相反則必須於30日內向法院提交一份審核報告。

MacLean律師對裁決表示歡迎,他認為是一個合理及平衡的裁決,並為公眾與業界在法律專業中使用人工智能提供批判性及明智的建議。

MacLean強調,由人工智能產生的幻覺,可怕之處在於它們並無創造模棱兩可的引文與摘要,看起來更百分之百真實,因此,法官與律師需提高警惕,並要仔細地核查,這點至關重要。

法院作出裁決後,軻翀仍需接受BC律師會的調查。

BC律師會於去年11月發布關於使用人工智能的警告,並為律師提供指引; BC省首席大法官去年3月亦對人工智能的使用發出指令,要求法官不要使用人工智能,加拿大聯邦法院則在12月效仿同類做法。