不列顛哥倫比亞省最高法院目前正在審查一個案件，該案件強調了與使用法律訴訟中的人工智慧.此案尤其值得注意，因為涉及提交人工智慧生成的捏造法律案件，這標誌著加拿大法律體系的一個重要時刻，並可能為全球法律環境中使用此類技術奠定先例。
該案起源於一名律師（報告中稱其為崇科）使用人工智慧工俱生成法律文件家庭法糾紛的簡報。這導致向法院提交了虛構的判例法，引發了人們對人工智慧生成內容的可靠性以及法律專業人員驗證此類資訊準確性的責任的嚴重質疑。這些人工智慧產生的假案件的曝光引發了BC省律師協會的調查，並圍繞人工智慧技術時代律師的道德和專業義務進行了討論。
法律和技術領域的專家強調需要為法律專業人士提供明確的指導方針和教育人工智能工具的限制和適當使用。這事件凸顯了與AI語言模型相關的“幻覺問題”，例如ChatGPT，其中生成的文本可能看起來連貫且事實上正確，但可能包含由於模型在沒有可驗證事實基礎的情況下生成類人文本的訓練而導致不準確。
法律界和監管機構現在正在努力解決如何平衡人工智慧技術的好處與需求維護法律程序的完整性。有人呼籲開發更專業、更準確的人工智慧模型供法律使用，並為律師提供全面的培訓和教育計劃，以確保他們有能力負責任地使用這些工具。此案的結果以及律師協會和其他利益相關者採取的行動可能會為未來將人工智慧融入法律實踐提供寶貴的經驗教訓和指南。
最高法院準備就本案的費用責任作出裁決，法律界和公眾正在密切關注加拿大法院將如何應對技術創新與正義基本原則之間的複雜相互作用。此案很可能成為定義人工智慧在法律領域的作用的關鍵時刻，突顯在使用新興技術時保持警惕、驗證和道德考慮的重要性