9 月 23 日消息，據 Ssbcrack 報道，一名美國加利福尼亞州律師因在向州法院提交的上訴文件中使用人工智能工具 ChatGPT 生成虛假引文，被法院裁定處以 1 萬美元（IT之家注：現匯率約合 71149 元人民幣）罰款。

據悉，這是加州法院迄今為止就 AI 偽造內容問題開出的最重罰單。判決書顯示，該律師的開篇陳述中引用的 23 條判例引文中有 21 條系虛構。法院強調了個人核實的重要性，明確指出：任何法律文書中的引用都必須由律師親自閱讀并確認其真實性，不得包含未經核實的來源。

加利福尼亞州第二區上訴法院發布此項裁決，意在向法律界發出嚴厲警告。該法院指出，全美各地法院正越來越多地面臨律師引用虛假法律先例的問題。這一判決恰逢加州加強監管之際，加州司法委員會已要求各法院法官及工作人員在 12 月中旬前，要么禁止使用生成式人工智能，要么制定明確的使用政策。與此同時，加州律師協會也正在重新審視其職業行為準則，以應對人工智能技術快速發展帶來的挑戰。

被處罰的律師阿米爾?穆斯塔法維（Amir Mostafavi）承認，在 2023 年 7 月提交上訴文件前，他并未審閱 AI 生成的內容。他表示，自己僅是借助 ChatGPT 優化文書表達，未曾意識到該工具會憑空捏造案件引文。穆斯塔法維辯稱，完全摒棄人工智能對律師而言并不現實，AI 如今已成為不可或缺的資源，其作用堪比當年從實體法律圖書館向在線數據庫的轉型，但他同時警告：“只要 AI 系統仍會生成錯誤信息，法律從業者就必須謹慎使用。在此期間，我們注定會看到一些受害者、遭受一些損失、經歷一些破壞。”

此次對穆斯塔法維的罰款被認為是針對律師濫用 AI 行為所開出的最高罰單之一。今年早些時候，加州一聯邦地區法院法官曾裁定兩家律師事務所賠償超過 3.1 萬美元（現匯率約合 22.1 萬元人民幣），原因是其提交的研究材料依賴了 AI 生成的錯誤信息。該法官明確表示自己感到被誤導，并強調必須建立強有力的懲戒機制，以遏制類似事件再次發生。

專家預測，隨著生成式 AI 在法律行業的廣泛應用，律師引用虛構判例的案例數量將持續上升。一項追蹤統計顯示，美國已記錄此類事件逾 600 起，其中約 52 起發生在加州。這一上升趨勢凸顯出法律從業者亟需接受教育并保持警惕，特別是在識別和驗證 AI 生成信息方面的能力培養。

法律觀察人士強調，加強對 AI 技術的認知至關重要，因為許多律師尚未充分意識到 AI“幻覺”（hallucination，即編造虛假信息）的風險。有觀點建議，對誤用 AI 的律師應實施強制性培訓課程，作為預防未來失誤的補救措施。此外，已有擔憂指出，虛假判例不僅出現在律師的文件中，甚至可能被法官在其判決書中引用，表明問題的影響范圍可能遠超執業律師群體。