ทนายความรายหนึ่งในแคลิฟอร์เนียถูกสั่งปรับเป็นเงิน 10,000 เหรียญ (320,000 บาท) หลังใช้ ChatGPT จัดทำข้อมูลยื่นอุทธรณ์คดี แต่กลับมีข้อมูลเท็จรวมอยู่ด้วย ปัจจุบันศาลทั่วสหรัฐฯ รายงานว่ามีทนายความจำนวนมากหันมาใช้ AI เพื่อการวิจัยข้อมูล แต่หลายครั้งกลับพบว่า AI อ้างอิงคดีปลอม ส่งผลให้ผู้พิพากษาถูกกดดันให้วางกฎเกณฑ์ที่เข้มงวดขึ้น รวมถึงออกคำเตือนให้ทนายความหลีกเลี่ยงการใส่ข้อมูลอ้างอิงที่ไม่ได้ตรวจสอบด้วยตนเองในเอกสารทางกฎหมาย เหตุการณ์ในครั้งนี้เกิดขึ้นที่ศาลอุทธรณ์เขตที่ 2 ของรัฐแคลิฟอร์เนีย ด้วยการสั่งปรับทนายความอามีร์ โมสตาฟาวี เป็นเงิน 10,000 เหรียญ (320,000 บาท) หลังตรวจสอบพบว่า เอกสารที่ใช้ยื่นอุทธรณ์คดี
