ผู้ใช้รายหนึ่งยื่นฟ้อง OpenAI กล่าวหาว่า ChatGPT ให้คำแนะนำด้านสุขภาพที่ผิดพลาด จนทำให้การรักษาภาวะลิ่มเลือดอุดตันในปอดล่าช้า พร้อมเรียกร้องให้ศาลสั่งระงับฟีเจอร์ ChatGPT Health ชั่วคราวจนกว่าจะผ่านการประเมินความปลอดภัย รายงานจาก The New York Times ระบุว่า Scott Winters บาทหลวงในสหรัฐฯ อ้างว่า ChatGPT บอกว่าอาการที่เขาเผชิญ “ไม่น่าเป็นอันตราย” และยังใช้ถ้อยคำเชิงศาสนา เช่น “พระเจ้าไม่ได้สร้างร่างกายของคุณให้ล้มเหลวอย่างไม่มีที่สิ้นสุด” ทำให้เขาเชื่อว่าไม่จำเป็นต้องรีบไปโรงพยาบาล แม้คนใกล้ชิดจะพยายามโน้มน้าวให้เข้ารับการรักษา คำฟ้องระบุว่า ChatGPT
