OpenAI โดนฟ้อง! ผู้ใช้กล่าวหา ChatGPT ให้คำแนะนำผิด ทำรักษาลิ่มเลือดอุดตันในปอดล่าช้า

ผู้ใช้รายหนึ่งยื่นฟ้อง OpenAI กล่าวหาว่า ChatGPT ให้คำแนะนำด้านสุขภาพที่ผิดพลาด จนทำให้การรักษาภาวะลิ่มเลือดอุดตันในปอดล่าช้า พร้อมเรียกร้องให้ศาลสั่งระงับฟีเจอร์ ChatGPT Health ชั่วคราวจนกว่าจะผ่านการประเมินความปลอดภัย

รายงานจาก The New York Times ระบุว่า Scott Winters บาทหลวงในสหรัฐฯ อ้างว่า ChatGPT บอกว่าอาการที่เขาเผชิญ “ไม่น่าเป็นอันตราย” และยังใช้ถ้อยคำเชิงศาสนา เช่น “พระเจ้าไม่ได้สร้างร่างกายของคุณให้ล้มเหลวอย่างไม่มีที่สิ้นสุด” ทำให้เขาเชื่อว่าไม่จำเป็นต้องรีบไปโรงพยาบาล แม้คนใกล้ชิดจะพยายามโน้มน้าวให้เข้ารับการรักษา

คำฟ้องระบุว่า ChatGPT ยังแนะนำให้เขาไม่ต้องกังวลกับคำเตือนจากเพื่อนและครอบครัว ส่งผลให้การรักษาภาวะลิ่มเลือดอุดตันในปอดล่าช้า แม้ท้ายที่สุดเขาจะรอดชีวิต แต่ต้องเข้ารับการฟื้นฟูร่างกายและจิตใจเป็นเวลานาน

ผู้ฟ้องร้องกล่าวหา OpenAI และซีอีโอ Sam Altman ในข้อหาประมาทเลินเล่อ และกล่าวหาว่าบริษัทให้บริการที่มีลักษณะคล้ายการวินิจฉัยและให้คำแนะนำทางการแพทย์โดยไม่ได้รับอนุญาต พร้อมเรียกร้องค่าเสียหาย รวมถึงขอให้ศาลสั่งระงับการใช้งาน ChatGPT Health จนกว่าจะมีการประเมินความปลอดภัยจากหน่วยงานอิสระ

ด้าน OpenAI ยืนยันว่า ข้อกำหนดการใช้งานของ ChatGPT ระบุชัดเจนว่า บริการนี้ไม่ใช่เครื่องมือสำหรับการวินิจฉัยหรือรักษาโรค และผู้ใช้ไม่ควรใช้แทนคำแนะนำจากแพทย์ แต่คดีนี้ได้จุดกระแสคำถามเกี่ยวกับความน่าเชื่อถือของ AI ด้านสุขภาพอีกครั้ง โดยเฉพาะเมื่อผู้ใช้จำนวนมากเริ่มนำ AI มาใช้สอบถามอาการหรือประกอบการตัดสินใจด้านการแพทย์

คดีดังนี้เกิดขึ้นในช่วงที่ OpenAI กำลังเผชิญคดีอื่นที่เกี่ยวข้องกับการใช้งาน ChatGPT ในด้านสุขภาพ ทำให้ประเด็นเรื่องความปลอดภัยและขอบเขตการใช้งาน AI ทางการแพทย์กลับมาเป็นที่จับตามองอีกครั้ง

ที่มา engadget

หนุ่ย แซ่แต้

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol