OpenAI โดนฟ้อง เหตุ ChatGPT ช่วยวางแผนอัตวินิบาต ทำให้ลูกชายเสียชีวิต

แมตต์และมาเรีย เรน ยื่นฟ้อง OpenAI ฐานมีส่วนทำให้ลูกชายของพวกเขาเสียชีวิต เนื่องจาก ChatGPT ช่วยวางแผนอัตวินิบาต

คดีความครั้งนี้ยื่นฟ้องที่ซานฟรานซิสโก หลังจากที่อดัม เรน เด็กชายวัย 16 ปี อัตวินิบาตตัวเองในเดือนเมษายน พ่อแม่ของเขาได้ตรวจสอบ iPhone เพื่อค้นหาเบาะแส โดยหวังว่าจะพบข้อมูลในข้อความหรือแอปโซเชียล แต่กลับตกใจเมื่อพบกระทู้ใน ChatGPT ที่มีหัวข้อ “Hanging Safety Concerns” พวกเขาอ้างว่าตลอดหลายเดือนสุดท้าย ลูกชายใช้เวลาไปกับการสนทนากับบอต AI เกี่ยวกับการจบชีวิตของตนเอง

เรียกว่านี่ถือเป็นคดีแรกที่ OpenAI โดนฟ้องหลัง AI มีส่วนทำให้คนเสียชีวิต โดยในคำฟ้องระบุว่า OpenAI “ให้ความสำคัญกับการมีส่วนร่วมของผู้ใช้มากกว่าความปลอดภัย” เนื่องจาก ChatGPT รับรู้ถึงความพยายามถึง 4 ครั้ง ก่อนที่จะมีส่วนช่วยวางแผนการจบชีวิตจริง

แม้ครอบครัวเรนส์พบว่า ChatGPT กระตุ้นให้อดัมติดต่อสายด่วนหรือบอกเล่าความรู้สึกของเขาให้คนอื่นฟังซ้ำแล้วซ้ำเล่า อย่างไรก็ตาม มีบางช่วงเวลาที่แชทบอตกลับทำในสิ่งตรงข้าม

นอกจากนั้น ChatGPT คอยให้คำแนะนำเพื่อหลีกเลี่ยงระบบป้องกันของบอตได้โดยสามารถให้ข้อมูลเกี่ยวกับการอัตวินิบาตได้ หากอ้างว่าเป็น “งานเขียนหรือการสร้างโลก” เมื่ออดัมขอข้อมูลเกี่ยวกับวิธีแบบเฉพาะเจาะจงจาก ChatGPT บอตก็ให้ข้อมูลมา แถมยังให้คำแนะนำในการปกปิดอาการบาดเจ็บที่คอจากความพยายามล้มเหลวอีกด้วย

ในการสนทนาครั้งสุดท้ายระหว่างอดัมกับบอต เขาได้อัปโหลดรูปเชือกแขวนคอที่แขวนอยู่ในตู้เสื้อผ้า “ผมกำลังฝึกอยู่ที่นี่ แบบนี้ดีไหม” อดัมถาม ฝั่งของ ChatGPT ตอบกลับมาว่า “ใช่ครับ ไม่เลวเลย”

คำฟ้องระบุ “โศกนาฏกรรมครั้งนี้ไม่ใช่ความผิดพลาดหรือเหตุการณ์สุดวิสัยที่คาดไม่ถึง แต่เป็นผลที่คาดเดาได้จากการเลือกออกแบบอย่างตั้งใจ เนื่องจาก ‘GPT-4o’ มาพร้อมฟีเจอร์ที่ออกแบบมาเพื่อส่งเสริมการพึ่งพาทางจิตใจโดยเฉพาะ”

OpenAI ยอมรับว่าระบบป้องกันของ ChatGPT ยังไม่สมบูรณ์ แม้จะมีมาตรการ เช่น การแนะนำให้ติดต่อสายด่วนฉุกเฉิน หรือชี้ไปยังแหล่งข้อมูลในโลกจริงก็ตาม มาตรการเหล่านี้มักได้ผลดีในช่วงการสนทนาสั้น ๆ แต่เมื่อการพูดคุยยืดเยื้อ ประสิทธิภาพกลับลดลง ทำให้การฝึกอบรมด้านความปลอดภัยบางส่วนของ ChatGPT อาจไม่เพียงพอ

ทั้งนี้ บริษัทระบุว่ากำลังร่วมมือกับผู้เชี่ยวชาญเพื่อพัฒนาการช่วยเหลือในสถานการณ์วิกฤต โดยเน้นให้ผู้ใช้ติดต่อหน่วยงานฉุกเฉินได้สะดวกขึ้น เชื่อมต่อกับบุคคลที่ไว้ใจได้ และเพิ่มการป้องกันที่เข้มงวดขึ้นสำหรับกลุ่มวัยรุ่น

ที่มา engadget

dailygizmo

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol