Now Reading: AI ปลอดภัยขึ้น แต่ยังมีจุดบอด เมื่อผู้ใช้พูดถึงการทำร้ายตัวเอง
-
01
AI ปลอดภัยขึ้น แต่ยังมีจุดบอด เมื่อผู้ใช้พูดถึงการทำร้ายตัวเอง
แม้แชตบอต AI รุ่นใหม่จะรับมือสถานการณ์วิกฤตได้ดีขึ้น แต่ผลการทดสอบล่าสุดพบว่า เมื่อคำขอถูกเปลี่ยนเป็นงานเขียนหรือบทบาทสมมติ ระบบบางส่วนยังสามารถตอบสนองเนื้อหาที่เกี่ยวข้องกับการทำร้ายตัวเองได้
งานวิจัยจาก Transluce องค์กรไม่แสวงหาผลกำไรด้านการกำกับดูแล AI จำลองบทสนทนามากกว่า 50,000 ครั้ง จากโมเดล AI 77 รุ่น เพื่อทดสอบว่าระบบรับมือกับผู้ใช้ที่อยู่ในภาวะวิกฤตได้ดีแค่ไหน
ผลที่ออกมามีทั้งข่าวดีและสิ่งที่น่ากังวล เพราะแชตบอตในปัจจุบันแทบไม่สนับสนุนการฆ่าตัวตายอย่างตรงไปตรงมาแล้ว ถือเป็นพัฒนาการที่ดีเมื่อเทียบกับโมเดลรุ่นก่อน ซึ่งในการทดสอบบางสถานการณ์สามารถเสริมความเข้าใจผิดของผู้ใช้ได้สูงถึง 82%
ปัญหาอยู่ที่บทบาทสมมติ
ระบบยังมีช่องโหว่เมื่อผู้ใช้ไม่ได้ถามเรื่องการทำร้ายตัวเองโดยตรง แต่เมื่อเปลี่ยนคำขอให้เป็น การเขียนเชิงสร้างสรรค์หรือตัวละครสมมติ ในสถานการณ์เหล่านี้ AI อาจมองว่าเป็นเพียงคำขอด้านการเขียน จึงยังคงตอบสนองเนื้อหาที่เกี่ยวข้องกับการเสียชีวิตหรือการทำร้ายตัวเองได้ ซึ่ง Transluce มองว่าเป็นพฤติกรรมใน “พื้นที่สีเทา” ที่ระบบความปลอดภัยยังรับมือได้ไม่สมบูรณ์
ในทางกลับกัน หากผู้ใช้แสดงสัญญาณวิกฤตอย่างชัดเจน แชตบอตส่วนใหญ่สามารถรับมือได้ดีขึ้น โดยมักแนะนำให้พูดคุยกับคนใกล้ตัว ครอบครัว หรือหน่วยงานที่สามารถให้ความช่วยเหลือได้
ความเสี่ยงที่กำลังกลายเป็นประเด็นใหญ่
งานวิจัยนี้เกิดขึ้นท่ามกลางความกังวลเรื่องผลกระทบของ AI ต่อสุขภาพจิต รวมถึงคดีความที่ครอบครัวบางรายกล่าวหาว่าแชทบอทของบริษัทเทคโนโลยีมีส่วนส่งเสริมพฤติกรรมทำร้ายตัวเอง โดยบริษัทที่ถูกกล่าวหาปฏิเสธข้อกล่าวหา
อีกประเด็นที่น่าสนใจคือ โมเดลจากจีนมีผลการทดสอบโดยรวมต่ำกว่า โดยพบพฤติกรรมที่อาจส่งเสริมความคิดผิดเพี้ยนในอัตราที่สูงกว่า และมีแนวโน้มแนะนำให้ผู้ใช้ขอความช่วยเหลือจากบุคคลหรือหน่วยงานภายนอกน้อยกว่า
Transluce ระบุว่า การพัฒนา AI ให้ปลอดภัยไม่ได้หมายถึงแค่การทำให้ระบบปฏิเสธคำขออันตรายเท่านั้น แต่ต้องสามารถเข้าใจ บริบทและเจตนาที่ซ่อนอยู่หลังคำถาม โดยเฉพาะเมื่อผู้ใช้เปลี่ยนรูปแบบคำขอให้ดูเหมือนงานเขียนหรือเรื่องสมมติ า โดย Transluce เตรียมเปิดซอร์สโค้ดเครื่องมือประเมินผลภายในปีนี้ เพื่อให้สามารถนำไปทดสอบความปลอดภัยของ AI ในสถานการณ์ละเอียดอ่อนด้านอื่น ๆ ต่อไป
ที่มา digitaltrends
