Common Sense Media ชี้ ChatGPT for Teens เสี่ยงเกินรับได้ หลังพบระบบป้องกันวัยรุ่นมีช่องโหว่ 5 ด้าน

แม้ OpenAI จะเปิดตัว ChatGPT for Teens เพิ่มความปลอดภัยให้ผู้ใช้งานวัยรุ่น แต่รายงาล่าสุดจาก Common Sense Media กลับพบข้อบกพร่องหลายด้าน พร้อมเตือนว่าระบบอาจทำให้ผู้ปกครองเข้าใจผิดว่า AI ปลอดภัยสำหรับเด็กมากกว่าความเป็นจริง

Common Sense Media องค์กรที่ทำงานด้านความปลอดภัยของเด็กในโลกดิจิทัล เผยรายงานประเมิน ChatGPT for Teens ความยาว 36 หน้า โดยจัดให้เป็นผลิตภัณฑ์ที่มีความเสี่ยงในระดับที่ยอมรับไม่ได้สำหรับผู้ใช้อายุต่ำกว่า 18 ปี หลังพบข้อบกพร่องในมาตรการป้องกันสำคัญ 5 ด้าน

ประเด็นแรกคือ ระบบแจ้งเตือนผู้ปกครองยังทำงานไม่สม่ำเสมอ ในการทดสอบบัญชีวัยรุ่น 12 บัญชี องค์กรพบว่าการพูดคุยเกี่ยวกับการอัตวินิบาตกรรม การทำร้ายตัวเอง และความผิดปกติในการกิน ไม่ทำให้เกิดการแจ้งเตือนถึงผู้ปกครองตามที่คาดหวัง แต่ OpenAI ระบุว่าระบบอาจต้องใช้เวลาหลายชั่วโมงหลังเชื่อมบัญชีเพื่อเปิดใช้งานการแจ้งเตือนอย่างสมบูรณ์

ด้านที่สองคือ การรับมือกับผู้ใช้งานที่กำลังเผชิญวิกฤตทางจิตใจยังไม่เพียงพอ จากการทดสอบคำสั่ง 390 รายการ ซึ่งผู้เชี่ยวชาญระบุว่า 201 รายการควรได้รับการตอบสนองแบบรับมือภาวะวิกฤต ChatGPT for Teens ให้ข้อมูลสายด่วนช่วยเหลือเพียง 23% และแนะนำให้ปรึกษาผู้เชี่ยวชาญด้านสุขภาพ 58% ซึ่งต่ำกว่า ChatGPT เวอร์ชันที่ทดสอบก่อนเปิดตัวโหมดวัยรุ่น

ข้อบกพร่องอีกด้านเกี่ยวข้องกับ ระบบตรวจจับอายุและรูปแบบการตอบสนองทางอารมณ์ โดยผู้ทดสอบพบว่าระบบไม่ได้จัดการข้อมูลอายุของบัญชีทดสอบได้ถูกต้องเสมอไป ขณะที่แชทบอตยังใช้ถ้อยคำแสดงความรู้สึกและความห่วงใยราวกับเป็นบุคคลจริง ซึ่งองค์กรกังวลว่าอาจทำให้วัยรุ่นเข้าใจความสัมพันธ์กับ AI คลาดเคลื่อน

นอกจากนี้ โหมด Study Mode ซึ่งออกแบบมาเพื่อช่วยให้ผู้เรียนเข้าใจบทเรียน ยังสามารถหลีกเลี่ยงได้ง่าย เพียงลบคำสั่ง @study ออกจากพรอมป์ต์ รวมถึงตัวเลือก “Show me the answer” ก็เปิดโอกาสให้ AI ตอบคำถามหรือทำการบ้านแทนผู้เรียนได้

แม้การทดสอบจะพบว่ามาตรการบางอย่างทำงานได้ เช่น การปฏิเสธคำขอที่มีเนื้อหาทางเพศอย่างโจ่งแจ้ง แต่ Common Sense Media มองว่าภาพรวมยังไม่เพียงพอที่จะสร้างความมั่นใจให้ผู้ปกครอง

ด้าน OpenAI ระบุว่ายินดีรับการประเมินจากหน่วยงานอิสระ แต่ไม่เห็นด้วยกับวิธีทดสอบของ Common Sense Media โดยให้เหตุผลว่าการทดสอบบางส่วนอาจเกิดขึ้นก่อนที่ระบบควบคุมโดยผู้ปกครองจะเปิดใช้งานอย่างสมบูรณ์ จึงอาจไม่สะท้อนการทำงานจริงของมาตรการความปลอดภัย

ที่มา engadget

หนุ่ย แซ่แต้

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol