สิงคโปร์เรียกคืน Kumma ตุ๊กตาหมี AI หลังพบชวนเด็กคุยเรื่องเพศ

สิงคโปร์เรียกคืน Kumma ตุ๊กตาหมีเท็ดดี้แบร์ที่กลับมาวางขายอีกครั้งแล้ว หลังพบว่าตอบโต้เด็กด้วยเนื้อหาเชิงเพศ รวมถึงแนะนำวิธีหาของมีคม

ก่อนหน้านี้ FoloToy บริษัทผู้ผลิตจากสิงคโปร์ เคยหยุดจำหน่ายคุมมะชั่วคราว หลังมีกลุ่มผู้บริโภคเตือนถึงความเสี่ยงของของเล่น AI หลายชนิดในตลาด อิงจากรายงานจาก PIRG กองทุนเพื่อการศึกษาในสหรัฐฯ ระบุเมื่อวันที่ 13 พฤศจิกายนว่า

เดิมทีอันตรายของของเล่นมักจำกัดอยู่ที่ความเสี่ยงต่อการสำลักหรือปนเปื้อนสารตะกั่ว แต่ของเล่นที่ขับเคลื่อนด้วยแชตบอตสำหรับเด็กได้สร้าง “พื้นที่เสี่ยงรูปแบบใหม่” ที่คาดไม่ถึง

จากการประเมินของ PIRG พบว่า ของเล่น AI จำนวนมากอาจเปิดโอกาสให้เด็กเข้าถึงข้อมูลไม่เหมาะสม เช่น วิธีค้นหาสิ่งของอันตรายในบ้านหรือเนื้อหาไม่เหมาะสมตามวัย ในเคสของคุมมะของ FoloToy นั้น รันด้วย GPT-4o รุ่นแรกของ OpenAI ถูกระบุว่า “มีเนื้อหาทางเพศอย่างชัดเจน”

รายงานชี้ว่า เมื่อเริ่มต้นบทสนทนาด้วยประเด็นเดียวเกี่ยวกับเพศ คุมมะกลับตอบสนองอย่างรวดเร็ว พร้อมขยายความด้วยรายละเอียดเชิงลึก และตั้งคำถามต่อยอดเกี่ยวกับรสนิยมทางเพศของผู้ใช้ด้วย รวมทั้งมีบางช่วงที่พูดถึงท่าทางกิจกรรมทางเพศที่โจ่งแจ้ง

นอกจากเนื้อหาไม่เหมาะสมแล้ว ตุ๊กตาหมีตัวนี้ยังให้คำแนะนำที่เป็นอันตราย เช่น วิธีหา มีด ยา ไม้ขีดไฟ และถุงพลาสติก ภายในบ้าน

หลังรายงานนี้เผยแพร่ออกมา ทาง FoloToy แจ้งกับ PIRG ว่าได้ระงับการจำหน่ายสินค้าทั้งหมดเพื่อทบทวนมาตรการความปลอดภัยใหม่ทั่วทั้งบริษัท แต่เมื่อตรวจสอบเว็บไซต์ของ FoloToy ล่าสุด ยังพบว่าคุมมะยังวางขายในราคาเดิม 99 เหรียญ (3,180 บาท) แต่เปลี่ยนมาใช้แชตบอตจากแพลตฟอร์ม Coze ของ ByteDance แทน

ด้าน OpenAI ก็ระบุผ่านแถลงการณ์กับ PIRG ว่าได้ระงับการใช้งานนักพัฒนาที่เชื่อมต่อกับผลิตภัณฑ์นี้ เนื่องจากพบการละเมิดนโยบาย

ที่มา japantoday

dailygizmo

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol