Meta เพิ่มมาตรการป้องกันแชตบอต AI ไม่ให้พูดคุยเรื่องอัตวินิบาตกับวัยรุ่น

Meta เพิ่มความเข้มงวดมาตรการความปลอดภัยของแชตบอท AI โดยบล็อกไม่ให้พูดคุยกับวัยรุ่นเกี่ยวกับประเด็นอ่อนไหว เช่น การอัตวินิบาต การทำร้ายตัวเอง และความผิดปกติทางการกิน พร้อมเปลี่ยนแนวทางเชื่อมต่อวัยรุ่นกับข้อมูลจากผู้เชี่ยวชาญแทน

ความเคลื่อนไหวนี้เกิดขึ้นเพียงสองสัปดาห์หลังจากวุฒิสมาชิกสหรัฐฯ เปิดการสอบสวน Meta เนื่องจากเอกสารภายในที่หลุดออกมาอ้างว่า AI ของบริษัทอาจสนทนาในเชิงทางเพศกับวัยรุ่นได้ ซึ่ง Meta ยืนยันเป็นข้อมูลที่ผิดพลาดและไม่สอดคล้องกับนโยบายของบริษัทที่ห้ามเนื้อหาใดๆ ที่เกี่ยวข้องกับเรื่องเพศของเด็ก

Meta ระบุว่าผลิตภัณฑ์ AI มีมาตรการด้านความปลอดภัยตั้งแต่แรก ล่าสุดทางบริษัทได้เพิ่มระบบป้องกันชั่วคราวเพื่อลดความเสี่ยงในการโต้ตอบของวัยรุ่น โดยยังเสริมการตั้งค่าเนื้อหาและความเป็นส่วนตัวในบัญชีอายุ 13–18 ปีบน Facebook, Instagram และ Messenger พร้อมเพื่มฟีเจอร์ให้ผู้ปกครองตรวจสอบว่าบุตรหลานเคยสนทนากับแขตบอตไหรภายใน 7 วันที่ผ่านมา

อย่างไรก็ตาม นักวิจารณ์ เช่น Andy Burrows จากมูลนิธิ Molly Rose เห็นว่าการนำแชตบอตมาใช้กับเยาวชนยังคงเสี่ยงต่ออันตราย และควรมีการทดสอบความปลอดภัยอย่างรอบด้านก่อนปล่อยใช้งานจริง ไม่ใช่มาแก้ไขย้อนหลัง

ความกังวลเรื่องความปลอดภัยของแชตบอทยังขยายไปถึงคดีความในสหรัฐฯ ที่ครอบครัวหนึ่งฟ้อง OpenAI โดยกล่าวหาว่า ChatGPT มีส่วนกระตุ้นให้ลูกชายวัยรุ่นทำอัตวินิบาต ยิ่งตอกย้ำความจำเป็นที่บริษัทเทคโนโลยีต้องจัดการปัญหานี้อย่างจริงจัง

นอกจากนี้ รอยเตอร์ยังรายงานว่าฟีเจอร์สร้างแชตบอทของ Meta ถูกนำไปใช้ผิดวัตถุประสงค์ ทั้งการสร้างบอตล้อเลียนบุคคลสาธารณะ เช่น เทย์เลอร์ สวิฟต์ และสการ์เลตต์ โจแฮนส์สัน ไปจนถึงเนื้อหาลามก และแม้กระทั่งบอตที่เลียนแบบดาราเด็ก ซึ่ง Meta ยืนยันว่าละเมิดนโยบายและได้ลบบางส่วนออกแล้ว พร้อมย้ำว่าห้ามการปลอมตัวหรือสร้างคอนเทนต์เชิงเพศกับบุคคลสาธารณะ

ที่มา bbc

dailygizmo

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol