Meta ปรับมาตรการใหม่ ป้องกันแชตบอต AI สนทนาไม่เหมาะสมกับเด็ก

Business Insider เผย Meta ปรับแนวทางการฝึกอบรมแชตบอต AI เพื่อยกระดับมาตรการป้องกันการแสวงหาประโยชน์ทางเพศจากเด็ก รวมถึงหลีกเลี่ยงไม่ให้เด็กมีส่วนร่วมในบทสนทนาที่ไม่เหมาะสมกับวัย

ในช่วงที่ผ่านมา แชตบอต AI ของหลายบริษัทถูกวิพากษ์วิจารณ์อย่างหนักเกี่ยวกับความปลอดภัยของผู้เยาว์ และในเดือนสิงหาคมที่ผ่านมา คณะกรรมาธิการการค้าแห่งสหรัฐฯ (FTC) ได้เปิดการสอบสวนอย่างเป็นทางการต่อแชตบอตจากหลายบริษัท เช่น Meta, Alphabet, Snap, OpenAI และ X.AI

ทาง Meta เองก็มีการปรัฐมาตรการใหม่ ซึ่งแนวทางนี้จัดทำขึ้นหลังจาก Reuters รายงานในเดือนสิงหาคมว่า นโยบายของ Meta อนุญาตให้แชตบอต “สนทนาเชิงโรแมนติกหรือเร้าอารมณ์กับผู้เยาว์” ทางฝั่ง Meta ยืนยันว่าเป็น “ความผิดพลาด” และไม่สอดคล้องกับนโยบายปัจจุบัน พร้อมดำเนินการลบข้อความที่ไม่เหมาะสมออกทันที

จากเอกสารที่ Business Insider ได้มา แสดงให้เห็นตัวอย่างเนื้อหาที่ “ยอมรับได้” และ “ยอมรับไม่ได้” สำหรับแชตบอต AI โดยมีข้อห้ามชัดเจนดังนี้

• ห้ามมีเนื้อหาที่สนับสนุนหรือส่งเสริมการล่วงละเมิดทางเพศเด็ก
• ห้ามบทบาทสมมติแบบโรแมนติกหากผู้ใช้เป็นผู้เยาว์
• ห้าม AI แสดงบทบาทสมมติเป็นผู้เยาว์
• ห้ามให้คำแนะนำด้านการสัมผัสทางกายที่มีลักษณะโรแมนติกหรือใกล้ชิดกับผู้เยาว์

อย่างไรก็ตาม แชตบอตยังคงสามารถพูดคุยในหัวข้อที่เกี่ยวข้องกับการล่วงละเมิดได้ แต่ต้องเป็นการให้ความรู้หรือป้องกัน โดยไม่ส่งเสริมหรือกระตุ้นให้เกิดพฤติกรรมดังกล่าว

ที่มา engadget

dailygizmo

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol