มาเลเซีย-อินโดนีเซีย บล็อก Grok AI หวั่นนำไปใช้สร้างภาพลามกอนาจาร

มาเลเซียและอินโดนีเซียสั่งบล็อกแชตบอต Grok AI ของอีลอน มัสก์ ชั่วคราว หลังเกิดความกังวลว่าเครื่องมือดังกล่าวถูกนำไปใช้สร้างเนื้อหาที่ไม่ได้รับความยินยอม รวมถึงเนื้อหาทางเพศและลามกอนาจาร

หน่วยงานกำกับดูแลของมาเลเซียมีคำสั่งจำกัดการใช้งานแชตบอตจากบริษัท xAI ในวันอาทิตย์ โดยชี้ถึง “ความล้มเหลวในการบริหารจัดการความเสี่ยงด้านเนื้อหาที่เกี่ยวข้องกับเครื่องมือ AI ดังกล่าว ซึ่งการตัดสินใจนี้เกิดขึ้นเพียงหนึ่งวันหลังจากที่อินโดนีเซียสั่งระงับการเข้าถึง Grok ชั่วคราวด้วยเหตุผลในลักษณะเดียวกัน พร้อมเรียกผู้แทนของ X เข้าชี้แจง

ความเคลื่อนไหวของประเทศในเอเชียตะวันออกเฉียงใต้เกิดขึ้นหลังตรวจพบว่า ผู้ใช้บางรายนำ Grok ไปสร้างภาพ deepfake ที่ไม่ได้รับความยินยอม รวมถึงภาพเด็กในลักษณะไม่เหมาะสม ซึ่ง xAI เพิ่งอัปเดตฟีเจอร์ Grok Imagine ช่วยให้การสร้างภาพจากข้อความทำได้ง่ายและรวดเร็วยิ่งขึ้น เมื่อผสานการทำงานเข้ากับแพลตฟอร์มโซเชียลมีเดีย X จึงทำให้เนื้อหาดังกล่าวสามารถแพร่กระจายได้ในวงกว้าง

ท่ามกลางแรงกดดันที่เพิ่มขึ้น xAI ประกาศจำกัดฟีเจอร์การสร้างและแก้ไขภาพไว้เฉพาะผู้ใช้ที่สมัครสมาชิกแบบชำระเงิน เพื่ออุดช่องโหว่ด้านการป้องกันการเผยแพร่เนื้อหาที่มีลักษณะทางเพศ ขณะที่อีลอน มัสก์ ออกมาตอบโต้ผ่าน X โดยยืนยันว่าผู้ใช้ที่สร้างเนื้อหาผิดกฎหมายผ่าน Grok จะต้องเผชิญผลทางกฎหมายเช่นเดียวกับการอัปโหลดเนื้อหาดังกล่าวบนแพลตฟอร์มโซเชียลมีเดียโดยตรง

คำชี้แจงของ X ยังไม่เป็นที่พอใจของหน่วยงานกำกับดูแลในมาเลเซียและอินโดนีเซีย คณะกรรมการการสื่อสารและมัลติมีเดียแห่งมาเลเซียระบุว่า คำตอบของ X “ไม่เพียงพอ” เนื่องจากพึ่งพากลไกการรายงานจากผู้ใช้เป็นหลัก และไม่สามารถจัดการความเสี่ยงที่เกิดจากการออกแบบและการทำงานของเครื่องมือ AI ได้อย่างตรงจุด ส่งผลให้การจำกัดการเข้าถึง Grok ถูกมองว่าเป็นมาตรการป้องกันที่เหมาะสมในระหว่างที่กระบวนการทางกฎหมายและข้อบังคับยังดำเนินอยู่ โดยจะยังคงจำกัดการใช้งานจนกว่าจะมีมาตรการคุ้มครองที่มีประสิทธิภาพ โดยเฉพาะต่อผู้หญิงและเด็ก

ทั้งสองประเทศมีกฎหมายควบคุมสื่อลามกอนาจารที่เข้มงวด ครอบคลุมการห้ามเผยแพร่เนื้อหาลามกและเนื้อหาทางเพศออนไลน์ในวงกว้าง ด้านนางเมทยา ฮาฟิด รัฐมนตรีว่าการกระทรวงการสื่อสารและกิจการดิจิทัลของอินโดนีเซีย ระบุว่า รัฐบาลมองการสร้างภาพลามกปลอมที่ไม่ได้รับความยินยอมเป็นการละเมิดสิทธิมนุษยชน ศักดิ์ศรี และความปลอดภัยของประชาชนในโลกดิจิทัลอย่างร้ายแรง พร้อมจัดให้การใช้ AI ในลักษณะดังกล่าวเป็นรูปแบบหนึ่งของ “ความรุนแรงในโลกดิจิทัล”

ในระดับนานาชาติ หน่วยงานกำกับดูแลในหลายเขตอำนาจศาล ทั้งสหภาพยุโรป สหราชอาณาจักร บราซิล และอินเดีย ต่างเริ่มสอบสวนบทบาทของ Grok ในการเอื้อให้เกิดการสร้างภาพปลอมแปลงเชิงลามกและไม่ได้รับความยินยอม ขณะเดียวกัน สมาชิกสภาผู้แทนราษฎรจากพรรคเดโมแครตบางส่วนในสหรัฐฯ เสนอให้ร้านค้าแอปพลิเคชันระงับการให้บริการเครื่องมือ AI นี้ จนกว่าจะมีการปรับปรุงมาตรการกำกับดูแลอย่างมีนัยสำคัญ

ที่มา cnbc

หนุ่ย แซ่แต้

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol