รัฐบาลอินเดียสั่ง X แก้ไข Grok ด่วน หวั่นใช้ AI สร้างเนื้อหาลามกอนาจาร

รัฐบาลอินเดียสั่งให้ X แพลตฟอร์มโซเชียลมีเดียของอีลอน มัสก์ ปรับปรุงการทำงานของแชตบอต Grok AI โดยด่วน หลังผู้ใช้งานและส.ส.ออกมาเตือนว่าเครื่องมือนี้สามารถดัดแปลงภาพผู้หญิงและสร้างเนื้อหา “ลามกอนาจาร” ได้

กระทรวงเทคโนโลยีสารสนเทศของอินเดีย (IT Ministry) ได้ออกคำสั่งให้ X ดำเนินการแก้ไข Grok ทันที โดยกำหนดให้จำกัดการสร้างเนื้อหาที่เกี่ยวข้องกับภาพเปลือย การแสดงออกทางเพศ การแสดงออกทางเพศอย่างโจ่งแจ้ง ตลอดจนเนื้อหาที่ผิดกฎหมายอื่น ๆ พร้อมทั้งให้เวลาบริษัท 72 ชั่วโมงในการส่งรายงานรายละเอียดมาตรการที่นำมาใช้ เพื่อป้องกันการเผยแพร่เนื้อหาที่เข้าข่ายลามกอนาจาร เนื้อหาหยาบคาย การล่วงละเมิดทางเพศเด็ก หรือเนื้อหาต้องห้ามตามกฎหมายอินเดีย

หาก X ไม่ปฏิบัติตาม อาจส่งผลให้บริษัทเสี่ยงต่อการสูญเสียสถานะ “safe harbor” หรือความคุ้มครองทางกฎหมายที่ช่วยป้องกันความรับผิดชอบต่อเนื้อหาที่ผู้ใช้สร้างขึ้นภายใต้กฎหมายอินเดีย

การเคลื่อนไหวของทางการอินเดียเกิดขึ้นหลังจากผู้ใช้งานบน X แชร์ตัวอย่างที่ Grok ถูกสั่งให้ดัดแปลงภาพบุคคล โดยเฉพาะผู้หญิง ให้ดูเหมือนสวมชุดบิกินี จนกลายเป็นกระแสวิพากษ์วิจารณ์และนำไปสู่การร้องเรียนอย่างเป็นทางการจากนางปรียังกา ชาตูร์เวดี สมาชิกสภาผู้แทนราษฎร

นอกจากนี้ ยังมีรายงานว่าพบกรณีที่แชตบอต AI สร้างภาพที่มีลักษณะทางเพศเกี่ยวข้องกับผู้เยาว์ ซึ่ง X ยอมรับว่าเกิดจากความบกพร่องของระบบป้องกัน ก่อนจะลบภาพเหล่านั้นออกในเวลาต่อมา

คำสั่งล่าสุดนี้มีขึ้นเพียงไม่กี่วันหลังจากกระทรวงไอทีของอินเดียออกคำแนะนำในวงกว้างถึงแพลตฟอร์มโซเชียลมีเดีย โดยย้ำว่าการปฏิบัติตามกฎหมายท้องถิ่นเกี่ยวกับเนื้อหาลามกอนาจารและเนื้อหาทางเพศอย่างโจ่งแจ้ง เป็นเงื่อนไขสำคัญในการคงไว้ซึ่งความคุ้มครองทางกฎหมาย พร้อมเรียกร้องให้บริษัทต่าง ๆ เสริมความเข้มงวดของมาตรการภายใน และเตือนว่าการฝ่าฝืนอาจนำไปสู่การดำเนินคดีตามกฎหมายไอทีและกฎหมายอาญาของอินเดีย

อินเดียถือเป็นหนึ่งในตลาดดิจิทัลที่ใหญ่ที่สุดของโลก กำลังกลายเป็นกรณีศึกษาสำคัญว่ารัฐบาลจะเข้มงวดกับความรับผิดชอบของแพลตฟอร์มต่อเนื้อหาที่สร้างโดย AI มากเพียงใด แนวทางการบังคับใช้กฎหมายที่เข้มขึ้นอาจส่งผลกระทบต่อบริษัทเทคโนโลยีระดับโลกที่ดำเนินธุรกิจในหลายประเทศ

ที่มา techcrunch

หนุ่ย แซ่แต้

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol