พบ AI สร้างวิดีโอเหยียดสีผิว กลายเป็นไวรัลบน TikTok

กลายเป็นประเด็นร้อนบนโลกออนไลน์ เมื่อวิดีโอสร้างขึ้นด้วย Google Veo 3 แสดงถึงการเหยียดคนผิวสีกลายเป็นไวรัลบน TikTok

Media Matters องค์กรไม่แสวงหากำไรที่ทำหน้าที่ตรวจสอบสื่อ รายงานว่าพบมีคลิปวิดีโอเหยียดเชื้อชาติหลายคลิปที่อาจสร้างขึ้นด้วย Veo 3 เครื่องมือสร้างวิดีโอ AI ของ Google กำลังกลายเป็นไวรัลบน TikTok ด้วยยอดรับชมกว่าหลายล้านครั้ง

หนึ่งในนั้นมียอดชมสูงถึง 14.2 ล้านครั้ง จากลายน้ำที่ฝังอยู่ระบุว่าสร้างขึ้นด้วย Veo 3 เครื่องมือสร้างวิดีโอและเสียงด้วย AI ของ Google ที่เปิดตัวเมื่อเดือนพฤษภาคม นอกจากนั้นผู้ใช้บางรายยังใส่แฮชแท็ก คำบรรยาย หรือชื่อผู้ใช้ที่เกี่ยวข้องกับ Veo 3 แถมแต่ละคลิปนั้นมีความยาวไม่เกิน 8 วินาที ซึ่งตรงกับข้อจำกัดของ Veo 3 ที่สร้างวิดีโอได้แค่ 8 วินาทีเท่านั้น

แม้ว่าทั้งทาง Google จะมีมาตรการระบุว่าจะบล็อก prompts และผลลัพธ์ที่เป็นอันตราย รวมถึง TikTok เองก็มีกฎระบุไว้ชัดเจนว่า ห้ามลงคลิปที่มีเนื้อหาแสดงความเกลียดชังและพฤติกรรมที่แสดงความเกลียดชัง รวมถึงจะไม่แนะนำเนื้อหาที่มีอคติเชิงลบเกี่ยวกับบุคคลหรือกลุ่มบุคคลที่มีคุณลักษณะที่ได้รับการปกป้อง แต่ก็ไม่ทราบสาเหตุว่าคลิปเหล่านี้ถูกเผยแพร่ได้อย่างไร

ทางโฆษกของ TikTok ได้ออกมาประกาศว่า ได้ทำการลบบัญชีที่ระบุไว้ในรายงานแล้ว ซึ่งหลายบัญชีถูกแบนไปแล้ว ก่อนที่จะข่าวนี้เผยแพร่ออกมา

ทางฝั่งของ The Verge พบว่าวิดีโอบางส่วนที่ Media Matters รายงานนั้นก็มีเผยแพร่อยู่บน YouTube เช่นกัน แต่มียอดเข้าชมน้อยกว่า ส่วน Wired ยังพบวิดีโอที่สร้างโดย AI ในลักษณะเดียวกันบน Instagram ซึ่งเป็นการเหยียดเชื้อชาติด้วย

ทั้งหมดนี้สะท้อนให้เห็นถึงความกังวลเกี่ยวกับการควบคุมเนื้อหา AI ที่อาจถูกใช้ในทางที่เป็นอันตราย แม้แพลตฟอร์มต่าง ๆ จะมีกฎระเบียบอยู่แล้วก็ตาม.

ที่มา Theverge

dailygizmo

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol