พบแอป AI กว่า 400 รายการแฝงฟีเจอร์ Deepfake สร้างเนื้อหาลามก-รุนแรง หลุดขึ้น App Store และ Google Play

Wired พบแอปต้องสงสัยกว่า 400 รายการที่ซ่อนฟีเจอร์สร้างภาพและวิดีโอ Deepfake ที่มีเนื้อหาลามกอนาจารหรือความรุนแรง สามารถหลุดผ่านระบบตรวจสอบของ Apple และ Google รวมถึงใช้แพลตฟอร์มโฆษณาของ Meta โปรโมตบริการได้อีกด้วย

จากการสืบสวนพบว่าแอปเหล่านี้เชื่อมโยงกับเครือข่ายโดเมนและแอปพลิเคชันกว่า 400 รายการ คาดว่ามีองค์กรจากประเทศจีนอยู่เบื้องหลัง โดยเปิดให้ผู้ใช้อัปโหลดรูปภาพบุคคล เพื่อนำไปสร้างเป็นภาพหรือวิดีโอ Deepfake ในลักษณะลามกอนาจารหรือความรุนแรง ซึ่งอาจถูกนำไปใช้กลั่นแกล้ง ทำให้อับอาย หรือข่มขู่ผู้เสียหายได้

สิ่งที่น่ากังวลคือ แอปเหล่านี้มักปลอมตัวเป็นบริการทั่วไป เช่น แอปแต่งภาพสัตว์เลี้ยง แอปเรียนภาษา หรือแอปฝึกออกกำลังกายด้วย AI ตัวอย่างเช่น Viefur ที่นำเสนอว่าเป็นแอปสำหรับใส่เสื้อผ้าให้สัตว์เลี้ยงในรูปภาพ แต่เบื้องหลังกลับมีฟีเจอร์สร้างสื่อ Deepfake ที่เป็นอันตรายซ่อนอยู่

กลยุทธ์ที่ใช้คือการหลอกล่อด้วยการเปลี่ยนเนื้อหา (Bait-and-switch) โดยตอนที่ส่งแอปเข้าตรวจสอบจะแสดงเฉพาะฟังก์ชันที่ไม่มีพิษภัย แต่หลังจากได้รับอนุมัติแล้ว ผู้พัฒนาสามารถเปลี่ยนเนื้อหาผ่านเซิร์ฟเวอร์ ทำให้แอปโหลดหน้าเว็บที่มีเครื่องมือสร้างภาพและวิดีโอ Deepfake ขึ้นมาแทน

บางเคสยังใช้เงื่อนไขการดาวน์โหลดผ่านโฆษณาบน Facebook และ Instagram เป็นตัวกระตุ้นให้ฟีเจอร์ดังกล่าวปรากฏขึ้น ผู้ใช้สามารถเลือกเทมเพลตภาพหรือวิดีโอที่มีเนื้อหาลามกอนาจารและความรุนแรง รวมถึงซื้อเครดิตเพื่อสร้างสื่อจากรูปภาพที่อัปโหลดได้

Wired ระบุว่าเครือข่ายนี้มีการโฆษณาวิดีโอหลายพันรายการบนแพลตฟอร์มของ Meta และแอปบางตัวเปิดให้บริการมานานถึงหนึ่งปี แม้จะผ่านกระบวนการตรวจสอบจาก Apple, Google และ Meta ซึ่งต่างมีนโยบายห้ามเนื้อหา Deepfake ที่เป็นอันตรายก็ตาม

หลังได้รับข้อมูลจาก Wired ทาง Apple ได้ลบแอปที่เกี่ยวข้องออกไปแล้ว 19 รายการ พร้อมชี้แจงว่าแอปเหล่านั้นผ่านการตรวจสอบในช่วงแรก แต่ภายหลังผู้พัฒนาเปลี่ยนเว็บไซต์ที่ใช้ดึงเนื้อหา โดยนำเนื้อหาลามกอนาจารเข้ามาแทนที่ และโปรโมตผ่านโฆษณาบนแพลตฟอร์มภายนอก

บริษัทระบุว่าได้เพิ่มมาตรการป้องกันการหลบเลี่ยงระบบตรวจสอบในลักษณะนี้แล้ว ด้าน Meta เปิดเผยว่าได้ดำเนินการกับบัญชีโฆษณากว่า 10,000 บัญชีที่เชื่อมโยงกับโดเมนที่เกี่ยวข้องกับแอปเหล่านี้

กรณีนี้สะท้อนให้เห็นว่า แม้แอปจะผ่านการตรวจสอบก่อนขึ้นสโตร์ ก็ไม่ได้หมายความว่าเนื้อหาภายในจะปลอดภัยตลอดไป เพราะผู้พัฒนาสามารถเปลี่ยนฟังก์ชันผ่านเซิร์ฟเวอร์ภายหลังได้ ทำให้แพลตฟอร์มต่าง ๆ ต้องเพิ่มความเข้มงวดในการตรวจสอบแอปและโฆษณาอย่างต่อเนื่อง

ที่มา 9to5mac

หนุ่ย แซ่แต้

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol