Meta เจอปัญหา เครื่องมือตรวจจับภาพ AI ทำงานพลาดเมื่อภาพถูกครอป

หลัง Meta เปิดตัวเครื่องมือตรวจจับภาพที่สร้างโดย AI ที่พัฒนาเอง แต่ผลทดสอบล่าสุดจาก Reuters ชี้ว่า ระบบยังมีข้อจำกัดใหญ่ เพียงแค่ครอปภาพเพียงบางส่วน ความสามารถในการตรวจจับก็ลดลงอย่างมาก

Reuters ทดลองกับภาพที่สร้างจาก Muse Image จำนวน 40 ภาพ พบว่าเครื่องมือตรวจจับสามารถระบุภาพต้นฉบับได้ครบทั้งหมด แต่เมื่อครอปภาพให้เหลือเพียงประมาณ 1 ใน 3 ถึงครึ่งหนึ่งของขนาดเดิม ระบบกลับตรวจจับไม่พบถึง 55% ของภาพที่ทดสอบ

เบื้องหลังของระบบนี้คือ Content Seal หรือลายน้ำดิจิทัลแบบมองไม่เห็น ซึ่ง Meta ฝังไว้ในภาพทุกภาพที่สร้างด้วย Muse Image เพื่อยืนยันแหล่งที่มา แม้บริษัทระบุว่าลายน้ำถูกออกแบบให้ทนต่อการแก้ไขทั่วไป แต่ก็ยอมรับว่าสัญญาณอาจสูญหายได้หากภาพถูกครอปมากเกินไป

ปัญหานี้สะท้อนความท้าทายของอุตสาหกรรม AI ในการตรวจจับภาพปลอม โดยเฉพาะในช่วงที่ Deepfake ถูกนำมาใช้แพร่กระจายข้อมูลเท็จมากขึ้น ซึ่งอาจส่งผลกระทบต่อเหตุการณ์สำคัญ เช่น การเลือกตั้ง

ไม่ใช่แค่ Meta เท่านั้นที่เผชิญข้อจำกัดนี้ เพราะทั้ง Google และ OpenAI ก็เคยยอมรับว่า เครื่องมือตรวจจับภาพ AI ของตนเองยังไม่สามารถป้องกันการดัดแปลงภาพได้อย่างสมบูรณ์

ก่อนหน้านี้ คณะกรรมการกำกับดูแลอิสระของ Meta ยังเรียกร้องให้บริษัทลงทุนพัฒนาเครื่องมือตรวจจับที่มีประสิทธิภาพมากขึ้น เพื่อรับมือกับการแพร่กระจายของเนื้อหา AI ที่อาจสร้างความเข้าใจผิดบนแพลตฟอร์ม

ด้าน ศาสตราจารย์ Siwei Lyu ผู้เชี่ยวชาญด้านนิติวิทยาศาสตร์ภาพจากมหาวิทยาลัยแห่งรัฐนิวยอร์กที่บัฟฟาโล อธิบายว่า ระบบที่อาศัยลายน้ำจะทำงานได้ดีเมื่อข้อมูลยังอยู่ครบ แต่การครอป การปรับขนาด การบีบอัด หรือการแก้ไขภาพ ล้วนสามารถลดประสิทธิภาพของการตรวจจับได้

ส่วน Sarah Barrington นักวิจัยด้าน AI จากมหาวิทยาลัยแคลิฟอร์เนีย เบิร์กลีย์ มองว่า แม้เทคโนโลยีลายน้ำจะยังไม่สมบูรณ์แบบ แต่ก็ถือเป็นก้าวสำคัญ เพราะหากสามารถตรวจจับภาพ AI ได้แม้เพียง 90% ก็ยังดีกว่าไม่มีระบบตรวจสอบเลย และเป็นรากฐานสำคัญสำหรับการรับมือเนื้อหา AI ในอนาคต

ที่มา reuters

หนุ่ย แซ่แต้

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol