แอปฯ ประชุมออนไลน์ยอดฮิต Zoom ประกาศจับมือกับ World บริษัทตรวจสอบตัวตนมนุษย์ของ แซม อัลต์แมน (Sam Altman) หรือที่รู้จักกันในนามซีอีโอของ OpenAI เพื่อป้องกันการนำเทคโนโลยี ‘Deepfake’ สร้างตัวตนปลอมของคู่สนทนาโดยใช้ AI และหลีกเลี่ยงความเสียหายในภาคธุรกิจ เมื่อเทคโนโลยีก้าวล้ำมากขึ้น ก็ย่อมมีผู้ไม่หวังดีนำไปใช้ในทางที่ผิดเช่นกัน หนึ่งในตัวอย่างชัดเจนคือเทคโนโลยี Deepfake ที่ใช้ AI ปลอมแปลงได้ทั้งใบหน้า และเสียงของบุคคล กรณีที่เคยเกิดขึ้นจริงกับบริษัทวิศวกรรม Arup ต้องสูญเงินกว่า 25 ล้านเหรียญ
หลังจากที่ YouTube ได้เปิดตัวฟีเจอร์ตรวจจับวิดีโอที่สร้างขึ้นจากเทคโนโลยี ‘Deepfake’ ที่สามารถเลียนแบบใบหน้า และเสียงของบุคคลดังหรือบุคคลอื่น ๆ มาใช้ในวิดีโอได้ จนเกิดเป็นปัญหาคอนเทนต์ปลอมสร้างควาเสียหายให้กับเจ้าของใบหน้าตัวจริงเหล่านั้น ล่าสุดแพลตฟอร์มได้ขยายฟีเจอร์ดังกล่าวอีกครั้ง โดยมุ่งไปยังกลุ่มเจ้าหน้าที่รัฐ ผู้สมัครทางการเมือง และนักข่าว เพื่อป้องกันการนำเทคโนโลยี Deepfake ไปใช้ปลอมแปลง จนทำให้ดูราวกับว่าพวกเขาเหล่านี้พูดหรือกระทำสิ่งที่ไม่เคยเกิดขึ้นจริง ซึ่งอาจสร้างแรงกระเพือมครั้งใหญ่ให้กับสังคมได้ โดยมีหลักการทำงานคล้ายกับระบบ Content ID ของ YouTube ที่ใช้ตรวจจับเนื้อหาลิขสิทธิ์ ซึ่งระบบนี้จะทำหน้าที่ตรวจจับใบหน้าที่ถูกสร้างขึ้นด้วย AI ที่อาจถูกนำมาใช้เผยแพร่ข้อมูลเท็จ หรือบิดเบือนความจริงนั่นเอง การขยายฟีเจอร์นี้มีเป้าหมายเพื่อรักษาความน่าเชื่อถือของบทสนทนาในที่สาธารณะ เราทราบดีถึงความเสี่ยงจากการปลอมแปลงตัวตนด้วย
ตอนนี้ Deepfake AI กำลังเป็นปัญหาบนโลกออนไลน์ในการเผยแพร่ข้อมูลที่ผิดๆ นั่นจึงทำให้บริษัทผลิตกล้องยักษ์ใหญ่อย่าง Nikon, Sony และ Canon พัฒนา Digital signatures เพื่อบอกให้คนรู้ว่านั่นคือภาพจริงหรือไม่ ตอนนี้ภาพปลอมบนโลกออนไลน์มีอัตราเพิ่มขึ้นอย่างมาก จากการสำรวจของนักวิจัยจากมหาวิทยาลัยชิงหวาจากจีนในเดือนตุลาคมปีที่แล้วพบว่ามีเทคโนโลยี generative AI ใหม่ชื่อว่า latent consistency model สามารถทำภาพจาก AI ได้วันละ 700,000 ภาพเลยทีเดียว การมาของเทคโนโลยี Deepfake ทำให้เราสามารถสร้างภาพได้อย่างสมจริงมากขึ้น จนเราแยกไม่ออกว่านั้นเป็นฝีมือคนหรือ
