นักวิจัยเตือน AI อาจสร้างความทรงจำปลอม ทำคนเชื่อเรื่องไม่จริง

นักวิจัยเตือนว่า เมื่อคนเรามีแนวโน้มเชื่อถือ AI มากขึ้น เนื้อหาที่สร้างขึ้นอย่างแนบเนียนอาจบิดเบือนความทรงจำและการตัดสินใจได้ โดยเฉพาะเมื่อคนเราแยกแยะข้อมูลจริงกับข้อมูลปลอมได้ยากขึ้นทุกวัน

แพตตี้ เมส์ (Pattie Maes) นักวิทยาศาสตร์จาก MIT เปิดเผยผลการทดลองกับ The Washington Post โดยให้ผู้เข้าร่วมดูภาพชุดหนึ่ง ก่อนแบ่งเป็นกลุ่มที่กลับมาดูภาพต้นฉบับ และกลุ่มที่ดูภาพซึ่ง AI ปรับเปลี่ยนไป ผลปรากฏว่ากลุ่มหลังมีแนวโน้มจดจำภาพต้นฉบับผิดพลาดมากกว่า ที่น่ากังวลคือพวกเขายังมั่นใจอย่างมากว่าความทรงจำของตัวเองถูกต้อง

ปัญหานี้ไม่ได้จำกัดอยู่แค่ภาพ เพราะงานวิจัยอื่นยังพบว่า ทั้งวิดีโอ Deepfake และข้อความที่สร้างโดย AI สามารถทำให้คนจดจำเหตุการณ์ที่ไม่เคยเกิดขึ้นจริงได้ รวมถึงเหตุการณ์อื้อฉาวทางการเมือง ซึ่งอาจส่งผลต่อการตัดสินใจ เช่น ความตั้งใจในการออกไปใช้สิทธิเลือกตั้ง

แม้ AI จะไม่ได้ถูกใช้เพื่อหลอกลวงโดยตรง ก็ยังมีความเสี่ยงจากอาการหลอน (Hallucination) ระบบสร้างข้อมูลผิดพลาดขึ้นมาได้ ส่วนการนำ AI ไปใช้ในหน่วยงานสำคัญอย่างภาครัฐ ธนาคาร โรงพยาบาล และกองทัพเพิ่มขึ้นอย่างมาก แม้จะมีมนุษย์คอยตรวจสอบผลลัพธ์ แต่ผู้เชี่ยวชาญเองก็อาจถูกข้อมูลผิด ๆ ชักจูงได้ หากเชื่อถือ AI มากเกินไป

ปัจจุบัน ความสามารถของคนทั่วไปในการแยกแยะเนื้อหาที่สร้างโดย AI ยังใกล้เคียงกับการเดาสุ่ม นักวิจัยจึงกำลังพัฒนาแนวทางฝึกอบรมให้ผู้คนตรวจจับสื่อปลอมได้ดีขึ้น แต่ยังไม่มีวิธีใดแก้ปัญหานี้ได้อย่างสมบูรณ์

ความเสี่ยงนี้ยิ่งน่าจับตา เมื่ออุตสาหกรรม AI กำลังเร่งพัฒนาระบบที่ทำงานอัตโนมัติและลดการพึ่งพามนุษย์ ขณะที่กรณีการโจมตีโรงเรียนประถมศึกษาในอิหร่านเมื่อต้นปี ซึ่งมีรายงานผู้เสียชีวิตมากกว่า 150 คน รวมถึงเด็กอย่างน้อย 123 คน ถูก Bloomberg รายงานว่า การสอบสวนภายในของกระทรวงกลาโหมสหรัฐฯ ระบุถึงการพึ่งพาระบบ AI ของ Palantir มากเกินไปและการใช้ข้อมูลล้าสมัยในการแนะนำเป้าหมาย

ที่มา gizmodo

หนุ่ย แซ่แต้

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol