AI Overview ยังมีจุดอ่อน ตอบผิดแม้แต่การสะกดคำง่าย ๆ

ทั้งที่ระบบ AI ทำงานซับซ้อนอย่างเขียนโค้ดหรือแก้ปัญหาคณิตศาสตร์ได้ แต่ AI Overview กลับตอบคำถามง่าย ๆ เกี่ยวกับการนับตัวอักษรและการสะกดคำผิดพลาด เช่น ระบุว่าคำว่า “Google” มีตัว P สองตัว หรือสะกดคำว่า “Trump” ผิด

คำว่า Google มีตัว P กี่ตัว? หากถาม AI Overview ของ Google คำตอบที่ได้คือ “สองตัว” ทั้งที่ความจริงไม่มีแม้แต่ตัวเดียว

นอกจากนั้น AI ยังเคยระบุว่าในคำว่า “poop” มีตัว “r” หนึ่งตัว หรือสะกดคำว่า journalism กลายเป็น “journadism” ขณะที่นามสกุลของอดีตประธานาธิบดี Donald Trump ก็ถูกสะกดเพี้ยนเป็น “trpum” แม้จะยังนับจำนวนตัวอักษร P ได้ถูกต้องก็ตาม

ความผิดพลาดนี้อาจดูตลก แต่ก็สะท้อนปัญหาใหญ่ของ AI Search ที่ Google กำลังผลักดันอย่างหนักให้กลายเป็นหัวใจหลักของระบบค้นหาอายุเกือบ 30 ปีของบริษัท

ก่อนหน้านี้ AI Overview เคยโดนวิจารณ์มาแล้ว หลังอ้างอิงข้อมูลจากโพสต์ล้อเลียนบน Reddit และ The Onion พร้อมแนะนำให้ “กินหิน” หรือ “ทากาวบนพิซซ่า” จน Google ต้องรีบแก้ไขระบบ

ล่าสุด Google ยอมรับกับ TechCrunch ว่า “การนับตัวอักษรเป็นปัญหาที่พบได้บ่อยใน LLM และเรากำลังดำเนินการแก้ไข”

ปัญหานี้เกิดจากธรรมชาติของ Large Language Models หรือ LLM ซึ่งเป็น AI ที่อยู่เบื้องหลังแชตบอตและระบบสร้างข้อความต่าง ๆ โดยโมเดลเหล่านี้ไม่ได้ “อ่าน” ภาษาเหมือนมนุษย์ แต่จะแปลงข้อความเป็นชุดข้อมูลตัวเลขหรือ “โทเค็น” เพื่อวิเคราะห์ความสัมพันธ์ของคำในบริบท

นั่นหมายความว่า AI อาจเข้าใจ “ความหมาย” ของคำได้ดีมาก แต่ไม่ได้เข้าใจตัวอักษรทีละตัวเหมือนคน

แมทธิว กุซเดียล นักวิจัยด้าน AI จากมหาวิทยาลัยอัลเบอร์ตา อธิบายว่า เมื่อโมเดลเห็นคำว่า “the” มันไม่ได้มองเห็นตัว T-H-E แต่จะเห็นเป็นรหัสแทนความหมายของคำทั้งคำแทน นี่จึงเป็นเหตุผลว่าทำไม AI ที่สามารถเขียนโค้ดหรือแก้โจทย์คณิตศาสตร์ระดับสูงได้ กลับยังสะกดคำผิดแบบเด็กอนุบาล

นักวิจัยหลายคนมองว่า ปัญหานี้อาจแก้ได้ยาก เพราะโครงสร้างแบบ Transformer ซึ่งเป็นพื้นฐานของ LLM ถูกออกแบบมาเพื่อทำความเข้าใจบริบท ไม่ใช่ตรวจสอบตัวอักษรแบบละเอียด

เชอริแดน เฟอชต์ นักศึกษาปริญญาเอกจากมหาวิทยาลัยนอร์ทอีสเทิร์น ระบุว่า แม้จะพยายามออกแบบระบบแบ่งคำที่สมบูรณ์แบบเพียงใด โมเดลก็ยังอาจเลือกแบ่งคำออกเป็นส่วนย่อยเพื่อประมวลผลอยู่ดี

แม้ข้อผิดพลาดเรื่องการสะกดจะไม่ใช่ปัญหาร้ายแรงที่สุดของ AI แต่ถือเป็นเครื่องเตือนใจว่า ต่อให้ AI ดูฉลาดจนเหมือนรู้ทุกอย่างเพียงใด ผู้ใช้ก็ยังไม่ควรเชื่อผลลัพธ์ของ AI โดยไม่ตรวจสอบความถูกต้องซ้ำอีกครั้ง

ที่มา techcrunch

หนุ่ย แซ่แต้

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol