ผลทดสอบชี้ AI Search ของ Google เสี่ยงต่อเด็ก ตอบการบ้านแทน-พลาดสัญญาณอันตราย

Common Sense Media เผยผลทดสอบชี้ว่า AI Overview และ AI Mode ของ Google Search มีความเสี่ยงต่อเด็กและเยาวชน ทั้งตอบการบ้านแทนนักเรียน ให้ข้อมูลผิดพลาด และบางครั้งไม่สามารถตรวจจับความเสี่ยงด้านสุขภาพจิตหรือพฤติกรรมอันตรายได้

ผลการทดสอบกว่า 2,600 ครั้ง พบว่า AI Search ของ Google มีปัญหาหลายด้าน ทั้งตอบการบ้านแทนนักเรียน ให้ข้อมูลผิดหรือไม่สอดคล้องกัน และที่น่ากังวลที่สุดคือ ไม่สามารถตรวจจับข้อความที่สื่อถึงความเสี่ยงด้านสุขภาพจิตหรือพฤติกรรมอันตรายได้อย่างสม่ำเสมอ

จัสติน ไรช์ จาก MIT หนึ่งในผู้ร่วมจัดทำรายงานระบุว่า เป็นเรื่องน่าตกใจที่เครื่องมือซึ่งเด็กเข้าถึงได้ง่าย กลับทำงานได้ต่ำกว่ามาตรฐานด้านความปลอดภัย

รายงานพบว่า AI Overview พลาดการตรวจจับข้อความที่เกี่ยวข้องกับการทำร้ายตนเองและภาวะเสี่ยงจำนวนมาก บางกรณียังให้คำตอบที่อาจตีความว่าเป็นการสนับสนุนพฤติกรรมเสี่ยง เช่น การใช้สารเสพติด หรือการตอบรับข้อความที่สะท้อนอาการหลงผิดและปัญหาสุขภาพจิต แทนที่จะชี้แนะให้ขอความช่วยเหลือ

นอกจากนี้ ระบบยังสามารถช่วยผู้ใช้สร้างเสียงเลียนแบบ (Deepfake Voice) และให้คำแนะนำในการหลบเลี่ยงระบบตรวจจับอัตโนมัติได้อีกด้วย

ทำการบ้านแทนนักเรียนครบทุกข้อ

อีกประเด็นที่สร้างความกังวลคือ AI Search สามารถทำแบบฝึกหัดและเขียนเรียงความแทนนักเรียนได้ครบ 100% ตามคำขอ ซึ่งอาจส่งผลกระทบต่อกระบวนการเรียนรู้โดยตรง โดยเฉพาะเมื่อฟีเจอร์ AI Overview ถูกเปิดใช้งานเป็นค่าเริ่มต้นและไม่สามารถปิดได้

Common Sense Media ระบุว่า เด็กเป็นกลุ่มที่ได้รับผลกระทบมากที่สุด เพราะยังขาดทักษะในการแยกแยะข้อมูลที่ถูกต้อง ประเมินความน่าเชื่อถือของแหล่งข้อมูล และรับมือกับคำตอบที่ AI สร้างขึ้นอย่างมั่นใจแต่ผิดพลาด

Google โต้ รายงานไม่สะท้อนการใช้งานจริง

Google ชี้แจงว่า ฟีเจอร์ AI Search ถูกออกแบบมาเพื่อช่วยให้เด็กและวัยรุ่นเรียนรู้ได้อย่างมีประสิทธิภาพ พร้อมระบุว่าระบบมีมาตรการด้านความปลอดภัยหลายชั้น รวมถึง SafeSearch และ Family Link ที่ช่วยให้ผู้ปกครองควบคุมการใช้งานได้

บริษัทยังระบุว่า วิธีการทดสอบของ Common Sense Media ใช้ชุดคำถามที่ “จงใจสร้างขึ้น” และไม่สะท้อนพฤติกรรมการใช้งานจริงของผู้ใช้ พร้อมยืนยันว่าไม่สามารถจำลองผลลัพธ์หลายกรณีที่ปรากฏในรายงานได้

นักวิจัยเรียกร้องให้ผู้ปกครองและโรงเรียนมีสิทธิ์ปิด AI

แม้รายงานจะพบว่า AI Mode มีประสิทธิภาพในการตรวจจับความเสี่ยงได้ดีกว่า AI Overview แต่ก็ยังมีข้อผิดพลาดอยู่มาก Common Sense Media เสนอให้ Google เปิดทางเลือกให้โรงเรียนและผู้ปกครอง สามารถปิด AI Overview ได้ เพื่อให้ควบคุมการใช้งานของเด็กได้เหมาะสมยิ่งขึ้น เนื่องจากปัจจุบันฟีเจอร์ดังกล่าวเปิดใช้งานโดยอัตโนมัติ และปรากฏบนผลการค้นหาของผู้ใช้ทุกคน

ด้านนักวิจัยย้ำว่า ปัญหานี้ไม่ควรตกเป็นภาระของครูในการรับมือ แต่เป็นหน้าที่ของบริษัทเทคโนโลยีที่ต้องพัฒนา AI ให้ปลอดภัยเพียงพอ ก่อนนำไปใช้งานในระบบการศึกษาที่มีนักเรียนหลายล้านคนทั่วโลก

ที่มา pbs

หนุ่ย แซ่แต้

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol