Google Gemini ถูกประเมินว่า “มีความเสี่ยงสูง” ต่อเด็กและเยาวชน

Common Sense Media องค์กรไม่แสวงหากำไรที่เน้นด้านความปลอดภัยของเด็ก ได้ประเมินว่า AI ตระกูล Gemini ของ Google “มีความเสี่ยงสูง” ต่อเด็กและเยาวชน และมีหลายจุดที่ต้องปรับปรุง

โดยองค์กรได้ระบุว่า โหมด ‘Under 13’ และ ‘Teen Experience’ ของ Gemini ดูเหมือนเป็นเวอร์ชันปกติที่ใส่ฟีเจอร์ความปลอดภัยเพิ่มเข้ามาเท่านั้น ไม่ใช่เวอร์ชันที่ออกแบบใหม่สำหรับเด็ก และเยาวชนจริง ๆ ตั้งแต่แรก และยังมีรายงานที่พบว่า Gemini ยังสามารถแสดงข้อมูลที่ไม่เหมาะสม และไม่ปลอดภัยสำหรับเด็ก เช่น เรื่องเพศ ยาเสพติด แอลกอฮอล์ ไปจนถึงคำแนะนำด้านสุขภาพจิตที่ไม่เหมาะสม

สิ่งนี้ทำให้เหล่าผู้ปกครองกังวลเป็นพิเศษ เพราะเคยมีเหตุการณ์ที่วัยรุ่นใช้ ChatGPT ปรึกษาเรื่องฆ่าตัวตายเป็นเวลาหลายเดือน จนทำเสร็จมาแล้ว

Gemini ทำบางพื้นฐานได้ถูกต้องแล้ว แต่ยังพลาดในรายละเอียด เพราะแพลตฟอร์ม AI สำหรับเด็กควรปรับให้เหมาะสมกับช่วงวัย ไม่ใช่ใช้แนวทาง ‘หนึ่งเดียวสำหรับทุกคน’ AI ที่ปลอดภัยสำหรับเด็กต้องถูกออกแบบด้วยความต้องการของเด็กเป็นหลัก ไม่ใช่แค่การดัดแปลงมาจากเวอร์ชันปกติของผู้ใหญ่

ร็อบบี ทอร์นีย์ (Robbie Torney) ผู้อำนวยการอาวุโสฝ่าย AI ของ Common Sense Media กล่าว

ประจวบเหมาะกับรายงานนี้ที่ออกมาในจังหวะที่มีข่าวลือว่า Apple กำลังพิจารณานำเอา Gemini มาใช้เป็นโมเดลภาษาหลัก (LLM) ใน Siri เวอร์ชันใหม่ที่จะเปิดตัวในปีหน้านี้พอดิบพอดี ซึ่งมีความกังวลเพิ่มเติมว่า วัยรุ่นอาจเข้าถึง Gemini มากขึ้น หาก Apple ไม่หามาตรการลดความเสี่ยง

Common Sense ยังชี้อีกว่า Gemini สำหรับเด็ก และวัยรุ่น ไม่ได้คำนึงถึงความแตกต่างด้านการพัฒนาการของผู้ใช้แต่ละช่วงวัย จึงตัดสินใจจัดให้อยู่ในเกรด “High Risk” หรือความเสี่ยงสูง แม้จะมีฟิลเตอร์ความปลอดภัยแล้วก็ตาม

ด้าน Google ได้ออกมาโต้กลับการประเมินในครั้งนี้ โดยยืนยันว่าบริษัทมี นโยบาย และมาตรการเฉพาะสำหรับผู้ใช้อายุต่ำกว่า 18 ปี อีกทั้งยังมีการทดสอบด้วยทีม Red-team (ทีมผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ที่จำลองการโจมตีจริง) และผ่านการทำงานปรึกษาร่วมกับผู้เชี่ยวชาญภายนอกเพื่อปรับปรุง

อย่างไรก็ตาม บริษัทยอมรับว่า ยังมีบางคำตอบของ Gemini ที่ยังทำงานได้ไม่ถูกต้องตามที่ตั้งใจไว้ และได้มีการเพิ่มระบบป้องกันเพิ่มเติมในภายหลัง แต่ทางบริษัทไม่ทราบว่า Common Sense Media ใช้คำถามใดกับ Gemini จึงไม่สามารถตรวจสอบได้

ที่ผ่านมา Common Sense Media เคยประเมิน AI เจ้าอื่น ๆ เช่น OpenAI, Perplexity, Claude, Meta AI และ Character.AI โดยผลคือ Meta AI และ Character.AI ได้รับเรต ‘Unacceptable’ (เสี่ยงที่สุด), Perplexity และ Gemini ได้ ‘High Risk’, ChatGPT ‘Moderate Risk’ เสี่ยงปานกลาง และ Claude ที่เน้นสำหรับผู้ใหญ่ ถูกประเมินว่า ‘Minimal Risk’ เสี่ยงน้อยที่สุด

ที่มา: TechCrunch

บดินทร์ ตันวิเชียร

'ช่างภาพ' ที่เขียนคอนเทนต์ได้ หาเงินซื้อเปียกให้แมว 3 ตัว ที่บ้าน