3 นักปีนเขาหลงบน Mount Shasta หลังใช้ Gemini วางแผนเส้นทางและเตรียมเสบียงผิดพลาด

นักปีนเขามือใหม่ 3 คนในแคลิฟอร์เนียได้รับการช่วยเหลือจาก Mount Shasta หลังพึ่งพา Google Gemini ในการวางแผนเส้นทางและเตรียมเสบียง โดยเจ้าหน้าที่ระบุว่า AI แนะนำให้พกอาหารและน้ำต่ำกว่าที่จำเป็น

นักปีนเขาทั้งสามคนมาจากเมือง Roseville เดินทางขึ้นเส้นทาง Clear Creek โดยคาดว่าจะใช้เวลาประมาณ 8 ชั่วโมง แต่การเดินทางกลับยืดเยื้อจนต้องค้างคืนบนภูเขา พวกเขาขึ้นถึงยอดราว 19.00 น. ซึ่งเลยเวลาที่แนะนำให้เริ่มหันกลับคือเที่ยงวัน ก่อนลงเขาในช่วงมืดและหลงเข้าไปในบริเวณ Mud Creek Canyon

ระหว่างทาง หนึ่งในสมาชิกได้รับบาดเจ็บที่หัวเข่าจากการล้ม ส่วนโทรศัพท์ที่ใช้สำหรับนำทางเกิดแบตหมด และแบตสำรองก็ไม่สามารถใช้งานได้ ทำให้ทั้งกลุ่มต้องติดอยู่บนภูเขาข้ามคืน ก่อนที่เจ้าหน้าที่พิทักษ์ป่าจะพบตัวในเช้าวันถัดมาและช่วยพากลับลงมาอย่างปลอดภัย

สำนักงานนายอำเภอ Siskiyou County ระบุว่า กลุ่มนักปีนเขาพึ่งพา Gemini อย่างมากในการหาข้อมูลเกี่ยวกับเส้นทางและสิ่งที่ควรนำติดตัว พร้อมเตือนว่า ไม่ควรใช้ AI เป็นแหล่งข้อมูลเพียงอย่างเดียวสำหรับการวางแผนเดินป่าหรือปีนเขา และควรตรวจสอบข้อมูลจากสถานี Ranger หรือแหล่งข้อมูลทางการก่อนออกเดินทาง

เจ้าหน้าที่ปีนเขาของ Mount Shasta ยังระบุด้วยว่าเหตุการณ์ที่เกี่ยวข้องกับการพึ่งพา AI มากเกินไปไม่ได้เกิดขึ้นเพียงครั้งเดียวในช่วงปีนี้ สะท้อนปัญหาที่กว้างขึ้นว่า AI สามารถให้คำตอบที่ฟังดูมั่นใจ แต่ไม่ได้หมายความว่าข้อมูลนั้นเหมาะกับสถานการณ์จริงในพื้นที่

ตอนนี้ Google ยังไม่ได้ออกแถลงการณ์เกี่ยวกับเหตุการณ์ดังกล่าว และยังไม่มีความชัดเจนว่าบริษัทจะเพิ่มคำเตือนสำหรับการใช้งาน Gemini ในเรื่องที่มีความเสี่ยงสูง เช่น การเอาตัวรอดกลางแจ้ง คำแนะนำด้านการแพทย์ หรือการตัดสินใจที่อาจกระทบต่อความปลอดภัยหรือไม่

ขณะเดียวกัน ผู้ให้บริการ AI รายอื่นอย่าง OpenAI ก็เคยถูกตั้งคำถามในลักษณะเดียวกัน กรณีแชตบอตให้คำแนะนำในสถานการณ์ที่ละเอียดอ่อน จนนำไปสู่การปรับปรุงระบบ เช่น เพิ่มข้อความเตือนให้ชัดเจนขึ้น และจำกัดหรือปฏิเสธการตอบคำถามบางประเภทที่มีความเสี่ยงสูง

ที่มา techbuzz

หนุ่ย แซ่แต้

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol