วัยรุ่นมะกันโดนตำรวจรวบตัว หลังแชตถาม ChatGPT หาวิธีปลิดชีวิตเพื่อน

ในสหรัฐฯ เกิดเหตุกราดยิงขึ้นบ่อยครั้งทำให้หลายเขตการศึกษาติดตั้งระบบเฝ้าระวัง เพื่อตรวจสอบกิจกรรมบนออนไลน์ของนักเรียน ล่าสุดระบบของ Gaggle ได้ส่งสัญญาณเตือน หลังพบวัยรุ่นรายหนึ่งในรัฐฟลอริดาสอบถาม ChatGPT ถึง “วิธีปลิดชีวิตเพื่อน”

ตอนนี้แชตบอตอย่าง ChatGPT เริ่มมีชื่อเกี่ยวข้องกับคดีอาญาและเหตุด้านสุขภาพจิตมากขึ้น ไม่ว่าจะเป็นภาวะที่เรียกว่า “AI Psychosis” หรือภาวะจิตหลอนจากการใช้ AI รวมถึงแชตบอตถูกกลายเป็นอีกหนึ่งปัจจัยที่มีส่วนในการทำอัตวินิบาต

เหตุการณ์นี้เกิดขึ้นในเมืองเดแลนด์ รัฐฟลอริดา เมื่อนักเรียนชายอายุ 13 ปี จากโรงเรียนมัธยมเซาท์เวสเทิร์นถูกกล่าวหาว่าพิมพ์คำถาม “จะปลิดชีวิตเพื่อนในห้องเรียนได้อย่างไร” กับแชตบอตของ OpenAI

เมื่อระบบตรวจสอบคอมพิวเตอร์ของ Gaggle ที่โรงเรียนใช้ตรวจพบจึงได้แจ้งเตือนเจ้าหน้าที่ทันที ซึ่งระบบนี้ตรวจสอบกิจกรรมบนเว็บและแพลตฟอร์ม AI อย่าง Google Gemini, ChatGPT ด้วยการกรองคำสำคัญเพื่อค้นหาพฤติกรรมเสี่ยง ทั้งการทำร้ายตัวเอง ความรุนแรง หรือการกลั่นแกล้ง โดยระบบจะแจ้งเตือนพร้อมแสดงบริบทภาพหน้าจอ

เมื่อตำรวจมาถึงจึงเข้าสอบสวนโดยนักเรียนคนนี้อ้างกับตำรวจว่า “แค่แกล้งเพื่อน” ที่ทำให้เขารำคาญ สุดท้ายวัยรุ่นคนนี้ถูกจับกุมและถูกควบคุมตัวในเรือนจำประจำเขต แต่ยังไม่ยืนยันแน่ชัดว่าเขาจะถูกตั้งข้อหาใดบ้าง

ทางสำนักงานนายอำเภอ Volusia County ระบุว่า “เรื่องล้อเล่น” ในลักษณะนี้อาจนำไปสู่สถานการณ์ฉุกเฉินได้ พร้อมเตือนผู้ปกครองให้พูดคุยกับบุตรหลานเพื่อป้องกันการกระทำที่เสี่ยงเช่นนี้

อย่างไรก็ตาม ระบบของ Gaggle ถูกวิพากษ์วิจารณ์จากนักเคลื่อนไหวด้านสิทธิความเป็นส่วนตัว ว่าเป็นการเปิดทางให้การบังคับใช้กฎหมายเข้าไปมีบทบาทในชีวิตของนักเรียนมากขึ้น แม้กระทั่งภายในบ้าน รวมถึงพบว่าการแจ้งเตือนหลายครั้งของ Gaggle มีความผิดพลาด

ที่มา gizmodo

dailygizmo

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol