ในสหรัฐฯ เกิดเหตุกราดยิงขึ้นบ่อยครั้งทำให้หลายเขตการศึกษาติดตั้งระบบเฝ้าระวัง เพื่อตรวจสอบกิจกรรมบนออนไลน์ของนักเรียน ล่าสุดระบบของ Gaggle ได้ส่งสัญญาณเตือน หลังพบวัยรุ่นรายหนึ่งในรัฐฟลอริดาสอบถาม ChatGPT ถึง “วิธีปลิดชีวิตเพื่อน” ตอนนี้แชตบอตอย่าง ChatGPT เริ่มมีชื่อเกี่ยวข้องกับคดีอาญาและเหตุด้านสุขภาพจิตมากขึ้น ไม่ว่าจะเป็นภาวะที่เรียกว่า “AI Psychosis” หรือภาวะจิตหลอนจากการใช้ AI รวมถึงแชตบอตถูกกลายเป็นอีกหนึ่งปัจจัยที่มีส่วนในการทำอัตวินิบาต เหตุการณ์นี้เกิดขึ้นในเมืองเดแลนด์ รัฐฟลอริดา เมื่อนักเรียนชายอายุ 13 ปี จากโรงเรียนมัธยมเซาท์เวสเทิร์นถูกกล่าวหาว่าพิมพ์คำถาม “จะปลิดชีวิตเพื่อนในห้องเรียนได้อย่างไร” กับแชตบอตของ OpenAI เมื่อระบบตรวจสอบคอมพิวเตอร์ของ Gaggle
