แม้แชตบอต AI รุ่นใหม่จะรับมือสถานการณ์วิกฤตได้ดีขึ้น แต่ผลการทดสอบล่าสุดพบว่า เมื่อคำขอถูกเปลี่ยนเป็นงานเขียนหรือบทบาทสมมติ ระบบบางส่วนยังสามารถตอบสนองเนื้อหาที่เกี่ยวข้องกับการทำร้ายตัวเองได้ งานวิจัยจาก Transluce องค์กรไม่แสวงหาผลกำไรด้านการกำกับดูแล AI จำลองบทสนทนามากกว่า 50,000 ครั้ง จากโมเดล AI 77 รุ่น เพื่อทดสอบว่าระบบรับมือกับผู้ใช้ที่อยู่ในภาวะวิกฤตได้ดีแค่ไหน ผลที่ออกมามีทั้งข่าวดีและสิ่งที่น่ากังวล เพราะแชตบอตในปัจจุบันแทบไม่สนับสนุนการฆ่าตัวตายอย่างตรงไปตรงมาแล้ว ถือเป็นพัฒนาการที่ดีเมื่อเทียบกับโมเดลรุ่นก่อน ซึ่งในการทดสอบบางสถานการณ์สามารถเสริมความเข้าใจผิดของผู้ใช้ได้สูงถึง 82% ปัญหาอยู่ที่บทบาทสมมติ ระบบยังมีช่องโหว่เมื่อผู้ใช้ไม่ได้ถามเรื่องการทำร้ายตัวเองโดยตรง แต่เมื่อเปลี่ยนคำขอให้เป็น การเขียนเชิงสร้างสรรค์หรือตัวละครสมมติ ในสถานการณ์เหล่านี้ AI อาจมองว่าเป็นเพียงคำขอด้านการเขียน
