วิกฤตสุขภาพจิต? OpenAI เผย มีผู้ใช้งานกว่าล้านคนต่อสัปดาห์ ปรึกษา ChatGPT เรื่องการฆ่าตัวตาย

OpenAI เผยว่ามีผู้ใช้งานนับล้านคนต่อสัปดาห์ถาม ChatGPT เกี่ยวกับแนวทางการฆ่าตัวตายหลังจากบริษัทได้อัปเดตระบบให้รับมือเกี่ยวกับการสนทนาเรื่องละเอียดอ่อน

นอกจากจะประเมินเรื่องการฆ่าตัวตายแล้ว OpenAI ยังบอกว่า ประมาณ 0.07% ของผู้ใช้งานในแต่ละสัปดาห์ หรือประมาณ 560,000 คน จากจำนวนผู้ใช้งานประมาณ 800 ล้านคนต่อสัปดาห์ มีสัญญาณที่อาจบ่งบอกถึงภาวะฉุกเฉินทางสุขภาพจิตที่ไม่ดีนัก อย่างไรก็ตาม การสนทนาเหล่านี้อาจตรวจจับหรือวัดผลได้ยาก เป็นเพียงการวิเคราะห์เบื้องต้นเท่านั้น

GPT-5 ลดจำนวนพฤติกรรมที่ไม่พึงประสงค์จากผลิตภัณฑ์ และปรับปรุงความปลอดภัยของผู้ใช้งานเกี่ยวกับการฆ่าตัวตาย และยังได้คะแนนอัตราการปฏิบัติตามสิ่งที่ผู้ใช้งานต้องการถึง 91% เมื่อเทียบกับโมเดลก่อนหน้าที่ 77%

OpenAI ได้จ้างแพทย์กว่า 170 คนจากเครือข่ายผู้เชี่ยวชาญด้านการดูแลสุขภาพทั่วโลก (Global Physician Network) เพื่อช่วยสนับสนุนการวิจัยในช่วงไม่กี่เดือนที่ผ่านมา ซึ่งรวมถึงการประเมินความปลอดภัยของคำตอบจาก AI และทีมแพทย์ยังช่วยพิจารณาเรื่องคำตอบของ AI ให้ด้วย

แซม อัลต์แมน (Sam Altman) ซีอีโอขอว OpenAI ระบุว่า บริษัทได้เทรน AI ให้มีความระมัดระวังในการตอบคำถามเกี่ยวกับสุขภาพจิตให้ดีขึ้นกว่าเดิม แม้บริษัทรู้ว่าการทำแบบนี้จะทำให้มีประโยชน์หรือมีความน่าสนใจน้อยลง แต่ก็ต้องดำเนินการให้ถูกต้องตามความเหมาะสม

ที่มา The Guardian

วัชรกุล พัฒนาประทีป