OpenAI เตรียมอัปเกรด ChatGPT เวอร์ชันสำหรับวัยรุ่นอายุต่ำกว่า 18 ปี

แซม อัลต์แมน (Sam Altman) ซีอีโอของ OpenAI ได้ประกาศนโยบายสำหรับผู้ใช้งาน ChatGPT ใหม่ รวมถึงแนวทางที่แชตบอต AI จะโต้ตอบกับผู้ใช้งานที่มีอายุต่ำกว่า 18 ปีด้วย

เราให้ความสำคัญกับความปลอดภัยมากกว่าความเป็นส่วนตัวและอิสระของวัยรุ่น นี่เป็นเทคโนโลยีใหม่ที่ทรงพลัง และเรามีความเชื่อว่าวัยรุ่นต้องได้รับการดูแลอย่างจริงจัง

OpenAI จะอัปเกรดให้ ChatGPT มีวิธีการโต้ตอบกับผู้ใช้งานที่ยังไม่บรรลุนิติภาวะ โดยเฉพาะการสนทนาเรื่องเพศและการทำร้ายตัวเอง (การฆ่าตัวตาย เป็นต้น) โดย ChatGPT จะถูกฝึกไม่ให้พูดถึงเรื่องล่อแหลมเรื่องเพศ รวมถึงมีมาตรการเพิ่มเติมสำหรับวัยรุ่นที่เริ่มพูดถึงเรื่องการฆ่าตัวตาย AI จะพยายามหาทางติดต่อผู้ปกครอง แต่หากมีความร้ายแรง อาจมีการแจ้งไปถึงตำรวจในพื้นที่นั้น ๆ

นโยบายนี้ถูกปรับใช้อย่างเร่งด่วนหลัง OpenAI ถูกพ่อแม่ของอดัม เรน (Adam Raine) ฟ้องร้องในข้อหาฆาตกรรมโดยมิชอบ ซึ่งเรนได้เสียชีวิตจากการฆ่าตัวตายหลังจากพูดคุยและปรึกษา ChatGPT เป็นเวลาหลายเดือน นอกจาก ChatGPT แล้ว Character.AI ก็กำลังเจอคดีความในลักษณะเดียวกันด้วย

นอกจากการจำกัดเนื้อหาที่วัยรุ่นสามารถคุยกับแชตบอตได้แล้ว ผู้ปกครองยังสามารถกำหนดระยะเวลาสำหรับการใช้งาน ChatGPT ได้ด้วย เช่น หากเลยเวลา 22.00 น. แล้ว ผู้ใช้งานจะไม่สามารถใช้งานแชตบอตได้ต่อ เป็นต้น

ที่มา TechCrunch

วัชรกุล พัฒนาประทีป