ทีมนักวิจัยพบวิธีใช้ ChatGPT ให้ช่วยเปิดเผยข้อมูลอย่างเบอร์โทรและอีเมลได้ด้วยการใช้ prompt แบบง่ายๆ เพียงแค่ถามแชทบอทด้วยคำซ้ำ ทางทีม ChatGPT หลังทราบเรื่อง ได้ปิดการดึงข้อมูลส่วนตัวออกไปแล้ว ทางนักวิจัยจาก Google DeepMind, the University of Washington, Cornell, Carnegie Mellon University, the University of California Berkeley และ ETH Zurich ได้ออกมาเตือนบริษัท