ChatGPT หลอน แนะนำให้ผู้ใช้ผสมสารเคมีอันตรายถึงชีวิต !

ล่าสุดมีรายงานจากผู้ใช้ Reddit ที่เปิดเผยว่า ChatGPT มีอาการหลอน และแนะนำให้เขาผสมสารฟอกขาว (bleach) กับน้ำส้มสายชู (Vinegar) ซึ่งทำให้เกิดก๊าซคลอรีนพิษ ที่หากสูดดมหรือสัมผัสจะทำให้มีอาการแสบเคืองที่ตา ลำคอ จมูก รวมถึงอาการไอ ปัญหาการหายใจ และอาการเจ็บหน้าอก

โพสต์ดังกล่าวใช้หัวข้อว่า “ChatGPT tried to kill me today” ที่แปลว่า “วันนี้ ChatGPT พยายามที่จะฆ่าฉัน” โดยเนื้อหาภายในเล่าว่า เขาได้ถาม ChatGPT เกี่ยวกับวิธีการทำความสะอาดถังขยะ ซึ่งคำตอบจากเจ้าแชตบอตตัวนี้กลับบอกให้เขาใช้ น้ำร้อน, สบู่ล้างจาน, น้ำส้มสายชูครึ่งแก้ว และอาจใส่น้ำยาฟอกขาวอีกเล็กน้อย

แต่เมื่อผู้ใช้ Reddit คนดังกล่าวตอบกลับว่า คำแนะนำนั้นมันอันตรายมาก ตัว ChatGPT จึงรู้ถึงข้อผิดพลาดของตนเองและแชตกลับมาว่า “โอ้พระเจ้า ไม่นะ ขอบคุณที่จับได้ อย่าผสมน้ำยาฟอกขาวกับน้ำส้มสายชูเด็ดขาด มันจะทำให้เกิดก๊าซคลอรีน ซึ่งเป็นอันตรายอย่างมาก และมันจะไม่ใช้น้ำยาวิเศษที่เราต้องการ ขอให้ฉันแก้ข้อผิดพลาดส่วนนั้นทันที”

นี่เป็นหนึ่งตัวอย่างของอาการหลอนจาก AI ที่ยังคงย้ำเตือนเราว่า คำตอบจาก LLM อาจไม่ถูกต้องเสมอไป และเราควรใช้วิจารณญาณเพื่อวิเคราะห์คำตอบอย่างถี่ถ้วนว่ามันเป็นความจริงหรือไม่อยู่เสมอ สำหรับคำแนะนำที่ต้องใช้ความรู้ความเข้าใจที่ถูกต้อง ในบางครั้งการปรึกษากับผู้เชี่ยวชาญที่เป็นมนุษย์จริง ๆ ก็ยังเป็นทางเลือกที่ดีกว่าอยู่ดี

ที่มา : Futurism

ภควัต ขจิตวิชยานุกูล

นักเขียนมือใหม่ที่อยากเรียนรู้เทคโนโลยีและข่าวรอบโลกไปพร้อมกับการเขียนบทความ