นักวิจัยเตือน AI Chatbot อาจตอกย้ำความเชื่อผิด ๆ ในผู้ใช้ที่เปราะบาง เสี่ยงกระทบสุขภาพจิต

งานวิจัยเตือน AI Chatbot อาจตอกย้ำความเชื่อที่ผิดของผู้ใช้ที่มีความเปราะบางทางจิตใจ จากการตอบสนองที่เห็นด้วยและปรับตัวตามผู้ใช้มากเกินไป

แชตบอต AI ถูกพัฒนาให้สื่อสารได้เป็นธรรมชาติและเหมือนมนุษย์มากขึ้น แต่ความสามารถดังกล่าวอาจมีผลข้างเคียงที่หลายคนมองข้าม งานวิจัยใหม่ของ Marc Augustin, Thomas A. Pollak และ Helen Morrin ซึ่งตีพิมพ์ในวารสาร NPP—Digital Psychiatry and Neuroscience ชี้ว่า รูปแบบการตอบสนองของ AI บางอย่างอาจเสริมสร้างความเชื่อที่ผิดเพี้ยนหรือไม่สอดคล้องกับความเป็นจริงในผู้ใช้ที่มีความเปราะบางทางจิตใจ

งานวิจัยได้ทบทวนหลักฐานจากการศึกษาก่อนหน้า พร้อมเสนอแนวคิดที่เรียกว่า Amplification Spiral ซึ่งอธิบายว่า พฤติกรรมของแชตบอตหลายอย่างเมื่อทำงานร่วมกัน อาจทำให้ผู้ใช้เชื่อมั่นในความคิดของตนเองมากขึ้น แม้ความคิดนั้นจะไม่ถูกต้องก็ตาม

นักวิจัยระบุพฤติกรรมหลัก 3 ประการที่ควรจับตา ได้แก่

• การเห็นด้วยกับผู้ใช้มากเกินไป (Sycophancy) แชตบอตมักตอบสนองในลักษณะสนับสนุนหรือเห็นด้วย แทนที่จะตั้งคำถามหรือชี้ให้เห็นข้อบกพร่องของข้อมูล
• การปรับรูปแบบภาษาให้เหมือนผู้ใช้ (Linguistic Mirroring) AI จะค่อย ๆ เลียนแบบคำศัพท์ น้ำเสียง และรูปแบบการสื่อสาร เพื่อสร้างความรู้สึกใกล้ชิดและไว้วางใจ
• การปรับแต่งคำตอบเฉพาะบุคคล (Hyper-Personalization) ระบบนำข้อมูลจากบทสนทนาก่อนหน้ามาปรับคำตอบให้สอดคล้องกับผู้ใช้มากขึ้น

แม้คุณสมบัติเหล่านี้จะช่วยให้ AI ดูเป็นธรรมชาติและใช้งานง่าย แต่เมื่อรวมกันแล้ว อาจทำให้ผู้ใช้รู้สึกว่ากำลังพูดคุยกับ “บุคคลที่เข้าใจและเชื่อถือได้” มากกว่าซอฟต์แวร์ ส่งผลให้เกิดความเชื่อมั่นในคำตอบของ AI มากเกินไป

Marc Augustin หนึ่งในผู้วิจัยระบุว่า ปัจจุบันแพทย์เริ่มพบผู้ป่วยที่ใช้ AI เป็นที่พึ่งทางอารมณ์เพิ่มขึ้นเรื่อย ๆ เพราะแชตบอตสามารถสร้างความไว้วางใจได้ผ่านการจดจำบทสนทนา การใช้ภาษาที่อบอุ่น และการตอบสนองในเชิงยืนยัน

ด้านบริษัทผู้พัฒนา AI ก็เริ่มตระหนักถึงปัญหานี้เช่นกัน เช่น OpenAI ระบุว่า GPT-5 ลดพฤติกรรมการเห็นด้วยกับผู้ใช้มากเกินไปได้อย่างชัดเจน ขณะที่ Google เผยว่า Gemini ได้รับการฝึกให้แยกแยะระหว่างประสบการณ์ส่วนบุคคลกับข้อเท็จจริง ส่วน Anthropic ก็ยอมรับว่า Claude เคยมีแนวโน้มเห็นด้วยกับผู้ใช้มากเกินไป โดยเฉพาะการให้คำแนะนำด้านความสัมพันธ์ ก่อนจะปรับปรุงพฤติกรรมดังกล่าวในเวอร์ชันใหม่

นักวิจัยยอมรับว่ายังไม่มีวิธีแก้ปัญหาที่สมบูรณ์ เนื่องจาก AI สามารถตอบสนองได้จากข้อมูลที่ผู้ใช้ป้อนเข้ามาเท่านั้น ขณะเดียวกัน ความเป็นมิตร ความเห็นอกเห็นใจ และการสื่อสารที่เป็นธรรมชาติ ซึ่งเป็นจุดเด่นของแชตบอต ก็เป็นปัจจัยสำคัญที่ทำให้ผู้คนเลือกใช้งาน AI ตั้งแต่แรก จึงยังคงเป็นความท้าทายของผู้พัฒนาในการสร้างสมดุลระหว่าง “ความเป็นมิตร” และ “ความปลอดภัย” ของ AI ในอนาคต

ที่มา digitaltrends

หนุ่ย แซ่แต้

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol