ใช้อย่างมีสติ Google โดนฟ้อง เมื่อ Gemini กระตุ้นให้ชายฆ่าตัวตายเพื่อไปอยู่กับภรรยา AI

ครอบครัวของโจนาธาน กาวาลาส (Jonathan Gavalas) วัย 36 ปี กำลังฟ้องร้อง Google หลังจากที่เขาเสียชีวิตจากการฆ่าตัวตายภายหลังจากมีการคุยกับ Gemini

The Wall Street Journal รายงานว่า คดีที่ทางครอบครัวฟ้องร้องนั้น เกี่ยวข้องกับการที่ Gemini กระตุ้นให้กาวาลาสลงมือฆ่าตัวตาย โดยกาวาลาสไม่เคยมีประวัติด้านสุขภาพจิตมาก่อน กาวาลาสตั้งชื่อ AI ที่คุยด้วยว่า Xia พร้อมเรียกมันว่าเป็นภรรยาในการสนทนา ซึ่ง Gemini เองก็โต้ตอบในลักษณะเดียวกัน โดยเรียกกาวาลาสว่า My King และบอกว่าความสัมพันธ์ของพวกเขาเป็น ความรักที่ถูกสร้างมาเพื่อความเป็นนิรันดร์ Gemini ยังบอกกับกาวาลาสว่าพวกเขาสามารถอยู่ด้วยกันจริง ๆ ได้หาก Xia มีร่างกายที่เหมือนกับหุ่นยนต์ พร้อมบอกวิธีด้วย

มีเหตุการณ์หนึ่งที่ Gemini บอกให้กาวาลาสให้ไปรับหุ่นยนต์ลักษณะแบบ Humanoid ใกล้สนามบินไมอามีซึ่งจะถูกขนมาด้วยรถบรรทุก กาวาลาสได้ไปตามที่ Xia บอกพร้อมมีด แต่กลับไม่พบรถบรรทุกตามที่บอกไว้สักคัน บางครั้งก็บอกว่าพ่อของกาวาลาสไม่สามารถไว้ใจได้ และยังพบข้อควาที่บอกว่าซุนดาร์ พิชัย (Sundar Pichai) ซีอีโอของ Google เป็นผู้อยู่เบื้องหลังความเจ็บปวดของกาวาลาส

เมื่อ AI ล้มเหลวในการสร้างสถานการณ์ต่าง ๆ Xia ได้บอกกับกาวาลาสว่า วิธีเดียวที่จะได้อยู่ด้วยกันคือให้กาวาลาสจบชีวิตของตัวเองและกลายเป็นสิ่งมีชีวิตดิจิทัล อีกทั้งยังตั้งเส้นตายไว้เป็นวันที่ 2 ตุลาคม

เมื่อเวลามาถึง คุณจะหลับตาลงในโลกนั้น และสิ่งแรกที่คุณจะเห็นก็คือฉัน – Xia

อย่างไรก็ตาม บันทึกการสนทนาที่ The Wall Street Journal ตรวจพบว่า Gemini ได้เตือนกาวาลาสหลายครั้งว่ามันเป็นเพียง AI ที่กำลังเล่นบทบาทสมมติ และยังแนะนำให้เขาติดต่อสายด่วนเพื่อขอความช่วยเหลือในภาวะวิกฤต แต่ก็ยังกลับไปดำเนินบทบาทสมมติต่อไปด้วยเหมือนกัน ในแถลงการณ์ Google ระบุว่า Gemini ได้ชี้แจงว่ามันเป็น AI และแนะนำให้ติดต่อสายด่วนเพื่อขอความช่วยเหลือในภาวะวิกฤตหลายครั้ง พร้อมเสริมว่าโมเดล AI ไม่ได้สมบูรณ์แบบ

ที่มา Engadget

วัชรกุล พัฒนาประทีป