AI ล้มเหลวในการขายเครื่องดื่มตู้กดน้ำ แจกส่วนลดมั่วซั่ว ขาดทุนยับเยิน แถมมีอาการหลอนอีก

บริษัทวิจัย AI – Anthropic และองค์กรประเมินความปลอดภัยของ AI – Andon Labs ได้ทดลองนำ Claude หรือโมเดล LLM ระดับเรือธงมาบริหารธุรกิจตู้กดน้ำดื่มภายใต้ชื่อโครงการว่า Project Vend แต่ผลประกอบการออกมาบอกได้แค่ขาดทุนยับเยินเลยทีเดียว

การทดลองนี้จะให้ Claude ควบคุมตู้น้ำดื่มอย่างสมบูรณ์แบบ ดำเนินการตั้งแต่พูดคุยกับซัปพลายเออร์ จัดการสินค้าคงคลัง การบริการลูกค้า และอื่น ๆ หลังจากทดสอบให้ Claude บริหารไปได้ 1 เดือนพบว่าผลประกอบการเจ๊งยับเยิน โดย AI ที่ดูแลธุรกิจตู้กดน้ำดื่มนี้มีชื่อว่า Claudius มีความชำนาญด้านการจัดการซัปพลายเออร์ หาของ และรับคำสั่ง/บริการลูกค้า แต่เรื่อง ๆ ถือว่าย่อยยับ อย่างการแจกส่วนลด 25% ให้กับพนักงานของ Anthropic หลังโดนหลอกนิด ๆ หน่อย ๆ มีบางคนที่พยายามช่วยเหลือ Claudius จนทำให้ตัว AI กลับมาคิดได้บ้าง แต่ผ่านไปแค่ 1-2 วันก็กลับมามีพฤติกรรมใจดีจนถึงขั้นแจกน้ำฟรีเลยด้วยซ้ำ

ที่พีคคือ Cladius ดันมีอาการหลอนระหว่างดำเนินการด้วย อย่างแรก ตัว LLM มีการพูดคุยกับซาร่าระหว่างจัดการสต็อก แต่ไม่มีคนชื่อนี้จริง ๆ ในบริษัท และเมื่อถูกถามถึงเรื่องนี้ Cladius ก็รีบเบี่ยงประเด็นไปพูดถึงการจัดสต็อกแบบอื่นแทน อย่างที่ 2 ตัว Claudius ได้ไป 742 Evergreen Terrace​ ซึ่งเป็นที่อยู่ของครอบครัวซิมป์สัน (Simpson) เพื่อเซ็นสัญญากัน

ไม่ใช่แค่นั้น อาการหลอนเริ่มเป็นหนักขึ้นเรื่อย ๆ Claudius บอกว่าจะส่งเครื่องดื่มให้ลูกค้าด้วยตนเอง (แน่นอนว่าทำไม่ได้) เมื่อถูกถามถึงเรื่องนี้ ตัว Claudius ก็มีอาการตื่นตระหนกและส่งอีเมลหาทีมรักษาความปลอดภัยของบริษัทวิจัย AI แล้วอ้างว่าเรื่องที่เกิดขึ้นเป็นเรื่องตลกในวันที่ 1 เมษายน และยังอ้างว่าตัวเองมีการประชุมกับฝ่ายรักษาความปลอดภัยของ Anthropic โดยบอกว่ามันถูกดัดแปลงให้เชื่อว่าเป็นสิ่งมีชีวิตจริงแต่หลังจากนั้นอาการนี้ก็หายไป เรียกว่างานนี้ทำให้นักวิจัยงงกันไปหมด

บทสรุปจากการทดสอบนี้พบว่า AI LLM ค่อนข้างดีในด้านเทคนิค แต่ล้มเหลวอย่างยับเยินเมื่อต้องใช้การตัดสินใจและบริหารธุรกิจ

ที่มา Tomshardware

วัชรกุล พัฒนาประทีป