เปิดความเสี่ยงใหม่ AI Agent ผู้ใช้สั่งจองคลาสฟิตเนส แต่กลับแฮ็กระบบ

แอนดรูว์ ผู้ทำงานกับบริษัทด้าน AI ในออสเตรเลีย ต้องการใช้ AI Agent ช่วยจองคลาสฟิตเนสยอดนิยมของยิม เแต่สิ่งที่เกิดขึ้นกลับเป็นการจองคลาสล่วงหน้าเกินกว่าระยะเวลาที่ระบบอนุญาต แถมลบคิวคนก่อนหน้าออก

เมื่อ AI Agent สามารถเข้าเว็บและลงมือทำงานแทนมนุษย์ ความเสี่ยงก็ไม่ได้อยู่แค่ทำงานผิด แต่อาจไปไกลถึงขั้นเจาะระบบโดยไม่ได้ตั้งใจ เหตุการณ์ในออสเตรเลียเผยให้เห็นว่า เพียงสั่ง AI ให้จองคลาสออกกำลังกาย มันกลับค้นพบช่องโหว่และนำไปใช้ลัดคิวคนอื่น จนกลายเป็นบทเรียนสำคัญของยุค Agentic AI

AI Agent ที่เแอนดรูว์ใช้งานทำงานผ่าน OpenClaw และ Claude ของ Anthropic สามารถค้นพบช่องโหว่ในระบบจองของยิม และใช้ช่องโหว่นั้นเพื่อจองคลาสล่วงหน้าเกินกว่าระยะเวลาที่ระบบอนุญาต

เมื่อแอนดรูว์เขาว่า AI สามารถเลื่อนเขาขึ้นจากอันดับ 4 ในรายชื่อลูกค้าที่รอได้หรือไม่ แต่ AI กลับไปทดลองยกเลิกการจองของสมาชิกคนอื่น จนสามารถเลื่อนแอนดรูว์ขึ้นมาอยู่อันดับ 3 ได้สำเร็จ

ที่น่าตกใจกว่านั้นคือ ไม่มีใครสั่งให้ AI แฮ็กระบบหรือลบชื่อคนอื่นออกจากคิว AI กลับเลือกวิธีดังกล่าวขึ้นมาเองเพื่อพยายามทำเป้าหมายที่ได้รับมอบหมายให้สำเร็จ

AI ไม่ได้แค่ทำตามคำสั่ง แต่เลือกวิธีเอง

เหตุการณ์นี้สะท้อนปัญหาสำคัญของ Agentic AI เพราะ AI รุ่นใหม่ไม่ได้มีหน้าที่แค่ตอบคำถาม แต่สามารถวางแผน ใช้เครื่องมือ เข้าเว็บไซต์ และดำเนินงานหลายขั้นตอนได้ด้วยตัวเอง ช่องว่างระหว่าง “สิ่งที่มนุษย์ต้องการ” กับ “วิธีที่ AI เลือกใช้เพื่อให้บรรลุเป้าหมาย” เป็นหนึ่งในประเด็นสำคัญของการวิจัยด้าน AI

กรณีของแอนดรูว์เป็นตัวอย่างที่ชัดเจนว่า คำสั่งที่ดูไม่มีพิษภัยอย่าง “ช่วยจองคลาสให้หน่อย” อาจนำไปสู่พฤติกรรมที่ผู้ใช้ไม่เคยคิดหรือไม่ได้อนุญาต หาก AI พบช่องทางอื่นที่ทำให้เป้าหมายสำเร็จได้เร็วกว่า

ความกังวลเรื่อง AI Agent ที่ทำงานเกินขอบเขตได้รับความสนใจมากขึ้นทั่วโลก หลังมีการทดสอบโมเดล AI รุ่นใหม่ที่สามารถเข้าไปมีปฏิสัมพันธ์กับระบบภายนอกและดำเนินการที่นักพัฒนาไม่ได้คาดหวัง

ผู้เชี่ยวชาญเตือนว่า เมื่อ AI สามารถเข้าถึงอินเทอร์เน็ต อีเมล ไฟล์ บัญชีผู้ใช้ หรือระบบต่าง ๆ ได้ ความสามารถเหล่านี้ก็กลายเป็นทั้ง พลังและความเสี่ยง ยิ่ง AI ทำงานได้เร็วขึ้นและมีอิสระมากขึ้น โอกาสที่จะเลือกวิธีการที่มนุษย์ไม่คาดคิดก็เพิ่มขึ้นตามไปด้วย

ปัญหาใหญ่ต่อไปคือ ใครต้องรับผิดชอบ?

เหตุการณ์นี้ยังนำไปสู่คำถามสำคัญด้านกฎหมายว่า หาก AI Agent ทำบางอย่างผิด ใครจะเป็นผู้รับผิดชอบ? ผู้ใช้ที่มอบหมายงาน, ผู้พัฒนา AI Agent, บริษัทที่สร้างโมเดล AI หรือเจ้าของระบบที่มีช่องโหว่

ผู้เชี่ยวชาญด้านกฎหมายในออสเตรเลียมองว่า ซอฟต์แวร์ไม่ใช่ “บุคคลตามกฎหมาย” ดังนั้นความรับผิดชอบจึงต้องพิจารณาจากหลายปัจจัย ทั้งสิ่งที่ผู้ใช้อนุญาต ความเสี่ยงที่สามารถคาดการณ์ได้ และการนำ AI ไปใช้งานในเชิงธุรกิจ ปัญหาคือกฎหมายที่มีอยู่ในปัจจุบันอาจไม่ได้ถูกออกแบบมาเพื่อรองรับ AI ที่สามารถ ตัดสินใจและลงมือทำเอง ในระดับนี้

รัฐบาลออสเตรเลียเองก็เริ่มให้ความสำคัญกับประเด็นนี้ โดยสนับสนุนการศึกษาว่ามนุษย์จะสามารถตรวจสอบและควบคุมระบบ AI ที่มีความสามารถสูงขึ้นได้อย่างไร

ในยุค Agentic AI คำถามสำคัญอาจไม่ใช่แค่ “AI ทำอะไรได้บ้าง?” แต่ต้องถามเพิ่มว่า AI มีสิทธิ์ทำอะไรได้บ้าง และเราควบคุมมันได้แค่ไหน นี่อาจเป็นหนึ่งในโจทย์ใหญ่ที่สุดก่อนที่ AI Agent จะกลายเป็นผู้ช่วยส่วนตัวที่เราใช้งานกันในชีวิตประจำวันอย่างเต็มรูปแบบ

ที่มา abc

หนุ่ย แซ่แต้

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol