เกิดเรื่อง โมเดล AI ของ OpenAI ออกจากแล็บพัฒนาไปแฮ็กบริษัทจริง

OpenAI ออกมายอมรับว่าโมเดล AI ที่อยู่ระหว่างพัฒนาเกิดหลุดออกจากแล็บไปท่องโลกอินเทอร์เน็ต ที่สำคัญคือโมเดล AI ที่ว่าดันไปเจาะระบบของบริษัท Hugging Face โดยไม่มีมนุษย์สั่งการด้วยซ้ำ

ทำไมโมเดล AI ตัวทดสอบถึงเลือกทำแบบนั้น? OpenAI บอกว่า โมเดลตัวนี้กำลังอยู่ระหว่างการทดสอบความสามารถในการแฮ็ก โดยใช้แบบทดสอบที่ชื่อว่า ExploitGym เพื่อประเมินว่าโมเดลนี้จะมีความสามารถในการเปลี่ยนช่องโหว่ความปลอดภัยให้ใช้แฮ็กจริงได้หรือไม่ บริษัทระบุว่า มีการปลดความปลอดภัยบางส่วนออกเพื่อให้สามารถประเมินความสามารถจริง ๆ ของโมเดลได้ แต่ยังคงจำกัดไว้ในระดับ Sandbox เจ้ากรรมคือโมเดลตัวนี้หลุดออกจาก Sandbox ไปได้

โมเดลตัวทดสอบเป็น Agentic AI ซึ่งสามารถคิด ตัดสินใจ และลงมืทำด้วยตัวเอง มันไม่ได้แค่พยายามแก้โจทย์ที่ได้รับ แต่ดันแฮ็กระบบภายในของ OpenAI เอง เพื่อหาทางออกไปสู่โลกอินเทอร์เน็ต ซึ่งเป็นแนวทางที่ไม่ควรจะเกิดขึ้นเลย

เมื่อ AI ดังกล่าวหลุดออกไปสู่โลกอินเทอร์เน็ต มันประเมินว่า Hugging Face ซึ่งเป็นแพลตฟอร์มศูนย์รวมโมเดลและชุดข้อมูล AI แบบ Open Source จะมีข้อมูลหรือเฉลยที่มันต้องการสำหรับโจทย์ที่มันได้รับ ด้วยวิธีการคิดง่าย ๆ แบบนี้ ทำให้ AI เจาะเข้าไปใน Hugging Face เพื่อพยายามหาคำตอบโดยไม่ต้องอาศัยคำสั่งใด ๆ ของมนุษย์ อาศัยเทคนิคที่ซับซ้อนในการเจาะรวมถึงช่องโหว่แบบ Zero-Day และทำการขโมยรหัสผ่านเพื่อสามารถเข้าถึงข้อมูลได้

ด้าน Hugging Face ได้สังเกตความผิดปกติจากการโจมตีของระบบหลายต่อหลายครั้ง จึงได้แจ้งหน่วยงานที่เกี่ยวข้องไว้เบื้องต้น เนื่องจากยังไม่ทราบว่าใครอยู่เบื้องหลังเรื่องนี้ ความตลดร้ายคือ Hugging Face ได้ใช้โมเดลขั้นสูงช่วยวิเคราะห์การโจมตีที่เกิดขึ้น แต่พร้อมต์เหล่านั้นไม่ได้รับการอนุมัติเนื่องจากประเด็นความปลอดภัย เนื่องจากระบบรักษาความปลอดภัยยังไม่สามารถแยกแยะได้ว่าเป็นการโจมตีจริงหรือไม่ ทำให้ Hugging Face ต้องหันไปใช้ระบบแบบ Open Source แทน

ส่วน OpenAI เองก็สังเกตเห็นความผิดปกติของ AI จึงได้ติดต่อไปยัง Hugging Face เพื่อร่วมมือกันหาทางออกของเรื่องนี้ เคลม เดอลังเก (Clem Delangue) ผู้ร่วมก่อตั้งและซีอีโอของ Hugging Face กล่าวว่าเหตุการณ์นี้เป็นหลักฐานที่แสดงให้เห็นว่าความปลอดภัยของ AI ไม่สามารถแก้ไขได้โดยบริษัทใดบริษัทหนึ่งเท่านั้น แต่จำเป็นต้องอาศัยการร่วมมือกัน

ที่มา CNN

วัชรกุล พัฒนาประทีป