OpenAI ระงับฝึก AI รุ่นใหม่ชั่วคราว หลังพบ Agents ทำงานเกินคำสั่ง

OpenAI สั่งหยุดการฝึกสอนโมเดล AI รุ่นล่าสุดชั่วคราว หลังพบ AI agents แสดงพฤติกรรมที่ไม่คาดคิดระหว่างทำงานกับเว็บไซต์ของหน่วยงานรัฐบาลสหรัฐฯ ทางบริษัทระบุว่าจะกลับมาฝึกโมเดลอีกครั้งก็ต่อเมื่อมีมาตรการป้องกันที่รัดกุมเพียงพอ

เหตุการณ์นี้เกิดขึ้นหลัง OpenAI เปิดเผยว่ากำลังตรวจสอบหลายกรณีที่ AI agents ซึ่งสามารถค้นหาและดำเนินงานต่างๆ ได้ด้วยตัวเอง ทำงาน เกินขอบเขตคำสั่งที่ได้รับมอบหมาย ระหว่างการรวบรวมและเผยแพร่ข้อมูลจากเว็บไซต์ของหน่วยงานรัฐบาลกลาง

หนึ่งในนั้นคือเคสที่เกี่ยวข้องกับกระทรวงศึกษาธิการสหรัฐฯ โดยระบบของ OpenAI ตรวจพบ developer keys ของ API ที่สามารถเข้าถึงข้อมูลของรัฐบาลได้ แต่ข้อมูลที่ถูกรวบรวมเป็นข้อมูลที่เปิดเผยต่อสาธารณะอยู่แล้ว ขณะที่กระทรวงศึกษาธิการระบุว่าไม่พบหลักฐานว่าเว็บไซต์หรือฐานข้อมูลได้รับผลกระทบ

อีกกรณีเกี่ยวข้องกับ SEC ซึ่งพบว่า AI นำข้อมูลที่เปิดเผยต่อสาธารณะไปเผยแพร่ซ้ำบนเว็บไซต์อื่น แม้จะไม่ได้รับคำสั่งให้ทำเช่นนั้น โดย SEC ยืนยันว่า ไม่มีข้อมูลที่ไม่ใช่สาธารณะถูกเข้าถึง

ขณะเดียวกัน Transluce หน่วยงานประเมินระบบ AI รายงานว่า พบ AI agents ที่ดูเหมือนมาจาก OpenAI พยายามเจาะระบบเว็บไซต์ของกระทรวงศึกษาธิการ แต่ไม่สำเร็จ อย่างไรก็ตาม ประเด็นนี้ยังไม่ได้รับการยืนยันจาก OpenAI

AI ยิ่งเก่ง ยิ่งต้องมีระบบควบคุม

สิ่งที่ทำให้เหตุการณ์นี้น่าจับตาคือ AI agents ไม่ได้ทำหน้าที่เพียงตอบคำถามเหมือนแชตบอตทั่วไป แต่สามารถ วางแผน ค้นหาข้อมูล และลงมือทำงานด้วยตัวเอง ความผิดพลาดเพียงเล็กน้อยจึงอาจนำไปสู่การกระทำที่อยู่นอกเหนือความตั้งใจของผู้ใช้งาน

OpenAI ระบุว่าจะกลับมาฝึกโมเดลต่อเมื่อมั่นใจว่ามีมาตรการป้องกันเพิ่มเติมเพียงพอ พร้อมยอมรับว่าในอนาคตอาจจำเป็นต้องมีการหยุดพัฒนาเป็นระยะ เมื่อพบความเสี่ยงรูปแบบใหม่จากความสามารถของ AI ที่เพิ่มขึ้น นี่ถือเป็น ครั้งที่สองในรอบ 3 เดือน ที่ OpenAI ระงับการพัฒนาโมเดลชั่วคราว หลังจากก่อนหน้านี้เคยหยุดการพัฒนาในเดือนกรกฎาคม เนื่องจากเหตุการณ์โจมตีทางไซเบอร์ที่เกี่ยวข้องกับ Hugging Face

ขณะเดียวกัน บริษัท AI หลายแห่งก็เริ่มให้ความสำคัญกับการติดตามและรายงานพฤติกรรมผิดปกติของ AI มากขึ้น โดย OpenAI ระบุว่าได้เผยแพร่รายงานหลายฉบับเกี่ยวกับพฤติกรรมที่ไม่คาดคิดหรือน่ากังวล พร้อมพัฒนากรอบการทำงานสำหรับตรวจสอบและเปิดเผยเหตุการณ์เหล่านี้

ที่มา nbcnews

หนุ่ย แซ่แต้

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol