Anthropic ยอมรับ ทำ AI หลุด ไปเจาะระบบองค์กรอื่นถึง 3 แห่ง…

หลังจากมีประเด็นที่บริษัทเทคโนโลยี AI อย่าง OpenAI ได้ออกมายอมรับว่า โมเดลของตน ได้หลุดไปเจาะระบบขององค์กรอื่น ๆ รวมถึงแพลตฟอร์ม AI อย่าง ‘Hugging Face’ ล่าสุด บริษัทคู่แข่งอย่าง Anthropic ก็ได้ออกมายอมรับว่า ‘Claude’ ซึ่งเป็นโมเดลของตนก็ได้หลุดไปโจมตีองค์กรอื่นเช่นเดียวกัน…

โดยเหตุการณ์ดังกล่าว Anthropic ชี้แจงว่าเกิดขึ้นระหว่างการทดสอบด้านความปลอดภัยไซเบอร์ ตั้งแต่ช่วงเดือนเมษายนที่ผ่านมา แต่เนื่องจากข้อผิดพลาดในการตั้งค่าระบบ จึงทำให้โมเดลสามารถเข้าถึงอินเทอร์เน็ต และแฮ็กเข้าสู่ระบบองค์กรอื่นถึง 3 แห่ง

แม้ทางบริษัทจะไม่ได้ออกมาเปิดเผยว่าทั้ง 3 แห่ง คือองค์กรใด แต่ได้มีการแจ้งให้องค์กรที่ได้รับผลกระทบรับทราบเป็นที่เรียบร้อยแล้ว โดย Anthropic เอง ยังออกมาเรียกร้องให้บริษัทด้าน AI เจ้าอื่น ๆ ทำการตรวจสอบในลักษณะเดียวกัน เพื่อให้เข้าใจถึงความเสี่ยงจากโมเดล AI ของตนเองได้ดียิ่งขึ้นอีกด้วย

Anthropic ยังได้กล่าวอีกว่า จากการตรวจสอบบันทึกการทดสอบมากกว่า 140,000 ครั้ง พบว่าปัญหามาจากการทดสอบ ‘Capture the Flag (CTF)’ ซึ่ง Claude ได้รับมอบหมายให้พยายามเข้าถึงข้อมูลโดยการเจาะระบบอื่น ๆ ซึ่งเป็นวิธีที่ผู้เชี่ยวชาญด้านความปลอดภัยไซเบอร์นิยมใช้ในการประเมินความสามารถในการแฮ็กของโมเดล AI แต่กลับเกิดการตั้งค่าผิดพลาดทำให้ตัวโมเดลสามารถเชื่อมต่อกับอินเทอร์เน็ต และเจาะเข้าสู่ระบบขององค์กรภายนอก จนเกิดเหตุครั้งนี้ขึ้น

ซึ่งทั้ง Anthropic เอง และองค์กรอีก 3 แห่ง ที่ได้รับผลกระทบต่างไม่ทราบถึงการบุกรุกที่เกิดขึ้นในเวลานั้นเลย จนกระทั่งมีการตรวจสอบย้อนหลัง

และจากกระแสทิศทางโลก ที่เน้นไปในการลงทุนด้าน AI ก็มีหลายครั้งที่เทคโนโลยีนี้ ถูกนำมาใช้ในการโจมตีทางไซเบอร์ จนทำให้เกิดเสียงเรียกร้องให้มีมาตรการป้องกัน และกำกับดูแลที่เข้มงวดมากขึ้น จากการที่ AI มีความสามารถสูงขึ้น จากการพัฒนาอย่างต่อเนื่อง

ด้านประธานาธิบดีสหรัฐฯ โดนัลด์ ทรัมป์ (Donald Trump) กล่าวในวันที่ 29 กรกฎาคม ที่ผ่านมาเช่นกัน ว่ารัฐบาลสหรัฐฯ กำลังพิจารณามาตรการควบคุมเครื่องมือ AI หลังเกิดเหตุจากประเด็นดังกล่าว

อย่างไรก็ตาม มีหลายฝ่ายจับตามองว่าเหตุการณ์ที่เกิดขึ้นจากทั้ง 2 บริษัท AI ดูมีความน่าสงสัยบางอย่าง เนื่องจากเป็นจังหวะที่ทั้ง OpenAI และ Anthropic กำลังเตรียมเข้าจดทะเบียนในตลาดหลักทรัพย์ (IPO) ทำให้เกิดคำถามว่านี่อาจเป็นการแสดงศักยภาพของ AI ของบริษัท เพื่อสะท้อนถึงความสามารถอันล้ำหน้าก่อนการเข้า IPO หรือไม่

โดยหลังจาก IPO คาดว่าจะทำให้แต่ละบริษัท มีมูลค่าแตะหลัก 1 ล้านล้านเหรียญ (ประมาณ 33 ล้านล้านบาท) เลยทีเดียว

ที่มา: BBC

บดินทร์ ตันวิเชียร

'ช่างภาพ' ที่เขียนคอนเทนต์ได้ หาเงินซื้อเปียกให้แมว 3 ตัว ที่บ้าน