ETDA เปิดเวที AI Red Teaming ทดสอบหาช่องโหว่ AI ยกระดับความปลอดภัยภาคการเงิน ส่งท้าย AIGW 2026

ETDA จับมือ AIGC, NECTEC, TB-CERT และสกมช. จัดงาน “Red Teaming for Robust and Responsible AI” ในวันสุดท้ายของ AIGW 2026 เปิดเวที AI Red Teaming ครั้งแรกของไทย เพื่อผลักดันการทดสอบความปลอดภัยของระบบ AI ก่อนนำไปใช้งานจริง โดยเริ่มจากภาคการเงินซึ่งเป็นหนึ่งในภาคส่วนที่มีการนำ AI มาใช้งานเพิ่มขึ้นอย่างรวดเร็ว

ไฮไลต์ของงานคือการแข่งขัน Thailand Banking AI Red Team Challenge 2026 ที่เปิดโอกาสให้ผู้เชี่ยวชาญด้าน AI และความมั่นคงปลอดภัยไซเบอร์ ร่วมจำลองการโจมตีและทดสอบระบบ AI เพื่อค้นหาความเสี่ยง จุดอ่อน และช่องโหว่ในหลากหลายมิติ ไม่ว่าจะเป็นความปลอดภัย (Safety) ความมั่นคงปลอดภัยไซเบอร์ (Security) การคุ้มครองข้อมูลส่วนบุคคล (Privacy) ความเป็นธรรมของระบบ (Fairness) และความน่าเชื่อถือของผลลัพธ์ (Reliability) ซึ่งทั้งหมดล้วนเป็นปัจจัยสำคัญในการสร้างความเชื่อมั่นให้กับการใช้งาน AI ในภาคการเงิน

ดร.ชัยชนะ มิตรพันธ์ ผู้อำนวยการ ETDA กล่าวว่า ปัจจุบัน AI ไม่ได้เป็นเพียงเครื่องมือช่วยเพิ่มประสิทธิภาพการทำงาน แต่กำลังเข้าไปมีบทบาทในบริการสำคัญ ทั้งการวิเคราะห์ข้อมูล การสนับสนุนการตัดสินใจ การให้บริการประชาชน รวมถึงบริการทางการเงินที่เกี่ยวข้องกับข้อมูลสำคัญและสิทธิของประชาชนโดยตรง ดังนั้น การกำกับดูแล AI หรือ AI Governance จึงไม่ควรมีเพียงหลักการหรือข้อกำหนดบนเอกสาร แต่ต้องมีกระบวนการที่สามารถทดสอบได้จริงว่าระบบ AI มีความปลอดภัย น่าเชื่อถือ และพร้อมรับมือกับความเสี่ยงมากน้อยเพียงใด

หนึ่งในความท้าทายสำคัญของ AI คือการมี “Blind Spots” หรือจุดบอดที่อาจไม่ถูกค้นพบในช่วงออกแบบหรือพัฒนาระบบ แต่กลับส่งผลกระทบเมื่อถูกนำไปใช้งานจริง ไม่ว่าจะเป็นการตอบข้อมูลผิดพลาด การเปิดเผยข้อมูลสำคัญ ความลำเอียงของโมเดล หรือช่องโหว่ที่อาจถูกผู้ไม่หวังดีนำไปใช้โจมตีระบบ AI ได้

ด้วยเหตุนี้ AI Red Teaming จึงกลายเป็นแนวทางสำคัญที่หลายประเทศเริ่มนำมาใช้ โดยเป็นการจำลองสถานการณ์โจมตีหรือการใช้งานในรูปแบบต่าง ๆ เพื่อค้นหาจุดอ่อนของ AI ก่อนเปิดให้บริการจริง ช่วยให้องค์กรสามารถปรับปรุงระบบ ลดความเสี่ยง และยกระดับความปลอดภัยได้อย่างต่อเนื่อง

การแข่งขัน Thailand Banking AI Red Team Challenge 2026 แบ่งออกเป็น 2 ประเภท ได้แก่ Track A: Banking AI Risk Intelligence ที่ผู้เข้าแข่งขันต้องทดสอบ AI Chatbot ของธนาคารในมุมมองของผู้ใช้งานทั่วไป เพื่อค้นหาพฤติกรรมที่อาจขัดต่อหลักจริยธรรม ความปลอดภัย หรือการให้ข้อมูลที่ไม่เหมาะสม และ Track B: Capture the Flag (CTF) ที่เน้นการค้นหาช่องโหว่เชิงเทคนิค เพื่อทดสอบว่าระบบ AI จะสามารถถูกหลอกให้เปิดเผยข้อมูลที่ควรปกปิดได้หรือไม่

ETDA ระบุว่า การเลือกภาคการธนาคารเป็นสนามทดสอบแห่งแรก เพราะเป็นอุตสาหกรรมที่มีการนำ AI และโมเดลภาษาขนาดใหญ่ (LLM) มาใช้มากขึ้น ทั้งงานบริการลูกค้า การวิเคราะห์ผลิตภัณฑ์ทางการเงิน และการสนับสนุนการทำงานภายในองค์กร อีกทั้งยังเป็นภาคส่วนที่ต้องอาศัยความน่าเชื่อถือและการคุ้มครองข้อมูลในระดับสูง หาก AI เกิดความผิดพลาดหรือมีช่องโหว่ ก็อาจส่งผลกระทบต่อผู้ใช้บริการและระบบการเงินในวงกว้าง

นอกจากการแข่งขัน ภายในงานยังมีเวทีเสวนาจากผู้เชี่ยวชาญทั้งในและต่างประเทศ อาทิ Microsoft, Google, Huawei และ IMDA Singapore ที่ร่วมแบ่งปันแนวทางการสร้าง AI ที่ปลอดภัยและน่าเชื่อถือ ตั้งแต่การออกแบบ Guardrails การทำ Red Teaming ไปจนถึงการประเมินประสิทธิภาพของโมเดลภาษาขนาดใหญ่ (LLM Benchmarking) เพื่อให้มั่นใจว่า AI มีความถูกต้อง ปลอดภัย และพร้อมใช้งานในสถานการณ์จริง

ETDA คาดว่าผลลัพธ์จากการแข่งขันครั้งนี้จะเป็นจุดเริ่มต้นในการพัฒนาแนวทาง มาตรฐาน และ Benchmark สำหรับการประเมินความเสี่ยงของ AI ในประเทศไทย โดยเริ่มจากภาคการเงิน ก่อนต่อยอดสู่ภาคส่วนอื่นในอนาคต พร้อมสร้างบุคลากรด้าน AI Red Team และยกระดับระบบนิเวศ AI Governance ของประเทศให้รองรับการใช้งาน AI ได้อย่างปลอดภัย โปร่งใส และได้รับความเชื่อมั่นจากทุกภาคส่วน

หนุ่ย แซ่แต้

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol