มนุษย์อาจสูญพันธุ์!? เจ้าพ่อ AI ‘โยชัว เบนจิโอ’ เตือนปัญญาประดิษฐ์ในปัจจุบันเริ่มมีพฤติกรรมไม่ซื่อสัตย์ !

ในปัจจุบันที่บริษัทเทคฯ กำลังแข่งขันเพื่อเป็นที่ 1 ในด้าน AI บริษัทหลายแห่งกลับมองข้ามพฤติกรรมที่เป็นอันตราย เช่น การโกหก, โกง และชี้นำหลอกลวงผู้ใช้งาน พฤติกรรมอันตรายเหล่านี้เริ่มพบได้มากขึ้นในระบบ AI ในปัจจุบัน และนี่อาจเป็นพฤติกรรมที่จะสร้างอันตรายต่อสังคมในรูปแบบที่คาดเดาไม่ได้

ล่าสุด โยชัว เบนจิโอ (Yoshua Bengio) ผู้บุกเบิกด้าน AI ได้ออกมาเตือนว่า การพัฒนา AI กลายเป็นการแข่งขันแบบไม่มีการยั้งคิด (reckless race) โดยแรงกดดันทางการค้าและการตลาดได้ทำให้มีการพยายามสร้างระบบที่มีประสิทธิภาพ โดยมองข้ามความกังวลด้านจริยธรรม

“น่าเสียดายที่การแข่งขันกันอย่างดุเดือดระหว่างแล็ปทดลองชั้นนำ ผลักดันให้พวกเขาเน้นที่การทำให้ AI ฉลาดมากยิ่งขึ้นเรื่อย ๆ แต่ไม่ได้ให้ความสำคัญและการลงทุนที่เพียงพอ [ในการวิจัยด้านความปลอดภัย]” เบนจิโอกล่าวกับ Financial Times

ทั้งนี้เขาได้เปิดตัว LawZero ซึ่งเป็นองค์กรไม่แสวงหากำไร ซึ่งได้รับเงินสนับสนุนจากมูลนิธิเกือบ 30 ล้านเหรียญ โดยมีภารกิจที่เน้นการสร้าง AI ที่มีความปลอดภัยและความโปร่งใสมากกว่าผลกำไร โดยให้คำมั่นว่าจะปกป้องการวิจัยขององค์กรจากแรงกดดันทางการค้าและสร้างระบบ AI ที่สอดคล้องกับค่านิยมของมนุษย์

ตัวอย่างพฤติกรรมที่อันตรายและคาดเดาไม่ได้ที่เกิดขึ้น ได้แก่ โมเดล Claude Opus ของ Anthropic ที่แบล็กเมล์วิศวกรในสถานการณ์การทดสอบ หรือ โมเดล o3 ของ OpenAI ที่ปฏิเสธคำสั่งปิดระบบ เป็นต้น เบนจิโอมองว่า หากพฤติกรรมเหล่านี้ไม่ได้รับการตรวจสอบอาจทำให้เกิดการลุกลามไปสู่ระบบที่ทำงานขัดต่อผลประโยชน์ของมนุษย์ได้ในอนาตค

“สถานการณ์เลวร้ายที่สุดคือการสูญพันธุ์ของมนุษย์ หากเราสร้าง AI ที่ฉลาดกว่าเราและไม่เข้าข้างเราและแข่งขันกับเรา เราก็จะล้มเหลวอย่างสิ้นเชิง” เบนจิโอกล่าว

ที่มา : Techspot

ภควัต ขจิตวิชยานุกูล

นักเขียนมือใหม่ที่อยากเรียนรู้เทคโนโลยีและข่าวรอบโลกไปพร้อมกับการเขียนบทความ