นักวิจัย Anthropic ลาออก พร้อมเตือนว่า AI จะล้างเผ่าพันธ์มนุษย์ได้จริง

กลายเป็นประเด็นร้อนในวงการเทคโนโลยีโลกเกิดขึ้นเมื่อเจคอบ ค็อกซอน (Jacob Coxon) นักวิจัยด้าน AI วัย 27 ปี ประกาศลาออกจาก Anthropic บริษัทผู้พัฒนา Claude อย่างเป็นทางการ พร้อมออกมาเปิดโปงและเตือนภัยร้ายแรงเกี่ยวกับการแข่งขันในอุตสาหกรรม AI ที่กำลังมุ่งหน้าสู่ระดับ Superintelligence หรือ AI ที่มีความฉลาดเหนือมนุษย์ ว่าการพัฒนาในระดับนี้ อาจนำไปสู่จุดจบของมนุษยชาติได้

ค็อกซอนใช้เวลาตลอด 3 ปีที่ผ่านมาในการทำงานวิจัยด้าน Pre-training ให้กับสองบริษัทยักษ์ใหญ่ของวงการอย่าง OpenAI และ Anthropic เขาตัดสินใจโพสต์ข้อความไวรัลผ่าน X โดยระบุว่า

ผมลาออกจาก Anthropic วันนี้ ทั้ง 2 บริษัทไม่ได้แสดงความรับผิดชอบอย่างที่ควรจะเป็น พวกเขากำลังแข่งกันมุ่งหน้าสู่การสร้าง Superintelligence ที่สามารถพัฒนาตัวเองได้ และกำลังเอาชีวิตของมนุษย์ไปเดิมพัน

เขาเตือนว่าอย่าประเมินพลังของเทคโนโลยีนี้ต่ำเกินไป เพราะระบบเหล่านี้กำลังจะกลายเป็นระบบที่มีพลังเหนือมนุษย์ที่สามารถแฮกระบบคอมพิวเตอร์ใด ๆ ก็ได้ในระดับที่สามารถปฏิวัติทุกวงการได้เพียงชั่วข้ามคืน และสามารถเข้ายึดครองอำนาจตลอดจนทรัพยากรที่มีอยู่จริงบนโลกได้

ผู้พัฒนา AI เองก็กลัวผลงานที่ตัวเองสร้างขึ้นมา ผู้บริหารและนักวิจัยระดับสูงหลายคนเชื่ออย่างหมดใจว่า AI อาจฆ่าล้างเผ่าพันธุ์มนุษย์ได้ภายในสิ้นทศวรรษนี้

แม้นักวิจัยระดับสูงจะพูดด้วยถ้อยคำที่สมเหตุสมผล ฟังดูไม่มีปัญหาอะไร และสามารถควบคุมได้เวลาพูดออกสื่อ แต่ค็อกซอนบอกว่า เบื้องหลังไม่ใช่แบบนั้น เมื่อถูกถามว่า ทั้ง ๆ ที่รู้ว่าอันตรายแล้วทำไมบริษัท AI ถึงยังเดินหน้าต่อไปแบบไม่หยุดหย่อน ค็อกซอนได้ตอบคำถามจากมุมของทั้ง 2 บริษัทเอาไว้ดังนี้

• OpenAI: คนส่วนใหญ่ในองค์กรยังไม่ได้ตระหนักถึงความเสี่ยงอย่างลึกซึ้งพอ
• Anthropic: ทุกคนเข้าใจถึงความเสี่ยงเป็นอย่างดี แต่พวกเขาติดอยู่ในวงจรการแข่งขัน พวกเขาเชื่อว่าหากตนเองไม่ทำ บริษัทอื่นก็จะทำอยู่ดี ดังนั้น Anthropic จึงต้องรีบเป็นผู้ชนะให้ได้ก่อนแม้จะมีความเสี่ยงสูงก็ตาม

อีวาน ฮูบินเจอร์ (Evan Hubinger) หัวหน้าฝ่าย Alignment Science (ทีมที่ดูแลให้ AI ปฏิบัติตามคำสั่งและไม่เป็นภัยต่อมนุษย์) ของ Anthropic ออกมาตอบกลับโพสต์ของค็อกซอนว่า

ค็อกซอนพูดถูก เราเชื่ออย่างหมดใจจริงๆ ว่า AI อาจล้างเผ่าพันธ์มนุษย์ทุกคนได้ ส่วนตัวผมคิดว่ามีโอกาส มากกว่า 10% ภายในทศวรรษหน้า

ฮูบินเจอร์ยอมรับว่า แม้ในปัจจุบันโมเดล AI จะยังมีความเสี่ยงต่ำ ส่วน Anthropic เองกำลังพยายามอย่างเต็มที่ แต่ความจริงก็คือ บริษัทยังไม่มีแผนการที่ชัดเจนในการควบคุม Superintelligence ที่อาจเกิดจากการที่ AI พัฒนาความฉลาดของตัวเองแบบก้าวกระโดด นอกจากนี้ซามูเอล มาร์กส์ (Samuel Marks) ผู้เชี่ยวชาญด้านความปลอดภัยของ Anthropic ก็ออกมายืนยันเช่นกันว่า ยิ่งพนักงานมีตำแหน่งสูงและคลุกคลีกับโมเดลมากเท่าไหร่ พวกเขาก็ยิ่งมีความกังวลเกี่ยวกับภัยคุกคามระดับสูญพันธุ์นี้มากขึ้นเท่านั้น

ค็อกซอนได้เรียกร้องให้เกิดความร่วมมือและการตกลงร่วมกันระหว่างห้องทดลองระดับโลก เขาประเมินว่าเราอาจไม่สามารถหยุดยั้งการแข่งขันระดับโลกได้หากไม่มีการสั่งระงับการพัฒนาศักยภาพของโมเดล AI ชั่วคราว

ที่มา Wired

วัชรกุล พัฒนาประทีป