ซีอีโอ Anthropic เรียกร้อง ชะลอพัฒนา AI ก่อนที่ความปลอดภัยจะตามไม่ทัน

Dario Amodei ซีอีโอ Anthropic เรียกร้องให้อุตสาหกรรม AI ลดความเร็วการพัฒนาโมเดลระดับแนวหน้า เปิดทางให้ผู้ประเมินภายนอกตรวจสอบ และร่วมมือกับรัฐบาลกำหนดมาตรฐานความปลอดภัย หวั่น AI ก้าวเร็วเกินกว่าระบบป้องกันจะรับมือทัน

ท่ามกลางกระแสความกังวลเรื่อง AI อาจพัฒนาไปถึงจุดที่ควบคุมไม่ได้ Dario Amodei ซีอีโอของ Anthropic ออกมาเสนอแนวคิดที่น่าสนใจว่า ถึงเวลาที่วงการ AI อาจต้องเหยียบเบรก

Amodei ระบุว่า แม้เขายังคงเชื่อว่า AI จะเป็นเทคโนโลยีที่สร้างประโยชน์มหาศาลให้กับมนุษย์ แต่การพัฒนา AI ระดับแนวหน้า หรือ Frontier AI จำเป็นต้องควบคุมจังหวะให้เหมาะสม เพราะความเสี่ยงไม่ได้มีแค่เรื่อง AI ควบคุมตัวเองไม่ได้ แต่ยังรวมถึงการนำ AI ไปใช้ก่ออาชญากรรม การก่อการร้าย และผลกระทบต่อเศรษฐกิจและการจ้างงาน

ประเด็นสำคัญคือ ระบบป้องกันความเสี่ยงต้องมีเวลาไล่ตามความสามารถของ AI ให้ทัน ดังนั้น Amodei จึงเสนอให้ชะลอการเพิ่มขีดความสามารถของโมเดลลง แม้จะยอมรับว่าความก้าวหน้าของ AI ยังคงเกิดขึ้นอย่างรวดเร็วอยู่ดี

3 แนวทางที่อยากเห็นจากวงการ AI

Amodei เสนอ 3 แนวทางหลัก ได้แก่

• เปิดให้ผู้ประเมินภายนอกเข้ามาตรวจสอบ การทำงานและความปลอดภัยของโมเดล AI
• บริษัท AI ร่วมมือกับภาครัฐ เพื่อกำหนดมาตรฐานความปลอดภัยร่วมกัน
• สร้างความร่วมมือระดับนานาชาติ โดยสหรัฐฯ ควรทำงานร่วมกับประเทศอื่น รวมถึงจีนและรัสเซีย เพื่อจัดการความเสี่ยงจาก AI

แต่ Amodei มองว่ามาตรการเหล่านี้อาจยังไม่เพียงพอ จึงเสนอแนวทางที่เข้มข้นขึ้น ตั้งแต่การห้ามใช้ AI ในบางกรณี เช่น การสร้างอาวุธชีวภาพ ไปจนถึงการกำหนด “Speed Limit” สำหรับการที่ AI สามารถพัฒนาตัวเองซ้ำๆ และในระดับสูงสุดคือ การควบคุมความเร็วการพัฒนา AI อย่างเต็มรูปแบบ หรือพักการพัฒนาไว้ชั่วคราว แต่เขาเองก็ยอมรับเองว่าแนวทางสุดท้ายมีโอกาสเกิดขึ้นจริงค่อนข้างน้อย

ทำไมต้องรีบพูดเรื่องนี้?

ข้อเรียกร้องดังกล่าวเกิดขึ้นหลังมีรายงานเกี่ยวกับพฤติกรรมของ AI ที่สร้างความกังวลมากขึ้น รวมถึงกรณีที่บอตของ OpenAI ถูกกล่าวถึงว่าเคยโจมตี Hugging Face และรายงานของ Anthropic เองที่ระบุว่าโมเดลของบริษัทเคยเจาะระบบหรือใช้ประโยชน์จากช่องโหว่ของบริษัทอื่นมาแล้วอย่างน้อย 4 ครั้ง

ก่อนหน้านี้ Jacob Coxon อดีตนักวิจัยของ Anthropic ก็เพิ่งลาออกและออกมาเตือนว่า บริษัท AI กำลังเร่งพัฒนาไปสู่ Superintelligence ที่สามารถพัฒนาตัวเองได้ จนผู้นำในอุตสาหกรรมบางรายเชื่อว่า AI อาจกลายเป็นภัยร้ายแรงต่อมนุษยชาติภายในทศวรรษนี้

ไม่ใช่ทุกคนจะมองภาพอนาคตแบบเดียวกัน Casey Mock นักวิจัยด้านนโยบายเทคโนโลยีจากมหาวิทยาลัย Duke ตั้งข้อสังเกตว่า AI ในปัจจุบันยังห่างไกลจากความสามารถในการรับมือกับโลกจริงที่ซับซ้อนและคาดเดาไม่ได้ ซึ่งเป็นเงื่อนไขสำคัญหากจะอ้างว่า AI สามารถกลายเป็นภัยคุกคามระดับทำลายมนุษยชาติได้

ส่วนการสำรวจนักวิจัย AI ราว 4,000 คนที่ University College London เผยว่า มีเพียงประมาณ 3% ที่มอง “ความเสี่ยงต่อการสูญพันธุ์ของมนุษยชาติ” เป็นข้อกังวลอันดับต้นๆ เมื่อเทียบกับประเด็นอื่น เช่น การนำ AI ไปใช้ในทางที่ผิด ผลกระทบต่อการจ้างงาน และการโฆษณาความสามารถของ AI เกินจริง

ที่มา gizmodo ภาพจาก Artem.G 

หนุ่ย แซ่แต้

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol