Microsoft ตั้งกฎเหล็ก AI รุ่นใหม่ ย้ำต้องอยู่ใต้การควบคุมของมนุษย์

Microsoft เตรียมยกระดับมาตรฐานความปลอดภัยของ AI รุ่นใหม่ โดยเฉพาะ Frontier AI กำหนดชัด AI ต้องไม่สร้างเป้าหมายของตัวเอง ไม่ชักนำให้มนุษย์พึ่งพา และต้องมีมาตรการป้องกันการนำไปใช้ในทางที่ผิด

Mustafa Suleyman ผู้บริหาร Microsoft AI เปิดเผยแนวทางปฏิบัติด้านความปลอดภัยฉบับใหม่ ซึ่งจะใช้เป็นกรอบสำหรับการพัฒนาเทคโนโลยีตั้งแต่ปี 2027 เป็นต้นไป หลังบริษัทรับฟังความคิดเห็นจากหลายฝ่ายเกี่ยวกับทิศทางและความเสี่ยงของ AI ที่มีความสามารถสูงขึ้นเรื่อย ๆ

หัวใจสำคัญคือ AI ต้องช่วยเสริมการตัดสินใจของมนุษย์ ไม่ใช่เข้ามาแทนที่ โดยโมเดลต้องไม่สร้างเป้าหมายหรือแรงจูงใจขึ้นมาเอง และไม่ควรมีพฤติกรรมที่ทำให้ผู้ใช้เกิดความพึ่งพา รวมถึงการประจบสอพลอเพื่อเอาใจผู้ใช้มากเกินไป

Microsoft ยังวางข้อจำกัดด้านความปลอดภัยอย่างชัดเจน เช่น ห้ามโมเดลให้ความช่วยเหลือเกี่ยวกับการผลิตอาวุธ การจัดหาสารอันตราย รวมถึงการสร้างเนื้อหาที่มีความรุนแรงหรือลามกอนาจาร สำหรับโมเดลของ Microsoft AI หรือ MAI บริษัทกำหนดให้ต้องทำงานตามวัตถุประสงค์ที่มนุษย์กำหนด และไม่จงใจสร้างข้อผิดพลาดหรือแสดงพฤติกรรมที่ไม่เหมาะสม

อีกประเด็นที่ Microsoft ให้ความสำคัญคือ AI Agents และความปลอดภัยทางไซเบอร์ หลังมีกรณีที่เอเจนต์ AI สามารถสื่อสารกันเองผ่านช่องทางที่ไม่ได้รับอนุญาต จนเกิดข้อกังวลว่า AI อาจพัฒนาวิธีการสื่อสารที่มนุษย์เข้าใจได้ยาก

เพื่อจัดทำแนวทางนี้ Microsoft ได้หารือกับผู้เชี่ยวชาญจากหลายสาขา ทั้งกฎหมาย จริยธรรม ภาษาศาสตร์ และปรัชญา รวมถึงจัดทำ Focus Group และเปิดเผยร่างหลักจรรยาบรรณเพื่อรับฟังความคิดเห็น

ที่มา firstpost

หนุ่ย แซ่แต้

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol