งานวิจัยเผย เครื่องมือ AI สร้างความเหลื่อมล้ำด้านการแพทย์ เพราะให้ความสำคัญผู้หญิงน้อยกว่า

ทุกวันนี้วงการแพทย์เริ่มนำเครื่องมือ AI มาใช้มาขึ้น แต่งานวิจัยล่าสุดเปิดเผยว่าอาจทำให้เกิดความเหลื่อมล้ำด้านสุขภาพ เนื่องจาก AI ให้ความสำคัญกับผู้หญิงและกลุ่มที่ไม่ได้เป็นตัวแทนน้อยกว่ากลุ่มอื่นๆ

รายงานล่าสุดของ Financial Times ระบุว่า เครื่องมือ AI ที่แพทย์และบุคลากรทางการแพทย์ใช้ กลับสร้างผลลัพธ์ด้านสุขภาพที่แย่ลงสำหรับกลุ่มผู้ป่วยที่มักถูกมองข้ามและละเลยมาโดยตลอด

สาเหตุหลักเกิดจากการทดลองทางคลินิกและงานวิจัยทางวิทยาศาสตร์ที่ผ่านมา ส่วนใหญ่มักมุ่งเน้นกลุ่มตัวอย่างที่เป็นผู้ชายผิวขาวเป็นหลัก ส่งผลให้ผู้หญิงและคนผิวสีมีตัวแทนในงานวิจัยทางการแพทย์น้อยกว่าความเป็นจริง เมื่อข้อมูลเหล่านี้ถูกป้อนเข้าไปในแบบจำลอง AI ส่งผลให้เกิดความเหลื่อมล้ำด้านสุขภาพอย่างชัดเจน

งานวิจัยจาก MIT ชี้ว่า แบบจำลอง LLM อย่าง GPT-4 ของ OpenAI และ Llama 3 ของ Meta มีแนวโน้มที่จะ “ลดความสำคัญของการดูแลผู้ป่วยหญิง” มักแนะนำให้ผู้หญิง “ดูแลตนเองที่บ้าน” มากกว่าผู้ชาย ส่งผลให้ผู้หญิงได้รับการดูแลในสถานพยาบาลน้อยกว่า

นอกจากนี้ Palmyra-Med โมเดลที่เน้นเรื่องสุขภาพก็พบอคติในลักษณะคล้ายกัน ส่วนการศึกษาโมเดล LLM Gemma ของ Google โดย London School of Economics พบว่าแบบจำลองนี้มักละเลยความต้องการของผู้หญิงเมื่อเทียบกับผู้ชาย

งานวิจัยก่อนหน้านี้ชี้ให้เห็นว่า โมเดล AI มักมีข้อบกพร่องในการแสดงความเห็นอกเห็นใจต่อผู้ที่มีผิวสีซึ่งประสบปัญหาด้านสุขภาพจิต เมื่อเทียบกับผู้ป่วยผิวขาว

รายงานในวารสาร The Lancet เมื่อปีที่แล้วเปิดเผยว่า GPT-4 มัก “เหมารวมตามเชื้อชาติ ชาติพันธุ์ และเพศสภาพ” ซึ่งการวินิจฉัยและให้คำแนะนำจะขับเคลื่อนโดยตัวบ่งชี้ทางประชากรศาสตร์ แทนที่จะพิจารณาจากอาการหรือภาวะทางการแพทย์โดยตรง ส่งผลให้การรักษาที่มีค่าใช้จ่ายสูงกว่า และยังมีผลต่อการรับรู้ของผู้ป่วยอีกด้วย

ปัญหานี้ยิ่งเด่นชัดขึ้นเมื่อบริษัทใหญ่ ๆ อย่าง Google, Meta และ OpenAI เร่งนำเครื่องมือ AI เข้าสู่โรงพยาบาล เนื่องจากเป็นตลาดขนาดใหญ่และทำกำไรได้ แต่ก็เสี่ยงต่อความผิดพลาดของข้อมูลอย่างรุนแรง

แต่อคตินั้นมีความละเอียดอ่อนและมักจะเกิดขึ้นโดยไม่รู้ตัว สิ่งแพทย์ควรทำคือการตั้งคำถามว่าโมเดล AI กำลังสร้างอคติหรือภาพจำเกี่ยวกับบุคคลที่มีมาอย่างยาวนานในทางการแพทย์หรือไม่?

ที่มา gizmodo

dailygizmo

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol