AI สับสน !? เด็กมัธยมสหรัฐฯถูกตำรวจรวบ เหตุปัญญาประดิษฐ์มอง “ถุง Doritos เป็นปืน”

เมื่อเทคโนโลยี AI เริ่มเข้ามาเป็นส่วนหนึ่งในชีวิตประจำวันมากขึ้น เราก็ยังได้เห็นเหตุการณ์ที่สะท้อนให้เห็นถึงความคลาดเคลื่อนของระบบอยู่บ่อยครั้ง ล่าสุดเกิดขึ้นที่โรงเรียนมัธยมปลายในรัฐแมริแลนด์ สหรัฐฯ เมื่อนักเรียนคนหนึ่งถูกตำรวจควบคุมตัว หลังระบบวิเคราะห์ภาพด้วย AI “เข้าใจผิดว่า ถุง Doritos ที่เขาถืออยู่เป็นปืน”

เหตุการณ์นี้เกิดขึ้นกับ ทากิ อัลเลน (Taki Allen) อายุ 16 ปี นักเรียนจาก Kenwood High School ระหว่างที่เขานั่งคุยกับเพื่อน ๆ หลังซ้อมอเมริกันฟุตบอลและรอผู้ปกครองมารับ พร้อมกับถุงขนม Doritos

ประมาณ 20 นาที หลังเขากินขนม Doritos หมด อยู่ ๆ ก็มีรถตำรวจถึง 8 คัน เข้าล้อมพื้นที่ ก่อนเจ้าหน้าที่จะลงจากรถและชี้อาวุธไปยังตัวอัลเลน พร้อมสั่งให้เขาวางมือบนศีรษะเดินเข้าไปหา และตามด้วยการให้นั่งคุกเข่าก่อนใส่กุญแจมือ //ภายหลังตำรวจยืนยันว่า อัลเลนถูกควบคุมตัวจริง แต่ไม่ได้ถูกจับกุม

สาเหตุของเรื่องราวในครั้งนี้เกิดจากการที่ระบบ AI ตรวจสอบภาพจากกล้องวงจรปิดของโรงเรียน แล้ววิเคราะห์ผิดเห็นถุง Doritos ที่ขยำแล้วเป็นปืน ก่อนส่งสัญญาณแจ้งเตือนให้เจ้าหน้าที่ตำรวจเข้าตรวจสอบ

ทางผู้อำนวยการเขตการศึกษาอธิบายว่า ระบบทำงานตามขั้นตอนถูกต้องแล้ว คือให้ AI ตรวจจับความเสี่ยง และส่งต่อให้มนุษย์ตัดสินใจต่อ อย่างไรก็ตาม ตัวอัลเลนไม่เห็นด้วยกับคำชี้แจงนี้ พร้อมให้เหตุผลว่า “ถุงขนม ไม่ควรจะถูกเข้าใจผิดว่าเป็นปืน ไม่ว่ากรณีไหนก็ตาม”

ด้านผู้อำนวยการโรงเรียนได้ส่งจดหมายชี้แจงผู้ปกครองเกี่ยวกับเหตุการณ์ แต่ตัวอัลเลนกล่าวว่า ไม่ได้มีการพูดคุยกับเขาเป็นการส่วนตัวจนกระทั่งสามวันหลังเหตุการณ์

ความผิดพลาดครั้งนี้จุดกระแสให้มีการเรียกร้องให้ทบทวนการใช้ระบบเฝ้าระวังด้วย AI ในสถานศึกษา โดยบริษัท Omnilert ผู้พัฒนาระบบ AI ที่โรงเรียนใช้อยู่ ได้ให้สัมภาษณ์ว่า “เราขอแสดงความเสียใจต่อเหตุการณ์ที่เกิดขึ้น และเข้าใจต่อความกังวลของนักเรียน และชุมชนที่ได้รับผลกระทบ แม้ว่าวัตถุจะถูกยืนยันภายหลังว่าไม่ใช่อาวุธ แต่ระบบก็ได้ทำงานตามขั้นตอนที่ออกแบบไว้ คือแจ้งเตือนอย่างรวดเร็วเพื่อให้มนุษย์ตรวจสอบ”

จากเหตุที่เกิดขึ้นสะท้อนให้เห็นว่า แม้ AI จะช่วยเพิ่มความปลอดภัยได้ แต่การตรวจสอบโดยมนุษย์ยังเป็นสิ่งจำเป็นอย่างยิ่ง เพราะหากไม่มีการยืนยันอย่างรอบคอบ เหตุการณ์ที่คล้ายกันนี้ก็อาจเกิดขึ้นอีกได้เช่นกัน…

ที่มา: TechSpot

บดินทร์ ตันวิเชียร

'ช่างภาพ' ที่เขียนคอนเทนต์ได้ หาเงินซื้อเปียกให้แมว 3 ตัว ที่บ้าน