Promptware ช่องโหว่ใหม่ แฮ็ก Gemini ให้ควบคุมอุปกรณ์สมาร์ตโฮม

นักวิจัยพบช่องโหว่ของ Gemini ด้วยการแฝง promptware เข้าไปในคำเชิญ Google Calendar ก็อุปกรณ์สมาร์ตโฮมได้โดยที่เจ้าของบ้านไม่รู้ตัว

เรียกว่าเป็นประเด็นที่น่าจับตา เนื่องจาก Google เริ่มเปลี่ยน Gemini ให้กลายมาเป็นผู้ช่วย AI ใหม่แทนที่ Google Assistant ในแอป Google Home ซึ่งการสาธิตครั้งนี้เกิดขึ้นในการประชุม Black Hat ด้านความปลอดภัยคอมพิวเตอร์ชี้ให้เห็นช่องโหว่ของ AI นักวิจัยจาก Tel Aviv Universityใช้ promptware ในการหลอก Gemini และบังคับให้ควบคุมอุปกรณ์อัจฉริยะที่เชื่อมต่อกับ Google Home ได้

ปกติแล้ว Gemini ออกแบบมาให้ตอบสนองกับคำสั่งพื้นฐานที่เป็นภาษาอังกฤษ นั่นทำให้นักวิจัยได้แอบแทรก Prompts เข้าไปในคำเชิญของ Google Calendar พอเราให้ Gemini สรุปข้อมูลอีเมลและปฏิทินมันก็จะอ่านคำสั่งที่ซ่อนอยู่ไปด้วย

ในเคสนี้ Prompts ที่นักวิจัยแฝงเอาไว้จะไปสั่งงาน AI agent ที่อยู่ในแอป Google Home ทำให้ควบคุมอุปกรณ์ต่าง ๆ ที่เชื่อมต่ออยู่ได้ เช่น เปิดหน้าต่าง ปิดไฟ เปิดหม้อไอน้ำ จนไปถึงการระบุตำแหน่งปัจจุบันของผู้ใช้

ทางนักวิจัยบอกว่าสามารถ promptware อาจทำผ่านวิธีอื่นได้ด้วย เช่น ฝังไว้ในบรรทัดหัวเรื่องอีเมล รวมถึงสามารถสั่งงานประเภทอื่น ๆ ได้ เช่น ส่งข้อความสแปม, ลบกิจกรรมในปฏิทิน, สั่งใช้งาน Zoom อัตโนมัติ จนไปถึงใชในการโจมตีรูปแบบอื่น ๆ

นักวิจัยได้มอบรายงานให้ Google ตั้งแต่เดือนกุมภาพันธ์ที่ผ่านมา ซึ่งตอนนี้ก็ได้มีการอัปเดตแก้ไขช่องโหว่นี้ ก่อนที่จะถูกมิจฉาชีพนำไปใช้ประโยชน์

ที่มา cnet

dailygizmo

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol