All posts tagged in Prompt Injection

1Article
ChatGPT Atlas

AI2 days ago

อาชญากรไซเบอร์ไม่จำเป็นต้องพึ่งมัลแวร์หรือช่องโหว่เพื่อเจาะระบบอีกต่อไป เพียงแค่ใช้ “ prompt” ใน “บริบทที่เหมาะสม” ก็โจมตีเบราว์เซอร์ AI ของเป้าหมายได้แล้ว ก่อนหน้านี้ ศูนย์ความปลอดภัยไซเบอร์แห่งชาติของสหราชอาณาจักร (NCSC) ก็เคยเตือนเช่นกันว่า การโจมตี Prompt Injection ต่อระบบ Generative AI อาจไม่มีทางแก้ที่เด็ดขาด ด้าน OpenAI ออกมายอมรับตรงๆ ว่า การโจมตีเบราว์เซอร์ AI ไม่ใช่ปัญหาที่สามารถแก้ไขให้หมดไปได้ แต่เป็นความเสี่ยงระยะยาวที่หลีกเลี่ยงไม่ได้ พร้อมยอมรับว่า “โหมดเอเจนต์”

Advertisement

Sidebar Search
Popular Now
Loading

Signing-in 3 seconds...

Signing-up 3 seconds...