นักวิจัยด้านความปลอดภัยจากบริษัท Varonis ซึ่งเป็นผู้ค้นพบช่องโหว่นี้ ได้สาธิตให้เห็นว่าการโจมตีดังกล่าวใช้เพียงการคลิกเมาส์ครั้งเดียวบน URL ที่เป็นอันตราย ซึ่งบรรจุคำสั่ง prompt injection เพื่อเริ่มต้นการขโมยข้อมูล
ผลลัพธ์คือข้อมูลส่วนตัวของผู้ใช้งาน เช่น ชื่อ ที่อยู่ ตำแหน่ง และรายละเอียดของการสนทนาในประวัติแชทของ Copilot สามารถถูกดึงออกไปได้อย่างง่ายดายและต่อเนื่อง ที่น่ากังวลคือการโจมตียังคงทำงานอยู่เบื้องหลังแม้ผู้ใช้จะปิดหน้าต่างแชทของ Copilot ไปแล้ว และไม่จำเป็นต้องมีการโต้ตอบใดๆ เพิ่มเติมอีกหลังจากที่คลิกลิงก์ในอีเมลไปแล้ว
การโจมตีและขโมยข้อมูลครั้งนี้มีความซับซ้อนถึงขั้นที่สามารถหลีกเลี่ยงการควบคุมความปลอดภัยของอุปกรณ์ปลายทางระดับองค์กร และการตรวจจับโดยแอปพลิเคชันป้องกันปลายทางได้โดยสิ้นเชิง
โดเลฟ ทาเลอร์ นักวิจัยด้านความปลอดภัยของ Varonis กล่าวเน้นย้ำว่า 'เพียงแค่เราส่งลิงก์พร้อม prompt ที่ประสงค์ร้ายไปให้ ผู้ใช้ก็แค่ต้องคลิกที่ลิงก์ และงานอันตรายก็จะถูกดำเนินการในทันที แม้ผู้ใช้จะคลิกแล้วรีบปิดแท็บแชทของ Copilot ทันที การโจมตีก็ยังคงทำงานอยู่'
🏷️ หมวดหมู่: AI, Biz & IT, Security, copilot, data exfiltration, LLMs, prompt injections
🔗 อ่านบทความฉบับเต็ม: Arstechnica
