ไมโครซอฟต์เน้นย้ำว่า AI Agent ที่ขาดการควบคุมที่เหมาะสม หรือมีการจัดการสิทธิ์ที่ไร้ระเบียบ อาจถูกโจมตีผ่านวิธีการที่เรียกว่า 'memory poisoning' หรือการป้อนข้อมูลที่หลอกลวง ซึ่งจะทำให้ AI ทำงานผิดจากวัตถุประสงค์เดิม หรือแม้แต่หันมาเป็นภัยคุกคามต่อองค์กรได้
เพื่อรับมือกับความท้าทายนี้ ไมโครซอฟต์แนะนำให้องค์กรต่างๆ นำหลักการ Zero Trust มาใช้ในการรักษาความปลอดภัยอย่างเคร่งครัด รวมถึงการจัดทำบัญชีรายการ AI Agent ทั้งหมดที่มีในระบบ และการเฝ้าระวังอย่างต่อเนื่องเพื่อตรวจจับพฤติกรรมที่น่าสงสัย ซึ่งจะช่วยป้องกันการเกิด 'Shadow AI' หรือ AI ที่ทำงานโดยไม่ได้รับอนุญาต และลดความเสี่ยงจากการโจมตีได้
🏷️ หมวดหมู่: Computing, News, AI agents, AI security, double agent, enterprise security, memory poisoning, Microsoft, shadow AI, Zero Trust
🔗 อ่านบทความฉบับเต็ม: digitaltrends
