ภัยคุกคามด้านความปลอดภัยของปัญญาประดิษฐ์กำลังก้าวเข้าสู่มิติใหม่ เมื่อนักวิจัยได้เผยว่า ปัญหา 'Prompt Injection' ที่เคยจำกัดอยู่แค่การโจมตีในระดับหน้าจอคอมพิวเตอร์ ได้ขยายผลมาสู่โลกกายภาพแล้ว การค้นพบครั้งนี้ชี้ให้เห็นว่า หุ่นยนต์ที่ขับเคลื่อนด้วย AI อาจถูกสั่งให้เปลี่ยนแปลงพฤติกรรมหรือปฏิบัติภารกิจที่ผิดไปจากเดิม เพียงแค่การแสดงข้อความบนป้ายหรือวัตถุต่างๆ ในสิ่งแวดล้อมจริง ซึ่งมนุษย์อาจเดินผ่านโดยไม่ทันสังเกตเห็นถึงความผิดปกติใดๆ
จุดที่น่าตกใจคือ การโจมตีรูปแบบนี้ไม่จำเป็นต้องพึ่งพาการเจาะเข้าไปในระบบซอฟต์แวร์ของหุ่นยนต์ หรือการปลอมแปลงสัญญาณจากเซ็นเซอร์ต่างๆ แต่อย่างใด หากแต่เป็นการใช้ประโยชน์จากความสามารถของโมเดลภาษาเชิงวิทัศน์ (Vision-Language Models) ที่หุ่นยนต์ใช้ในการตีความและประมวลผลข้อมูลจากภาพรอบตัว ส่งผลให้ข้อความที่ปรากฏในโลกจริงถูกแปลเป็นคำสั่งที่หุ่นยนต์ต้องปฏิบัติตามโดยอัตโนมัติ เหตุการณ์นี้สะท้อนถึงความท้าทายครั้งสำคัญในการพัฒนาและใช้งานหุ่นยนต์ในอนาคต โดยเฉพาะอย่างยิ่งในด้านยานยนต์ไร้คนขับ โดรน และระบบหุ่นยนต์อัตโนมัติอื่นๆ ที่อาจเผชิญความเสี่ยงจากการถูกควบคุมด้วยข้อความที่มองไม่เห็น
🏷️ หมวดหมู่: Computing, News, AI security, Autonomous vehicles, cybersecurity, Drones, prompt injection, Robotics, self-driving cars, vision language models
🔗 อ่านบทความฉบับเต็ม: digitaltrends
