การโจมตีครั้งนี้ใช้ประโยชน์จากช่องโหว่ใน Cline ซึ่งเป็นเอเจนต์ AI สำหรับการเขียนโค้ดแบบโอเพนซอร์สที่ได้รับความนิยมในหมู่นักพัฒนา โดยช่องโหว่นี้ถูกเปิดเผยโดย Adnan Khan นักวิจัยด้านความปลอดภัยเพียงไม่กี่วันก่อนหน้า
อธิบายง่ายๆ คือ กระบวนการทำงานของ Cline ใช้ Anthropic's Claude ซึ่งสามารถถูกป้อนคำสั่งที่ซ่อนอยู่ (sneaky instructions) และถูกทำให้ทำในสิ่งที่ไม่ควรทำได้ เทคนิคนี้เป็นที่รู้จักกันในชื่อ 'prompt injection' ซึ่งเป็นวิธีการที่ AI ถูกหลอกให้ดำเนินการตามคำสั่งที่ไม่พึงประสงค์
แม้ว่าการกระทำของแฮกเกอร์ครั้งนี้จะดูเหมือนเป็นเรื่องตลกขบขัน แต่ก็เป็นสัญญาณเตือนที่ชัดเจนถึงสิ่งที่กำลังจะมาถึง เมื่อผู้คนจำนวนมากขึ้นปล่อยให้ซอฟต์แวร์อัตโนมัติเข้ามาจัดการคอมพิวเตอร์แทนพวกเขา ความเสี่ยงด้านความปลอดภัยก็จะเพิ่มสูงขึ้นอย่างหลีกเลี่ยงไม่ได้
🏷️ หมวดหมู่: AI, Anthropic, News, Security, Tech
🔗 อ่านบทความฉบับเต็ม: theverge
