นักวิจัยใช้ Google Calendar โจมตี Gemini ควบคุมอุปกรณ์สมาร์ทโฮม

นักวิจัยจากมหาวิทยาลัยเทลอาวีฟค้นพบวิธีโจมตีระบบ AI ของ Google อย่าง Gemini โดยใช้การนัดหมายใน Google Calendar ที่ฝังคำสั่งอันตราย หรือที่เรียกว่า promptware การโจมตีนี้ทำให้ Gemini สามารถควบคุมอุปกรณ์สมาร์ทโฮม เช่น ไฟ เทอร์โมสตัท หรือม่านอัตโนมัติ ได้เมื่อผู้ใช้ขอให้ AI สรุปตารางนัดหมาย การค้นพบนี้แสดงให้เห็นถึงความเสี่ยงของ AI ที่เชื่อมต่อกับระบบในวงกว้าง

การโจมตีนี้ใช้เทคนิคที่เรียกว่า indirect prompt injection โดยฝังคำสั่งอันตรายในคำอธิบายของนัดหมายในปฏิทิน เมื่อ Gemini อ่านนัดหมายดังกล่าว คำสั่งจะถูกกระตุ้นโดยคำพูดทั่วไป เช่น thank you หรือ sure ทำให้ AI ทำงานตามคำสั่ง เช่น เปิดหม้อต้มน้ำ หรือควบคุมอุปกรณ์อื่นโดยที่ผู้ใช้ไม่รู้ตัว เทคนิคนี้หลบเลี่ยงระบบรักษาความปลอดภัยของ Google ได้อย่างแนบเนียน

งานวิจัยนี้มีชื่อว่า Invitation Is All You Need อ้างอิงถึงเอกสารสำคัญของ Google ในปี 2017 เรื่อง Attention Is All You Need นอกจากควบคุมอุปกรณ์สมาร์ทโฮมแล้ว การโจมตียังสามารถสร้างเนื้อหาที่ไม่เหมาะสม ส่งสแปม หรือลบนัดหมายในปฏิทินโดยสุ่ม รวมถึงเปิดเว็บไซต์ที่มีมัลแวร์เพื่อขโมยข้อมูล ทำให้เกิดความเสี่ยงร้ายแรงต่อผู้ใช้

นักวิจัยได้นำเสนอผลงานนี้ในงาน Black Hat และแจ้ง Google ถึงช่องโหว่ตั้งแต่เดือนกุมภาพันธ์ Google ได้พัฒนาระบบป้องกันใหม่ในเดือนมิถุนายนเพื่อตรวจจับคำสั่งที่ไม่ปลอดภัยในปฏิทิน เอกสาร และอีเมล พร้อมเพิ่มขั้นตอนยืนยันผู้ใช้สำหรับการกระทำบางอย่าง เช่น การลบนัดหมาย เพื่อลดความเสี่ยงจากการโจมตี

การโจมตีนี้แสดงให้เห็นว่าเมื่อ AI มีความสามารถมากขึ้นและเชื่อมต่อกับชีวิตดิจิทัลของเรามากขึ้น ความเสี่ยงจากแฮกเกอร์ก็เพิ่มขึ้นตามไปด้วย ระบบ AI ที่จัดการงานต่าง ๆ เช่น การซื้อของหรือการสื่อสารธุรกิจ อาจกลายเป็นเป้าหมายของการโจมตีที่ซับซ้อนยิ่งขึ้นในอนาคต

แม้จะมีความพยายามป้องกันจากบริษัทเทคโนโลยี การโจมตีรูปแบบใหม่นี้แสดงให้เห็นว่าไม่มีระบบใดปลอดภัย 100% การพัฒนา AI ที่ปลอดภัยจึงต้องตามให้ทันภัยคุกคามที่เปลี่ยนแปลงไปอย่างรวดเร็ว