ช่องโหว่ใน Google Gemini AI ถูกโจมตีผ่านการเชิญในปฏิทิน: ภัยคุกคาม AI ที่ต้องจับตามอง

ในงานประชุมความปลอดภัยไซเบอร์ Black Hat นักวิจัยด้านความปลอดภัยจากมหาวิทยาลัยเทลอาวีฟ, เทคนิออน และ SafeBreach ได้สาธิตการโจมตีรูปแบบใหม่ที่สามารถใช้ช่องโหว่ใน AI รุ่นใหม่ของ Google อย่าง Gemini เพื่อแทรกคำสั่งอันตรายผ่านการเชิญในปฏิทิน ที่แฝงอยู่ในคำสั่งของผู้ใช้โดยไม่รู้ตัว

การโจมตีนี้มีชื่อว่า “Invitation Is All You Need” ใช้เทคนิคที่เรียกว่า indirect prompt injection เพื่อหลอก Gemini ให้ทำตามคำสั่งที่ไม่ได้รับอนุญาต เช่น การควบคุมอุปกรณ์สมาร์ทโฮม เช่น ไฟ, หน้าต่าง, หรือระบบทำความร้อน ซึ่งผู้โจมตีสามารถแฝงคำสั่งเหล่านี้ไว้ในเหตุการณ์ของปฏิทินและจะถูกประมวลผลเมื่อตัวช่วย AI สรุปตารางงานให้ผู้ใช้

วิธีการโจมตี: Targeted Promptware Attacks

หลักการของวิธีการโจมตีนี้คือการใช้ prompt injection ผ่านปฏิสัมพันธ์ที่ผู้ใช้ทำเป็นประจำ เช่น การขอให้ AI สรุปตารางงานแบบสัปดาห์ ซึ่ง AI จะอ่านข้อมูลทั้งหมดรวมถึงคำสั่งแอบแฝงที่มองไม่เห็นด้วยตาเปล่าของมนุษย์ โดยผลลัพธ์อาจร้ายแรงตั้งแต่การสร้างเนื้อหาที่เป็นพิษ การส่งสแปม ไปจนถึงการเข้าควบคุมระบบในบ้านหรือแทรกแซงความเป็นส่วนตัว เช่น การเปิดกล้องผ่าน Zoom โดยไม่ได้รับอนุญาต หรือการติดตามตำแหน่งผู้ใช้

Google จัดการและแก้ไข

หลังได้รับแจ้งช่องโหว่ตั้งแต่เดือนกุมภาพันธ์ที่ผ่านมา Google ได้ออกมาตรการรักษาความปลอดภัยหลายชั้น อาทิ การติดตั้งตัวกรองเนื้อหาที่ตรวจจับคำสั่งอันตราย (prompt injection content classifiers), การเสริมสร้างความปลอดภัยในการคิดคำตอบ AI, รวมถึงการตรวจสอบ URL ที่น่าสงสัยผ่าน Google Safe Browsing

นอกจากนี้ Google ยังเพิ่มระบบยืนยันจากผู้ใช้ขั้นสูงก่อนดำเนินการลบหรือเปลี่ยนแปลงเหตุการณ์ในปฏิทิน พร้อมกับแจ้งเตือนเมื่อพบความพยายามโจมตี เพื่อให้ผู้ใช้รับทราบทันที

สัญญาณเตือนและความเสี่ยงในอนาคต

ผู้เชี่ยวชาญเตือนว่า นี่เป็นเพียงสัญญาณเริ่มต้นของภัยคุกคามรูปแบบใหม่ในยุค AI ที่กลายเป็นส่วนหนึ่งของระบบและแอปพลิเคชันต่าง ๆ โดยจากการวิเคราะห์พบว่า 73% ของกรณีศึกษามีระดับความเสี่ยงสูงถึงขั้นวิกฤต ซึ่งแม้ Google จะสามารถลดความเสี่ยงเหล่านี้ได้ แต่หลายฝ่ายยังคงกังวลเรื่องความปลอดภัยและความเป็นส่วนตัวจากการที่ AI มีสิทธิ์ควบคุมระบบหลายระดับ

ตัวอย่างเช่น Meredith Whittaker ซีอีโอของ Signal ได้แสดงความเห็นว่าการพัฒนา AI ที่สามารถเชื่อมโยงและควบคุมแอปพลิเคชันหลายตัวรวมกันสร้างความเสี่ยงในด้านความปลอดภัยและความเป็นส่วนตัวอย่างลึกซึ้ง ซึ่งต้องการการควบคุมและมาตรการที่เข้มงวดอย่างต่อเนื่อง

สรุป: ช่องโหว่ที่เปิดทางให้นักโจมตีใช้ Gemini AI ของ Google เพื่อรันคำสั่งอันตรายผ่านปฏิทิน แสดงให้เห็นถึงความท้าทายใหม่ของความปลอดภัยในยุค AI ที่ระบบต่าง ๆ มีการเชื่อมโยงกันอย่างลึกซึ้ง ผู้ใช้งานและองค์กรควรใส่ใจและเฝ้าระวังระบบ AI รวมถึงการตั้งค่าความปลอดภัยและการอนุญาตอย่างรอบคอบ เพื่อป้องกันการโจมตีที่อาจเกิดขึ้นในอนาคต

ข้อมูล: Wired, Google Security Blog