นักวิจัยพบช่องโหว่ Gemini ใน Workspace เสี่ยงถูกโจมตีทางอ้อม

Google Gemini ที่ผสานเข้ากับ Google Workspace อาจกลายเป็นช่องทางให้แฮกเกอร์โจมตีผู้ใช้โดยไม่ต้องใช้ไฟล์แนบหรือลิงก์ภายนอก เพียงแค่ซ่อนคำสั่งอันตรายไว้ภายในอีเมลปกติ จนทำให้ Gemini สรุปเนื้อหาพร้อมแนะนำให้ผู้ใช้ไปยังเว็บฟิชชิงหรือโทรหาเบอร์ปลอม นี่คือการโจมตีแบบ prompt injection ที่เพิ่งถูกเปิดโปงผ่านรายงานของ Mozilla

การโจมตีนี้อาศัยเทคนิค indirect prompt injection โดยแฮกเกอร์สามารถแทรกคำสั่งที่มองไม่เห็นในอีเมลได้ โดยใช้ HTML และ CSS กำหนดขนาดฟอนต์เป็น 0 และสีตัวหนังสือเป็นขาว เพื่อไม่ให้ผู้ใช้เห็น แต่ Gemini จะยังคงประมวลผลคำสั่งนั้น เมื่อผู้ใช้ขอให้ AI สรุปเนื้อหาอีเมล

ตัวอย่างที่ Marco Figueroa จาก Mozilla นำเสนอ แสดงให้เห็นว่า Gemini สามารถถูกบังคับให้แสดงข้อความเตือนว่า รหัสผ่าน Gmail ของคุณรั่วไหล พร้อมเบอร์โทรศัพท์สมมติ ซึ่งผู้ใช้จำนวนมากอาจหลงเชื่อและโทรไปโดยไม่สงสัย

แม้ว่า Google จะมีมาตรการป้องกัน prompt injection มาตั้งแต่ปี 2024 แล้ว แต่เทคนิคนี้ยังคงใช้งานได้จริง ทำให้นักวิจัยเรียกร้องให้มีการตรวจสอบเนื้อหาอีเมลอย่างละเอียดมากขึ้น เช่น การลบหรือแยกส่วนที่ถูกซ่อนไว้ในโค้ด หรือใช้ระบบกรองเพิ่มเติมเพื่อดักจับข้อความเร่งด่วนหรือเบอร์แปลกปลอมในผลลัพธ์ของ AI

Google ระบุว่ายังไม่พบการโจมตีในลักษณะนี้ในโลกจริง แต่กำลังเสริมความปลอดภัยอย่างต่อเนื่อง ผ่านการฝึกฝนโมเดลด้วยสถานการณ์จำลองแบบ adversarial และกำลังเตรียมนำกลไกป้องกันบางส่วนมาใช้งานในอนาคต

สำหรับผู้ใช้ ควรระลึกเสมอว่า AI ไม่ใช่ผู้เชี่ยวชาญ หากเจอคำเตือนด้านความปลอดภัยจากเครื่องมือเช่น Gemini ควรตรวจสอบข้อมูลเพิ่มเติมจากแหล่งที่เชื่อถือได้แทนการเชื่อสนิทใจเพราะความไว้ใจที่เกินไป อาจกลายเป็นช่องโหว่ให้แฮกเกอร์ได้โดยไม่รู้ตัว