การนำ AI มาช่วยทำงานกลายเป็นเรื่องปกติในยุคปัจจุบัน แม้ในบางครั้งจะมีการ Generate ข้อมูลที่ไม่ถูกต้องไปบ้าง แต่ก็ยังมีความหน้าเชื่อถือในบางเรื่องอยู่ดี จึงทำให้ผู้ใช้งานอาจตกเป็นเหยื่อกลุ่มแฮกเกอร์โดยไม่รู้ตัว ซึ่งนักวิจัยด้านความปลอดภัยไซเบอร์จาก Mozilla เปิดเผยว่าพบช่องโหว่ในฟีเจอร์ Summarize This E-Mail ของ Google Gemini บน Gmail ที่ซ่อนคำสั่งอันตรายไว้อย่างแนบเนียน
Google Gemini ที่ผสานเข้ากับ Google Workspace อาจกลายเป็นช่องทางให้แฮกเกอร์โจมตีผู้ใช้โดยไม่ต้องใช้ไฟล์แนบหรือลิงก์ภายนอก เพียงแค่ซ่อนคำสั่งอันตรายไว้ภายในอีเมลปกติ จนทำให้ Gemini สรุปเนื้อหาพร้อมแนะนำให้ผู้ใช้ไปยังเว็บฟิชชิงหรือโทรหาเบอร์ปลอม นี่คือการโจมตีแบบ prompt injection ที่เพิ่งถูกเปิดโปงผ่านรายงานของ Mozilla
สถาบันมาตรฐานและเทคโนโลยีแห่งชาติสหรัฐอเมริกา (NIST) พบว่าวิธีการโจมตีที่เรียกว่า Prompt Injection สามารถนำไปแฮ็ก AI เชิงสังเคราะห์ (GenAI) อย่าง ChatGPT ได้ NIST แบ่ง Prompt Injection เป็น 2 แบบ แบบแรกคือทางตรง (Direct Prompt Injection) เป็นการที่ผู้ใช้งานป้อนพรอมต์ (prompt) หรือคำสั่งไปยังตัว AI ด้วยข้อความที่ทำให้ AI ทำงานในแบบที่มันไม่ควรจะทำหรือไม่ได้รับอนุญาต แบบที่ 2 คือแบบทางอ้อม (Indirect Prompt Injection) ซึ่งเน้นพุ่งเป้าทำลายหรือสร้างความเสียหายต่อข้อมูลที่ตัว AI ดึงมาใช้ในสร้างข้อมูลใหม่ Direct Prompt Injection หนึ่งในวิธีทางตรงที่ NIST บอกว่าเป็นที่รู้จักมากที่สุดคือ DAN หรือ Do Anything Now คือการที่ผู้ใช้สวมบทให้กับตัว…
เราใช้คุกกี้เพื่อพัฒนาประสิทธิภาพ และประสบการณ์ที่ดีในการใช้เว็บไซต์ของคุณ คุณสามารถศึกษารายละเอียดได้ที่ นโยบายความเป็นส่วนตัว