Scarlett Johansson นักแสดงสาวชื่อดัง ไม่พอใจที่ OpenAI บริษัทพัฒนาปัญญาประดิษฐ์ อาจใช้เสียงของเธอในฟีเจอร์ ‘Voice Mode’ ของ ChatGPT โดยไม่ได้รับอนุญาต แม้ OpenAI จะออกมาปฏิเสธ และบอกว่าใช้เสียงของนักพากย์คนอื่น แต่หลายคนฟังแล้วต่างบอกว่าเสียงนั้นเหมือนกับโจฮันส์สันมาก จนอดคิดไม่ได้ว่าแท้จริงแล้ว OpenAI แอบนำเสียงเธอมาทำการเทรน AI หรือไม่ ?
สถาบันมาตรฐานและเทคโนโลยีแห่งชาติสหรัฐอเมริกา (NIST) พบว่าวิธีการโจมตีที่เรียกว่า Prompt Injection สามารถนำไปแฮ็ก AI เชิงสังเคราะห์ (GenAI) อย่าง ChatGPT ได้ NIST แบ่ง Prompt Injection เป็น 2 แบบ แบบแรกคือทางตรง (Direct Prompt Injection) เป็นการที่ผู้ใช้งานป้อนพรอมต์ (prompt) หรือคำสั่งไปยังตัว AI ด้วยข้อความที่ทำให้ AI ทำงานในแบบที่มันไม่ควรจะทำหรือไม่ได้รับอนุญาต แบบที่ 2 คือแบบทางอ้อม (Indirect Prompt Injection) ซึ่งเน้นพุ่งเป้าทำลายหรือสร้างความเสียหายต่อข้อมูลที่ตัว AI ดึงมาใช้ในสร้างข้อมูลใหม่ Direct Prompt Injection หนึ่งในวิธีทางตรงที่ NIST บอกว่าเป็นที่รู้จักมากที่สุดคือ DAN หรือ Do Anything Now คือการที่ผู้ใช้สวมบทให้กับตัว…
ภัยคุกคาม ยุคดิจิทัล คงหนีไม่พ้นอาชญากรรมทางไซเบอร์ที่ใช้แชตบอตเอไอสร้างมัลแวร์เพื่อโจมตีบริษัท ทาง OpenAI และหน่วยงานความปลอดภัยของไมโครซอฟท์ เคยออกมาประกาศว่า แฮกเกอร์ที่หวังโจมตีทางไซเบอร์ เมื่อประยุกต์ใช้เครื่องมือเอไอ ทำให้มีโอกาสประสบความสำเร็จมากขึ้น
เว็บไซต์ข่าวแอ็กซิออสรายงานในวันศุกร์ (29 มี.ค.) ว่า สภาผู้แทนราษฎรสหรัฐได้สั่งห้ามอย่างเข้มงวดไม่ให้เจ้าหน้าที่ของรัฐสภาสหรัฐใช้งานโคไพลอต (Copilot) ซึ่งเป็นแอปพลิเคชันปัญญาประดิษฐ์เชิงรู้สร้าง (generative AI) ของบริษัทไมโครซอฟท์
แม้ผู้ช่วยอัจฉริยะ (AI Assistant) จะเหมือนเพื่อนสนิทที่ไว้ใจปรึกษาเรื่องต่างๆ ได้ แต่การสื่อสารที่เข้ารหัสกับ AI อาจไม่ปลอดภัย 100% โดยล่าสุด นักวิจัยชาวอิสราเอล ค้นพบช่องโหว่ที่แฮ็กเกอร์สามารถดักฟังข้อมูลจากการตอบกลับที่เข้ารหัสของ AI ได้
เราใช้คุกกี้เพื่อพัฒนาประสิทธิภาพ และประสบการณ์ที่ดีในการใช้เว็บไซต์ของคุณ คุณสามารถศึกษารายละเอียดได้ที่ นโยบายความเป็นส่วนตัว
