OpenAI ระบุโมเดล AI รุ่นใหม่ Astra อาจมีความสามารถไซเบอร์ระดับวิกฤต จึงระงับการพัฒนาบางส่วนและเพิ่มมาตรการความปลอดภัยเพื่อป้องกันการโจมตี
OpenAI เปิดเผยเมื่อวันศุกร์ว่า ยังไม่สามารถตัดความเป็นไปได้ที่โมเดล AI รุ่นใหม่ชื่อ “Astra” จะมีความสามารถด้านความปลอดภัยไซเบอร์ในระดับ “วิกฤต” ส่งผลให้บริษัทระงับกิจกรรมการพัฒนาภายในบางส่วน พร้อมยกระดับมาตรการควบคุมความปลอดภัยทันที
ตามแนวทางความปลอดภัยของ OpenAI โมเดลจะถูกจัดอยู่ในระดับ “วิกฤต” หากสามารถตรวจหาและใช้ประโยชน์จากช่องโหว่ซอฟต์แวร์ร้ายแรงในโลกจริงได้โดยอัตโนมัติ หรือที่เรียกว่า Zero-day
รวมถึงสามารถดำเนินการโจมตีทางไซเบอร์ที่ซับซ้อนต่อเป้าหมายที่มีระบบรักษาความปลอดภัยสูงได้โดยไม่ต้องมีมนุษย์ควบคุม
OpenAI ระบุว่า ผลการประเมินเบื้องต้นในช่วงหลายวันที่ผ่านมา รวมถึงการประเมินจากผู้เชี่ยวชาญภายนอก พบว่า Astra อาจมีความสามารถในการปฏิบัติงานด้านไซเบอร์ที่ซับซ้อนมากขึ้นด้วยตัวเอง
โดยบริษัทระบุว่า แม้ยังอยู่ระหว่างการทดสอบและประเมินขีดความสามารถ แต่ผลเบื้องต้นมีประสิทธิภาพสูงเพียงพอที่จะยังไม่สามารถตัดความเป็นไปได้ว่า Astra จะเข้าข่ายระดับ “วิกฤต”
จากผลการประเมินดังกล่าว OpenAI ได้เพิ่มมาตรการควบคุมความปลอดภัย และระงับกิจกรรมภายในที่เกี่ยวข้องกับ Astra ซึ่งไม่เป็นไปตามข้อกำหนดด้านความปลอดภัยที่ได้รับการปรับปรุงให้เข้มงวดยิ่งขึ้น
การพัฒนา Astra จะถูกย้ายไปอยู่ในสภาพแวดล้อมสำหรับการทดสอบแบบแยกส่วน โดยจำกัดการเข้าถึงเครือข่าย และให้โมเดลทำงานภายใต้ระบบ Sandbox เพื่อจำกัดผลกระทบที่อาจเกิดขึ้นหากโมเดลสามารถดำเนินการที่ไม่พึงประสงค์ได้
ความเคลื่อนไหวดังกล่าวเกิดขึ้นหลังมีรายงานว่า OpenAI พบกรณีเพิ่มเติมที่ระบบ AI แบบ Autonomous Agents สามารถหลุดออกจากการควบคุมหรือขอบเขตที่กำหนดไว้ได้
ขณะที่บริษัทกำลังขยายการสอบสวนเหตุการณ์โจมตีทางไซเบอร์ที่เกี่ยวข้องกับแพลตฟอร์ม Hugging Face ซึ่งได้รับความสนใจอย่างกว้างขวางในเดือนกรกฎาคม
ในช่วงไม่กี่สัปดาห์ที่ผ่านมา OpenAI, Anthropic และ Meta Platforms ต่างเปิดเผยว่าโมเดล AI ของตนสามารถเจาะเข้าสู่ระบบของบริษัทอื่นได้ระหว่างการทดสอบด้านความปลอดภัยไซเบอร์ สะท้อนความท้าทายที่เพิ่มขึ้นในการควบคุมระบบ AI ขณะที่ขีดความสามารถของโมเดลพัฒนาอย่างรวดเร็ว
OpenAI ยืนยันด้วยว่า Astra ไม่ได้มีส่วนเกี่ยวข้องกับการโจมตีทางไซเบอร์ที่มุ่งเป้าไปยัง Hugging Face แต่อย่างใด
บริษัทเตรียมร่วมมือกับหน่วยงานภาครัฐและองค์กรด้านความปลอดภัย AI บางแห่ง เพื่อทดสอบและประเมินขีดความสามารถของ Astra เพิ่มเติม ก่อนเดินหน้าพัฒนาโมเดลต่อภายใต้กรอบความปลอดภัยที่เข้มงวดขึ้น
ที่มา : posttoday / เผยแพร่วันที่ 8 สิงหาคม 2569
Link : https://www.posttoday.com/ai-today/746630
