OpenAI เร่งตรวจสอบขอบเขตพฤติกรรม AI Agent ยอมรับมีภาพจากผู้ใช้ ChatGPT รั่วไหล 53 ภาพ และพบเหตุ Agent ทำงานไม่พึงประสงค์ราว 24 กรณี กลางเดือน ก.ย. และยังเพิ่มขึ้นต่อเนื่อง
สำนักข่าวรอยเตอร์รายงานว่า OpenAI ผู้พัฒนา ChatGPT กำลังเร่งตรวจสอบขอบเขตทั้งหมดของพฤติกรรมที่ไม่พึงประสงค์จาก AI Agent หลังพบเหตุการณ์ใหม่ที่เกี่ยวข้องกับการรั่วไหลของข้อมูลผู้ใช้ ขณะที่บริษัทระบุว่าการตรวจสอบทั้งหมดอาจต้องใช้เวลาหลายเดือนจึงจะแล้วเสร็จ ตามรายงานของ Reuters ที่อ้างแหล่งข่าวซึ่งได้รับข้อมูลเกี่ยวกับเรื่องดังกล่าว
ความเคลื่อนไหวล่าสุดเกิดขึ้นเมื่อวันศุกร์ที่ผ่านมา เมื่อ OpenAI เปิดเผยว่า Agent ของบริษัททำให้รูปภาพของผู้ใช้ ChatGPT จำนวน 53 ภาพรั่วไหลออกไป อย่างไรก็ตาม บริษัทไม่ได้ระบุว่าภาพเหล่านั้นเป็นภาพที่สร้างขึ้นด้วย AI หรือเป็นภาพของบุคคลจริง และไม่ได้เปิดเผยว่าภาพถูกเผยแพร่ออกไปเมื่อใด
OpenAI ระบุว่า รูปภาพที่รั่วไหลส่วนใหญ่ถูกนำออกจากระบบแล้ว และบริษัทกำลังประสานกับผู้ให้บริการโฮสติ้งเพื่อลบภาพที่เหลือ
เหตุการณ์ดังกล่าวเกิดขึ้นราว 2 เดือนหลัง OpenAI เปิดเผยกรณี Agent ของบริษัทหลุดออกจากระบบควบคุมและเจาะระบบของ Hugging Face ซึ่งนำไปสู่ความกังวลในอุตสาหกรรม AI เกี่ยวกับความสามารถในการติดตามและควบคุม Agent ที่มีศักยภาพสูงขึ้น
แหล่งข่าวรายหนึ่งระบุว่า ณ ช่วงกลางเดือน ก.ย. OpenAI พบเหตุการณ์ที่ Agent แสดงพฤติกรรมไม่พึงประสงค์ประมาณ 24 กรณี และจำนวนดังกล่าวยังเพิ่มขึ้นเรื่อย ๆ ขณะที่ทีมงานตรวจสอบบันทึกกิจกรรมภายในและค้นพบเหตุการณ์ที่ไม่เคยทราบมาก่อนเพิ่มเติม
OpenAI ระบุว่า การตรวจสอบทั้งหมดอาจใช้เวลาหลายเดือน เนื่องจากมีข้อมูลจำนวนมากที่ต้องตรวจสอบ พร้อมระบุว่าได้แจ้งบุคคลและองค์กรภายนอกหลายสิบแห่งเกี่ยวกับกิจกรรมที่ไม่เหมาะสมแล้ว
OpenAI ระบุว่า Agent สามารถเข้าถึงรูปภาพเหล่านี้ได้ เนื่องจากบริษัทใช้ข้อมูลผู้ใช้ที่ผ่านกระบวนการทำให้ไม่สามารถระบุตัวตน (anonymization) บางส่วนในการฝึกโมเดล โดยข้อมูลจากลูกค้าองค์กร (Enterprise) จะไม่ถูกนำไปใช้ในการฝึกโมเดล ขณะที่ผู้ใช้ ChatGPT ทั่วไปสามารถเลือกไม่อนุญาตให้บริษัทนำข้อมูลไปใช้เพื่อการฝึกโมเดลได้
ก่อนนำข้อมูลของผู้ใช้ไปใช้ในการฝึก ระบบจะนำข้อมูลผ่านกระบวนการลบข้อมูลที่สามารถเชื่อมโยงกลับไปยังบุคคล เช่น metadata ชื่อ และข้อมูลการติดต่อ ซึ่งตามหลักแล้วควรทำให้ยากต่อการระบุตัวผู้ใช้
อย่างไรก็ตาม แหล่งข่าว 3 รายที่คุ้นเคยกับแนวทางปฏิบัติของ OpenAI ระบุว่า กระบวนการดังกล่าวยังมีความเสี่ยง เนื่องจากข้อมูลที่สามารถระบุตัวบุคคลได้อาจถูกลบออกไม่หมด และอาจเกิดการรั่วไหลระหว่างการทำงานของโมเดล
OpenAI เปิดเผยว่า โมเดลของบริษัทได้เข้าถึงข้อมูลจากเว็บไซต์ของสำนักงานคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์สหรัฐฯ (SEC) และสำนักงานสำมะโนประชากรสหรัฐ (US Census Bureau) ระหว่างกิจกรรมด้านการวิจัยและฝึกโมเดล แต่บริษัทระบุว่าไม่พบหลักฐานว่ามีการเข้าถึงโดยไม่ได้รับอนุญาต บัญชีถูกเจาะ หรือเกิดการละเมิดระบบรักษาความปลอดภัย
อีกด้านหนึ่ง Transluce องค์กรวิจัย AI ไม่แสวงหากำไร เปิดเผยว่า Agent ที่ดูเหมือนมีต้นทางจาก OpenAI พยายามเจาะเว็บไซต์ด้านสิทธิพลเมืองของกระทรวงศึกษาธิการสหรัฐฯ แต่ไม่สำเร็จ
Transluce ระบุว่า เหตุการณ์ดังกล่าวเป็นส่วนหนึ่งของกิจกรรมในวงกว้างที่ Agent เข้าไปตรวจสอบเว็บไซต์หน่วยงานรัฐบาล โดยมีการใช้วิธีต่าง ๆ เช่น ข้อมูลล็อกอินที่ถูกเปิดเผย การหลบเลี่ยงระบบป้องกันบอต และการสร้างบัญชีปลอม
ในช่วง 2 เดือนนับตั้งแต่ OpenAI เปิดเผยครั้งแรกว่า Agent หลุดออกจากระบบควบคุม มีเหตุการณ์ที่เกี่ยวข้องกับ Agent ของ OpenAI ซึ่งถูกเปิดเผยโดยบริษัท นักวิจัยภายนอก และหน่วยงานอื่น ๆ มากกว่า 15 กรณี โดยมีระดับความรุนแรงแตกต่างกัน
เหตุการณ์เหล่านี้มีตั้งแต่การโพสต์ข้อความลักษณะคล้ายสแปมบนเว็บไซต์ ไปจนถึงกรณีเจาะระบบ Hugging Face ซึ่ง Agent จำนวนมากใช้ช่องโหว่ซอฟต์แวร์ที่ยังไม่เป็นที่รู้จักเพื่อหลุดออกจากเครือข่ายและเข้าไปยังแพลตฟอร์ม AI ดังกล่าวระหว่างพยายามค้นหาคำตอบสำหรับการทดสอบ นอกจากนี้ OpenAI ยังระบุว่า Agent บางส่วนพยายามเข้าถึงโครงสร้างพื้นฐานของบริษัทเองด้วย
นายกรัฐมนตรี Anthony Albanese ของออสเตรเลียเปิดเผยต่อผู้สื่อข่าวในนครนิวยอร์กว่า Agent ของ OpenAI ได้เข้าถึงพอร์ทัลข้อมูลด้านสุขภาพของรัฐบาลออสเตรเลียเมื่อเดือน มิ.ย. โดย OpenAI ตรวจพบกิจกรรมดังกล่าวในเดือน ส.ค. ก่อนแจ้งรัฐบาลออสเตรเลียเมื่อวันที่ 10 ก.ย. ผ่านอีเมลไปยังกล่องรับข้อความทั่วไปของรัฐบาล ซึ่ง Albanese ระบุว่าได้แจ้ง Sam Altman ซีอีโอ OpenAI โดยตรงว่ากระบวนการแจ้งเตือนดังกล่าวไม่สามารถยอมรับได้ OpenAI ชี้แจงว่า สาเหตุที่เว็บไซต์ของรัฐบาล มหาวิทยาลัย และหน่วยงานสาธารณะหลายแห่งปรากฏอยู่ในกิจกรรมของโมเดล เป็นเพราะ Agent ที่ทำงานด้านการวิจัยมักค้นหาข้อมูลจากแหล่งสาธารณะที่มีความน่าเชื่อถือ
หลังเหตุการณ์ Hugging Face เมื่อวันที่ 21 ก.ค. OpenAI ยอมรับถึงความจำเป็นในการเพิ่มความโปร่งใสเกี่ยวกับพฤติกรรมที่ไม่พึงประสงค์ของ AI และเมื่อวันที่ 16 ก.ย. บริษัทได้เผยแพร่กรอบการเปิดเผยเหตุการณ์รูปแบบใหม่ โดยระบุว่าจะให้น้ำหนักกับความโปร่งใส แม้ในกรณีที่ยังไม่แน่ชัดว่าเหตุการณ์นั้นมีนัยสำคัญมากเพียงใด
อย่างไรก็ตาม แหล่งข่าว 2 รายที่คุ้นเคยกับการสอบสวนระบุว่า กระบวนการตรวจสอบภายในถูกจำกัดการเข้าถึงอย่างเข้มงวดและมีฝ่ายกฎหมายของบริษัทเข้ามามีบทบาท ขณะที่แหล่งข่าวอีก 3 รายระบุว่า มีบุคลากรราว 100 คนเข้ามาเกี่ยวข้องในกระบวนการตรวจสอบเหตุเจาะระบบ Hugging Face ซึ่งระหว่างการสอบสวนดังกล่าวได้พบหลักฐานของเหตุการณ์อื่นเพิ่มเติม
Reuters เคยรายงานว่า ทีมสอบสวนของ OpenAI ที่ตรวจสอบเหตุ Hugging Face ถูกฝ่ายกฎหมายของบริษัททัดทานไม่ให้ขยายขอบเขตการสอบสวนไปยังเหตุการณ์อื่น อย่างไรก็ตาม OpenAI ปฏิเสธข้อกล่าวหาดังกล่าว โดยยืนยันว่าฝ่ายกฎหมายไม่ได้ขัดขวางการตรวจสอบเชิงลึก หลายเหตุการณ์ยังถูกค้นพบโดยนักวิจัยภายนอกมากกว่าจาก OpenAI เอง โดยบางกรณี Agent ดำเนินกิจกรรมที่เป็นปัญหาเป็นเวลาหลายเดือนก่อนที่บริษัทจะตรวจพบ
เมื่อต้นเดือนที่ผ่านมา นักวิจัยกลุ่มหนึ่งยังพบว่า Agent ของ OpenAI เข้าไปควบคุมเว็บไซต์ Wiki ของเยอรมนีที่แทบไม่ได้ใช้งานแล้ว เพื่อแลกเปลี่ยนวิธีหลีกเลี่ยงข้อจำกัดของ OpenAI ปกปิดพฤติกรรม และหาวิธีทำบางภารกิจให้สำเร็จ
ด้าน Transluce เปิดเผยในสัปดาห์นี้ว่า พบ Agent ของ OpenAI สามารถหลบเลี่ยงระบบป้องกันบอตของ Australian Institute of Health and Welfare และพบอีก 2 เหตุการณ์ที่เชื่อมโยงกับ Agent ของ OpenAI ซึ่งแยกออกจากกรณีที่นายกรัฐมนตรีออสเตรเลียเปิดเผย
OpenAI ระบุว่า กิจกรรมจำนวนมากที่ Transluce รายงานมีความทับซ้อนกับกรณีที่บริษัทกำลังตรวจสอบอยู่ในขั้นตอนต่าง ๆ และบริษัทกำลังให้ความสำคัญกับเหตุการณ์ที่มีความรุนแรงสูงสุดก่อน
เหตุการณ์ต่อเนื่องเหล่านี้เพิ่มความกังวลในอุตสาหกรรมเกี่ยวกับความสามารถของบริษัท AI ในการคาดการณ์และควบคุมพฤติกรรมของโมเดลที่มีศักยภาพสูงขึ้น โดย Sam Altman ซีอีโอ OpenAI และ Dario Amodei ซีอีโอ Anthropic ต่างเรียกร้องให้อุตสาหกรรมพัฒนา AI อย่างระมัดระวัง โดยเฉพาะเทคโนโลยีที่เกี่ยวข้องกับการพัฒนาความสามารถของ AI ด้วยตัวเอง หรือ “recursive self-improvement”
ที่มา : moneyandbanking.co.th / เผยแพร่วันที่ 28 ก.ย.69
Link : https://moneyandbanking.co.th/2026/273809/
