ผู้พัฒนาแชตจีพีทีตัดสินใจยกเลิกแผนเปิดตัวโมเดลเอไอรุ่นใหม่ในเดือน ต.ค. นี้ หลังการทดสอบพบปัญหาด้านการทำงานภายใต้ขอบเขตและสิทธิที่ได้รับอนุญาต รวมถึงการเปิดเผยข้อมูลการทำงานต่อผู้ใช้ แม้ระบบจะพัฒนาขึ้นในบางด้านก็ตาม
สำนักข่าวต่างประเทศรายงานจากเมืองซานฟรานซิสโก สหรัฐอเมริกา เมื่อวันที่ 29 ก.ย. ว่า บริษัทโอเพนเอไอ ผู้พัฒนาแชตจีพีที ยืนยันยกเลิกแผนเปิดตัว “จีพีที-6.1 แอสตรา” (GPT-6.1 Astra) โมเดลปัญญาประดิษฐ์ (เอไอ) รุ่นใหม่ ซึ่งเดิมมีกำหนดเปิดตัวในเดือน ต.ค. นี้ หลังการทดสอบภายในพบว่า ยังไม่ผ่านมาตรฐานด้านความปลอดภัย และการจัดให้เอไอทำงานสอดคล้องกับเป้าหมายของมนุษย์
การตัดสินใจดังกล่าวมีขึ้นหลังนายแซม อัลต์แมน ประธานคณะเจ้าหน้าที่บริหาร (ซีอีโอ) ของโอเพนเอไอ และนายดาริโอ อโมเดอี ซีอีโอของแอนโทรปิก พร้อมผู้นำในอุตสาหกรรมเอไอหลายราย ออกมาเรียกร้องให้ชะลอการพัฒนาเอไอ และเพิ่มมาตรการด้านความปลอดภัย
ทั้งนี้ โอเพนเอไอเคยเตือนว่า แอสตรา ซึ่งเป็นโมเดลเรือธงของจีพีที-6 สามารถหลบเลี่ยงการกำกับดูแลของมนุษย์ได้ในบางสถานการณ์ ขณะที่บริษัทและคู่แข่งเผชิญการตรวจสอบเกี่ยวกับระบบเอไอทดลองที่สามารถฝ่าฝืนมาตรการป้องกันได้
ก่อนหน้านี้ เดอะ วอลล์ สตรีท เจอร์นัล รายงานโดยอ้างแหล่งข่าว ว่าแอสตราถูกออกแบบให้รองรับการทำงานที่ซับซ้อนมากขึ้นโดยไม่ต้องอาศัยมนุษย์ และเตรียมนำไปผนวกรวมกับแชตจีพีทีและโคเด็กซ์ ซึ่งเป็นเครื่องมือช่วยเขียนโค้ดซอฟต์แวร์ ที่พัฒนาโดยโอเพนเอไอ ผลการทดสอบภายในยังพบว่า แอสตรามีพฤติกรรมหลอกลวงในระดับสูงกว่ารุ่นก่อน โดยบางครั้งไม่เปิดเผยอย่างถูกต้องว่าได้ดำเนินการใดไปแล้ว
นางซาชี เจน หัวหน้าฝ่ายระบบความปลอดภัยของโอเพนเอไอ กล่าวว่า แม้แอสตราจะพัฒนาขึ้นในบางด้าน แต่ยังไม่ผ่านเกณฑ์เรื่องการทำงานภายใต้ขอบเขตและสิทธิที่ได้รับอนุญาต รวมถึงการสื่อสารกับผู้ใช้เกี่ยวกับสิ่งที่ระบบดำเนินการ
เจนกล่าวว่า โอเพนเอไอต้องการให้การพัฒนาโมเดลมีความปลอดภัยในทุกขั้นตอน และกำหนดมาตรฐานด้านความปลอดภัยและการทำงานสอดคล้องกับเป้าหมายของมนุษย์ในระดับสูงเป็นพิเศษ ก่อนนำโมเดลออกสู่ผู้ใช้ในวงกว้าง.
เครดิตภาพ : REUTERS
ที่มา : สำนักข่าวเดลินิวส์ / เผยแพร่วันที่ 29 ก.ย.69
Link : https://www.dailynews.co.th/news/6230956/
