AI Hallucination เกือบจุดชนวนสงคราม เมื่อข้อมูลเท็จถูกส่งต่อในสายบังคับบัญชาสหรัฐฯ จนต้องยกเลิกปฏิบัติการโจมตีเรือจีนในนาทีสุดท้าย
ข้อมูลนี้ได้รับการเปิดเผยโดยสำนักข่าว CNN กองทัพสหรัฐฯส่งเครื่องบินออกปฏิบัติการ เตรียมพร้อมสำหรับโจมตีเรือของจีนที่มีข่าวกรองระบุว่าเป็นอันตราย ก่อนมารู้ภายหลังว่า ทั้งหมดเป็นเพียงข้อมูลปลอมที่เกิดขึ้นจากอาการหลอนของ AI Chatbot จนตัดสินใจยกเลิกคำสั่งในนาทีสุดท้าย ช่วยให้โลกรอดพ้นสงครามโลกอย่างหวุดหวิด
จุดเริ่มต้นของเรื่องนี้มาจากข้อมูลเท็จข่าวกรองเท็จ ที่มีการรระบุว่าเรือสินค้าลำหนึ่งของจีนที่มุ่งหน้าไปตะวันออกกลาง ได้มีการขนส่งชิ้นส่วนสำหรับอาวุธนิวเคลียร์มาด้วย จากการที่ AI เกิดอาการหลอนจนสร้างข้อมูลเท็จ ก่อนข้อมูลนี้จะถูกนำไปประมวลผ่าน AI ซ้ำ และแพร่กระจายไปตามสายบังคับบัญชาอย่างรวดเร็ว โดยไม่มีการตรวจสอบซ้ำ
ความผิดพลาดนครั้งนี้มีต้นเหตุมาจากความพยายามในการเร่งบูรณาการ AI สู่ทุกภาคส่วนของสหรัฐฯ ไม่เว้นแม้แต่ภาคกลาโหมที่นำเข้ามาช่วย เพื่อให้ตัดสินใจได้เร็วยิ่งขึ้น ลดระยะเวลาในกระบวนการสั่งการให้ทันท่วงที แต่จุดนี้เองกลายเป็นช่องโหว่สำคัญ เมื่อคำสั่งได้เร็วเกินจนไม่มีใครตรวจสอบอาการหลอน AI แทน
จริงอยู่ AI มีขีดความสามารถสูงช่วยให้การทำงานและประมวลผลข้อมูลมหาศาลเป็นไปอยางรวดเร็วกว่ามนุษย์หลายสิบเท่า แต่โมเดล AI เหล่านี้ก็มีโอกาสให้ข้อมูลคลาดเคลื่อนอยู่เล็กน้อย สำหรับเอกสารทั่วไปก็ต้องได้รับการปรับแก้ ย่อมไม่ต้องพูดถึงประเด็นที่เกี่ยวพันกับชีวิตคนอย่างคำสั่งทางการทหาร ที่อาจหมายถึงอนาคตของประเทศ
นี่เป็นเหตุผลให้ผู้เชี่ยวชาญด้านการทหารออกมาให้ความเห็นว่า จริงอยู่ AI มีประโยชน์เป็นอย่างมาก แต่เจ้าหน้าที่ทางการทหารที่ใช้งานต้องเข้าใจความไม่แน่นอนและอาการหลอนของ AI ให้ดี ก่อนตัดสินใจสำหรับข่าวกรองที่มีความละเอียดอ่อนอย่างการวางแผนปฏิบัติการหรือกำหนดเป้าหมายโจมตี และเป็นเหตุผลให้กองทัพต้องสร้างและพัฒนาระบบที่รัดกุมยิ่งขึ้น ป้องกันไม่ให้ AI ถูกนำไปใช้ในบริบทที่ไม่ถูกต้อง เพื่อสร้างความเชื่อมั่นในเทคโนโลยีต่อไป
ที่มา : posttoday.com / เผยแพร่วันที่ 21 ก.ย.69
Link : https://www.posttoday.com/ai-today/749074
