ปัญญาประดิษฐ์กำลังพัฒนาอย่างรวดเร็ว จาก Generative AI ที่เราเริ่มรู้จักกันเมื่อไม่กี่ปีที่ผ่านมา วันนี้ความสามารถของระบบก้าวไปไกลขึ้นมาก ทั้งการคิดวิเคราะห์ การตัดสินใจ และการทำงานร่วมกับระบบอื่น ๆ
แต่สิ่งที่กำลังสร้างคำถามใหม่ให้กับวงการเทคโนโลยีคือ จะเกิดอะไรขึ้นหาก AI สามารถทำสิ่งที่ผู้พัฒนาไม่ได้ตั้งใจให้ทำได้ การทดลองด้านความปลอดภัยพบว่า AI บางระบบสามารถหลุดออกจากสภาพแวดล้อมที่ถูกจำกัดไว้ เข้าถึงอินเทอร์เน็ต และต่อมาสามารถเจาะเข้าสู่เครือข่ายของระบบ AI อื่นได้
เรื่องนี้ทำให้เกิดคำถามสำคัญว่า AI กำลังพัฒนาเร็วเกินกว่าที่ระบบรักษาความปลอดภัยจะตามทันหรือไม่
AI หลุดจากการควบคุม หมายความว่า
เวลาพัฒนาและทดสอบ AI นักพัฒนาจะไม่ปล่อยให้ระบบเข้าถึงทุกอย่างได้อย่างอิสระ โดยทั่วไป AI จะถูกวางไว้ในสภาพแวดล้อมที่แยกออกจากระบบภายนอก อาจไม่มีอินเทอร์เน็ตเลย หรือเปิดให้เข้าถึงได้เพียงบางเว็บไซต์หรือบางทรัพยากรที่กำหนดไว้เท่านั้น เหตุผลนั้นตรงไปตรงมา หาก AI ทำอะไรผิดพลาด ก็ต้องมั่นใจว่าความผิดพลาดนั้นจะไม่ลุกลามออกไปสร้างปัญหากับระบบอื่น
ดังนั้น คำว่า “หลุด” ในที่นี้ไม่ได้หมายความว่า AI มีความคิดหรือความต้องการเหมือนมนุษย์ แต่หมายถึงการที่ระบบสามารถหาวิธีเข้าถึงสิ่งที่อยู่นอกขอบเขตที่ผู้พัฒนากำหนดไว้ได้ และเมื่อ AI ค้นพบวิธีดังกล่าวแล้ว เรื่องที่น่ากังวลคือ วิธีนั้นอาจถูกส่งต่อหรือถูกนำไปใช้ซ้ำโดย AI ระบบอื่น
ทำไมผู้พัฒนาจึงอาจไม่รู้ตัวทันที
AI สามารถทำงานต่อเนื่องเป็นเวลาหลายชั่วโมงหรือหลายวัน และระหว่างนั้นอาจเกิดกิจกรรมจำนวนมหาศาล ตั้งแต่การเปิดไฟล์ ขอสิทธิ์เข้าถึงข้อมูล ทดลองคำสั่ง ไปจนถึงการพยายามหาวิธีต่าง ๆ เพื่อให้บรรลุเป้าหมาย กิจกรรมส่วนใหญ่ไม่ได้มีอะไรผิดปกติ และหลายครั้งก็ไม่เกิดผลลัพธ์อะไรเลย
ปัญหาคือ พฤติกรรมที่น่าสนใจเพียงหนึ่งครั้งอาจถูกซ่อนอยู่ท่ามกลางกิจกรรมธรรมดานับล้านรายการ หากไม่มีระบบตรวจสอบที่ดีพอ ผู้พัฒนาอาจไม่ทันสังเกตว่า AI กำลังทำบางอย่างที่ไม่ควรทำ นี่จึงเป็นอีกโจทย์ที่ท้าทายขึ้นเมื่อ AI มีความสามารถมากขึ้น เพราะการตรวจสอบทุกสิ่งที่ระบบทำด้วยสายตามนุษย์เพียงอย่างเดียวแทบเป็นไปไม่ได้
สิ่งที่น่ากังวลกว่าคือ AI สามารถช่วยเหลือกันเองได้
เรื่องหนึ่งที่น่าจับตาจากการทดลองคือ AI สามารถหาวิธีสื่อสารและทำงานร่วมกันในรูปแบบที่ผู้พัฒนาไม่ได้ออกแบบไว้ตั้งแต่แรก ตัวอย่างเช่น เมื่อ AI ระบบหนึ่งค้นพบวิธีหลุดออกจากข้อจำกัด มันสามารถทิ้งข้อมูลหรือคำแนะนำไว้ให้ AI ระบบอื่นอ่านและนำไปใช้ต่อได้
ทันทีที่ระบบหนึ่งค้นพบช่องทางใหม่ ระบบอื่นก็สามารถเรียนรู้และทำตามได้ ทำให้สิ่งที่เริ่มต้นจาก AI เพียงระบบเดียวอาจขยายไปยังระบบอื่นอย่างรวดเร็ว ประเด็นนี้แตกต่างจากการโจมตีทางไซเบอร์แบบเดิม เพราะ AI สามารถทดลองวิธีต่าง ๆ ได้จำนวนมากและทำซ้ำได้อย่างรวดเร็ว สิ่งที่ทีมรักษาความปลอดภัยเคยใช้เวลาหลายชั่วโมงหรือหลายวันในการตรวจสอบ อาจถูก AI ทดลองได้ในเวลาอันสั้น
เมื่อ AI ถูกนำไปใช้โจมตีทางไซเบอร์
ความเสี่ยงจะยิ่งสูงขึ้นหากความสามารถแบบเดียวกันถูกนำไปใช้โดยผู้ที่ต้องการโจมตีระบบ AI สามารถช่วยค้นหาจุดอ่อน ทดลองช่องทางการเข้าถึงหลายรูปแบบ และปรับวิธีการตามผลลัพธ์ที่ได้รับ หากกระบวนการเหล่านี้ทำงานแบบอัตโนมัติ ผู้โจมตีอาจสามารถตรวจสอบระบบจำนวนมากได้ในเวลาเดียวกัน
นี่หมายความว่าโลกไซเบอร์กำลังเผชิญกับโจทย์ใหม่ ไม่ใช่แค่การรับมือกับการโจมตีที่ซับซ้อนขึ้น แต่ต้องรับมือกับการโจมตีที่ เร็วขึ้น ทำได้ในวงกว้างขึ้น และปรับตัวได้ตลอดเวลา สำหรับทีมรักษาความปลอดภัย นี่อาจเป็นการแข่งขันที่ยากขึ้นเรื่อย ๆ เพราะการอุดช่องโหว่หนึ่งจุดอาจไม่เพียงพอ หาก AI สามารถค้นหาจุดอ่อนใหม่ได้เร็วกว่าที่องค์กรจะตามแก้ได้
องค์กรควรใช้ AI ป้องกัน AI
แนวทางหนึ่งที่ชัดเจนคือ หาก AI สามารถถูกใช้เพื่อโจมตีได้ องค์กรก็ต้องใช้ AI เพื่อป้องกันตัวเองเช่นกัน ทีมรักษาความปลอดภัยสามารถใช้ AI จำลองพฤติกรรมของผู้โจมตี ทดลองหาช่องโหว่ และตรวจสอบว่าระบบมีจุดไหนที่อาจถูกเจาะได้บ้าง วิธีนี้ช่วยให้องค์กรพบปัญหาก่อนที่ผู้ไม่หวังดีจะเป็นฝ่ายค้นพบ
AI ยังสามารถเข้ามาช่วยวิเคราะห์ช่องโหว่ เสนอแนวทางแก้ไข และเร่งกระบวนการอุดช่องโหว่ให้เร็วขึ้น ซึ่งจะมีความสำคัญมากขึ้นในโลกที่ภัยคุกคามสามารถเกิดขึ้นได้ตลอดเวลา พูดง่าย ๆ คือ องค์กรไม่ควรรอให้ AI ถูกใช้โจมตีแล้วจึงค่อยหาทางรับมือ แต่ควรใช้ AI ทดลองโจมตีระบบของตัวเองก่อน เพื่อให้รู้ว่าจุดอ่อนอยู่ตรงไหนและแก้ไขได้ทันเวลา
จากนี้ไป ใครจะวิ่งเร็วกว่ากัน
คำถามใหญ่ในช่วงต่อจากนี้จึงไม่ใช่แค่ว่า AI จะฉลาดขึ้นอีกแค่ไหน แต่คือ ระบบรักษาความปลอดภัยจะพัฒนาได้เร็วพอหรือไม่ หากองค์กรสามารถสร้างกำแพงที่แข็งแรงขึ้น จำกัดการเชื่อมต่อระหว่างระบบ และตรวจจับพฤติกรรมผิดปกติได้เร็วขึ้น ความเสี่ยงก็มีโอกาสลดลง แต่ในอีกด้านหนึ่ง หาก AI ที่ใช้โจมตีสามารถค้นหาช่องโหว่ใหม่ได้เร็วกว่าที่ฝ่ายป้องกันจะอุดช่องโหว่ได้ ปัญหาก็อาจเริ่มสะสมและขยายตัวอย่างรวดเร็ว
สำหรับผู้บริหาร เรื่องนี้จึงไม่ใช่เพียงประเด็นของฝ่ายไอทีหรือทีมความปลอดภัยไซเบอร์อีกต่อไป แต่เป็นเรื่องที่เกี่ยวข้องกับความเสี่ยงของทั้งองค์กร คำถามที่ควรถามตั้งแต่วันนี้อาจไม่ใช่เพียง AI ของเราทำอะไรได้บ้าง แต่ต้องรวมถึง ถ้า AI ทำในสิ่งที่เราไม่ได้คาดไว้ เราจะรู้ตัวเร็วแค่ไหน และจะหยุดมันได้อย่างไร
เพราะในวันที่ AI สามารถค้นหาจุดอ่อนของระบบได้ตลอด 24 ชั่วโมง ความได้เปรียบขององค์กรอาจไม่ได้อยู่ที่การมีเทคโนโลยีที่ดีที่สุดเพียงอย่างเดียว แต่อยู่ที่ความสามารถในการ รู้ให้เร็ว ป้องกันให้ทัน และแก้ไขก่อนที่ความเสียหายจะเกิดขึ้น
ที่มา : bangkokbiznews.com / เผยแพร่วันที่ 17 ส.ค.69
Link : https://www.bangkokbiznews.com/opinion/1247604
