AI Agent ไม่ดีเสมอไป เมื่อมันอาจถูกหลอกและมีช่องโหว่ความปลอดภัย

ปัจจุบันซอฟต์แวร์ที่เราใช้งานในชีวิตประจำวันล้วนได้รับการอัปเกรดหรือติดตั้ง AI ติดมาให้ใช้งาน ช่วยเพิ่มความสะดวกสบายในการทำงานและจัดการชีวิตประจำวัน ทั้งในการหาข้อมูล นำทาง วางแผนเที่ยว ตลอดจนเลือกซื้อสินค้า ที่สามารถจัดการได้ง่ายโดยอาศัยการป้อนคำสั่งไม่กี่คำ แต่ใช่จะมีเพียงข้อดีเมื่อผลการวิจัยล่าสุดพบว่า AI Agent เหล่านี้อาจถูกหลอกและเป็นช่องโหว่ความปลอดภัย

แอฟริกาใต้โละนโยบายกำกับเอไอ หลังพบข้อความบางส่วนใช้เอไอเขียนจากข้อมูลปลอม

ทางการแอฟริกาใต้ตัดสินใจถอนร่างนโยบายระดับชาติว่าด้วยปัญญาประดิษฐ์ หลังจากมีการตรวจพบว่าเนื้อหาบางส่วนเขียนขึ้นโดย “เอไอ”

นักวิจัยสร้างข้อมูลปลอมโรคใหม่ลงระบบเพื่อ “หลอกเอไอ” สะท้อนปัญหาการบิดเบือนข้อเท็จจริง

นักวิจัยทดลองใส่ข้อมูลโรคปลอมขึ้นมาใหม่ลงในอินเทอร์เน็ตหลอกแชตบอตเอไอหลายสำนัก เพื่อพิสูจน์ว่า เอไอเหล่านี้สามารถโดนหลอกได้อย่างง่ายดาย การทดลองเมื่อไม่นานมานี้จากทีมวิจัยที่ต้องการพิสูจน์ให้เห็นว่าแชตบอตเอไอทั้งหลาย ยังไม่สามารถแยกแยะข้อมูลจริงและเท็จออกจากกันได้อย่างสมบูรณ์

Sam Altman เตือนข้อมูลปลอมระบาดหนักในโลกยุค AI เสมือนคนจริง

แซม อัลต์แมน (Sam Altman) ประธานเจ้าหน้าที่บริหารของ OpenAI ออกมาเตือนว่าโลกกำลังเดินหน้าสู่วิกฤตการหลอกลวงครั้งใหญ่ที่เกิดจากเหล่ามิจฉาชีพใช้งานเทคโนโลยี AI ในทางที่ผิด

ออสเตรเลียล้มแผนปรับบริษัทเทคโนโลยี ถ้าไม่สามารถจัดการเฟคนิวส์ออนไลน์

สำนักข่าวต่างประเทศรายงานจากเมืองซิดนีย์ ประเทศออสเตรเลีย เมื่อวันที่ 24 พ.ย. ว่ากระทรวงข่าวสารออสเตรเลียออกแถลงการณ์ เพิกถอนการเสนอ “ร่างกฎหมายข่าวปลอม” ให้มีการปรับบริษัทเทคโนโลยี ในสัดส่วนสูงสุด 5% ของรายได้ทั่วโลกที่บริษัทแห่งนั้นได้รับ หากไม่สามารถป้องกันและยับยั้งการเผยแพร่ข่าวปลอมบนโลกออนไลน์ได้

แอบขโมยข้อมูล ใช้ ช่องโหว่ ChatGPT สร้างความทรงจำปลอม

เมื่อไม่นานมานี้ นักวิจัยด้านความปลอดภัยชื่อ Johann Rehberger ได้รายงานถึงช่องโหว่ใน ChatGPT ที่ทำให้ผู้โจมตีสามารถจัดเก็บข้อมูลเท็จและคำสั่งอันตรายไว้ในส่วนการตั้งค่าความทรงจำระยะยาวของผู้ใช้ได้