อลเวง Deepfake! วิธีสังเกต-ป้องกันตัวเองจากวิดีโอปลอม

บทความน่าสนใจ

Loading

  หลังจากมีข่าวว่ากูเกิล (Google) ได้แบนอัลกอริธึม “ดีพเฟค” (deepfake) ให้หมดจากบริการกูเกิลคอลาบอราทอรี่ (Google Colaboratory) ซึ่งเป็นบริการคอมพิวติ้งฟรีพร้อมการเข้าถึง GPU โลกก็รู้ว่ากูเกิลไม่ได้เป็นเจ้าเดียวที่พยายามควบคุม deepfake แต่หลายรัฐในสหรัฐฯ ต่างมีกฎหมายควบคุมอย่างจริงจัง แม้แต่ประเทศจีนก็มีการร่างกฎหมายกำหนดให้มีการระบุสื่อที่สร้างด้วยคอมพิวเตอร์ และกำหนดกฎระเบียบ AI ของสหภาพยุโรป หรือ EU โดยในอนาคตอาจรวมเนื้อหาเกี่ยวกับเทคโนโลยีเฉพาะนี้ด้วย นายวลาดิสลาฟ ทุชคานอฟ หัวหน้านักวิทยาศาสตร์ข้อมูล แคสเปอร์สกี้ ได้ออกมาอธิบายถึงตัวตนของ deepfake และวิเคราะห์ถึงเหตุผลที่ทำให้เกิดการโต้เถียงกันรอบด้าน เพื่อให้เข้าใจความสำคัญของปรากฏการณ์ที่เกิดขึ้นว่า Deepfake เป็นตัวอย่างสำคัญของเทคโนโลยีที่พัฒนาได้เร็วกว่าที่ผู้ใช้จะเข้าใจและสามารถจัดการความยุ่งยากได้ ด้วยเหตุนี้ deepfake จึงถูกมองว่าเป็นชุดเครื่องมือที่ใช้บิดเบือนข้อมูล เป็นความท้าทายสิ่งที่สังคมคิดว่าสามารถไว้วางใจได้ ***deepfake คืออะไร? แคสเปอร์สกี้ให้นิยามดีพเฟค หรือ Deepfake ว่า โดยทั่วไปหมายถึง สื่อสังเคราะห์ประเภทต่างๆ ที่สร้างด้วยคอมพิวเตอร์ซึ่งเกี่ยวข้องกับผู้คนและสร้างขึ้นด้วยโครงข่ายประสาทเทียมระดับลึก deepfake อาจเป็นวิดีโอ ภาพถ่าย หรือการบันทึกเสียง การใช้การเรียนรู้เชิงลึกแทนเทคนิคการตัดต่อภาพแบบดั้งเดิมได้ช่วยลดความพยายามและทักษะที่จำเป็นอย่างมากในการสร้างภาพปลอมที่น่าเชื่อถือได้ “ในช่วงแรก คำว่า deepfake นี้หมายถึงซอฟต์แวร์ชิ้นหนึ่งซึ่งได้รับความนิยมใน Reddit…

Facebook ลบวิดีโอ Deepfake ของประธานาธิบดี Zelensky ที่เผยแพร่หลังสำนักข่าวยูเครนโดนแฮ็ก

ข่าวประจำวัน, สถานการณ์ไซเบอร์

Loading

    Meta รายงานว่าทางบริษัทสั่งตรวจสอบและลบวิดีโอ Deepfake ของประธานาธิบดี Volodymyr Zelensky บนแพลตฟอร์ม Facebook แล้ว เป็นไปตามกฎของ Facebook ที่ไม่อนุญาตให้มีวิดีโอประเภทนี้บนแพลตฟอร์ม   วิดีโอปลอมของประธานาธิบดี Zelensky นี้ออกแถลงการณ์ในลักษณะขอให้ประชาชนวางอาวุธเลิกต่อต้านทหารรัสเซีย และมีรายงานว่าวิดีโอนี้เผยแพร่ผ่านช่องโทรทัศน์และเว็บไซต์ของสำนักข่าว Ukraine 24 ที่มีรายงานว่าโดนแฮ็กด้วย   Nathaniel Gleicher หัวหน้าฝ่ายนโยบายความปลอดภัยของ Meta ระบุว่าทีมได้ตรวจสอบและลบวิดีโอ Deepfake ของประธานาธิบดี Zelensky ที่แถลงการณ์ในสิ่งที่เขาไม่ได้พูดแล้ว วิดีโอนี้ปรากฏในเว็บไซต์ที่ถูกโจมตีและหลังจากนั้นก็เผยแพร่ไปทั่วอินเทอร์เน็ต ทาง Meta จึงได้ตรวจสอบและลบวิดีโอเนื่องจากฝ่าฝืนนโยบายเกี่ยวกับสื่อที่ถูกบิดเบือนและแจ้งเตือนไปยังแพลตฟอร์มอื่น ๆ ด้วย อ้างอิง  https://www.facebook.com/www.ukraine24.ua/posts/1847515155441880   ที่มา – Engadget, Snopes   ——————————————————————————————————————————————————- ที่มา : Blognone by Nutmos       …

ล้ำไปอีก! เตือนแก๊งคอลเซ็นเตอร์ใช้ Deep Fake ตัดต่อคลิปตำรวจ หลอกโอนเงิน

ข่าวประจำวัน, สถานการณ์ไซเบอร์

Loading

  MGR Online – รองโฆษก ตร. เตือนระวังภัยแก๊งคอลเซ็นเตอร์ไฮเทคใช้ Deep Fake ตัดต่อคลิปภาพตำรวจ หลอกเหยื่อเอาเงิน ย้ำไม่มีนโยบายติดต่อทางระบบวิดีโอคอล   วันนี้ (11 มี.ค.) พ.ต.อ.ศิริวัฒน์ ดีพอ รองโฆษกสำนักงานตำรวจแห่งชาติ กล่าวว่า ตามที่ พล.ต.อ.สุวัฒน์ แจ้งยอดสุข ผบ.ตร. ได้มีนโยบายให้ สำนักงานตำรวจแห่งชาติ แจ้งเตือนและประชาสัมพันธ์ให้พี่น้องประชาชนรู้เท่าทันถึงอาชญากรรมทางเทคโนโลยี และได้กำชับให้เจ้าหน้าที่ตำรวจทำการสืบสวนจับกุมผู้กระทำผิดมาดำเนินคดีตามกฎหมายอย่างต่อเนื่องมาโดยตลอดนั้น สำนักงานตำรวจแห่งชาติ ได้ตรวจสอบพบว่า แก๊งคอลเซ็นเตอร์ได้ปรับเปลี่ยนรูปแบบจากเดิมที่นำคลิปวิดีโอจากการให้สัมภาษณ์ของเจ้าหน้าที่ตำรวจ ซึ่งสวมใส่หน้ากากอนามัย มาตัดต่อใส่เสียงของคนร้าย เพื่อทำการข่มขู่ผู้เสียหาย จนผู้เสียหายหลงเชื่อว่าเป็นเจ้าหน้าที่ตำรวจจริง และโอนเงินจำนวนมากให้กับคนร้าย นั้น   พ.ต.อ.ศิริวัฒน์ กล่าวอีกว่า ปัจจุบันได้มีการพัฒนารูปแบบในการหลอกลวงพี่น้องประชาชน โดยการใช้เครื่องมือที่ทันสมัยมากขึ้นที่เรียกว่า Deepfake ซึ่งเป็นการใช้เทคโนโลยี Deep Learning ในการพัฒนาระบบปัญญาประดิษฐ์ ให้สามารถตัดต่อคลิปวิดีโอหรือภาพถ่ายของบุคคลหนึ่ง ให้สามารถขยับปากตามเสียงของบุคคลอื่นได้ ซึ่งแก๊งคอลเซ็นเตอร์ก็ได้ใช้ประโยชน์จากเทคโนโลยีดังกล่าว มาตัดต่อคลิปหรือภาพของเจ้าหน้าที่ตำรวจ ให้พูดตามสิ่งที่คนร้ายพูด เพื่อเพิ่มความน่าเชื่อถือในการหลอกลวงทรัพย์สินจากพี่น้องประชาชน “สำนักงานตำรวจแห่งชาติ จึงขอเรียนพี่น้องประชาชน…

หนักกว่านิวเคลียร์ Deepfake ปลุกปั่นให้เกลียดชัง มหันตภัยใหม่ จากภาพปลอม

บทความน่าสนใจ

Loading

  James Cameron ผู้สร้าง The Terminator หรือที่เรารู้จักกันในนาม “คนเหล็ก” ออกมาให้สัมภาษณ์กับ BBC ว่า Skynet อาจจะทำลายมนุษย์ชาติด้วย Deepfake ไม่ใช่ Nukes อย่างในภาพยนตร์ . หนึ่งในบทสัมภาษณ์คือ “ทั้งหมดที่ Skynet ต้องทำ ก็แค่แกล้งคนจำนวนมาก โดยการปลุกปั่นให้พวกเขาเกิดความโกลาหล ปลุกปั่นให้เกิดการเกลียดชัง โดยการใช้แค่ Deepfakes” ยกตัวอย่างเช่น เลียนแบบคนที่มีอำนาจขึ้นมาเพื่อสั่งการอะไรบางอย่างออกไป . หากพูดถึง Skynet มันคือเครือข่าย Computer ขนาดใหญ่ที่สามารถเข้าถึงข้อมูลต่าง ๆ ได้ทั้งหมด มีความสามารถในการประมวลผลสิ่งต่าง ๆ ได้อย่างรวดเร็วจนตัวมันเองนั้นสามารถคิดแทนมนุษย์ได้ หากจะเปรียบในโลกแห่งความเป็นจริง เราก็มี AI ที่สามารถคิดแทนมนุษย์ได้แล้วจริง ๆ . James Cameron หยิบยกหัวข้อนี้ขึ้นมาในขณะที่พูดคุยถึงภัยคุกคามของวิดีโอ “Deepfake” ที่สร้างโดย AI สามารถบิดเบือนใบหน้าของใครบางคนให้พูดอย่างอื่นได้ คาเมรอนกลัวว่าเทคโนโลยีเดียวกันนี้อาจถูกนำไปใช้ในทางที่ผิดเพื่อสร้างความวุ่นวายทางการเมืองหรือก่อสงคราม ซึ่งเขาได้ยกตัวอย่าง…

ผู้นำองค์กรต้องเพิ่มกลยุทธ์ป้องกันการปลอมแปลงอัตลักษณ์บุคคล (Deep-Fake)

บทความน่าสนใจ

Loading

  เดือนมีนาคม 2562 ซีอีโอของบริษัทพลังงานแห่งหนึ่งในประเทศอังกฤษได้รับสายด่วนจากเจ้านายซึ่งเป็นผู้บริหารของบริษัทแม่ที่เยอรมนี โดยเจ้านายชาวเยอรมันสั่งให้ลูกน้องของเขาโอนเงินจำนวน 220,000 ยูโร (ประมาณ 8.5 ล้านบาท) ให้กับตัวแทนซัพพลายเออร์ในฮังการี ซึ่งต้องโอนเงินเป็นกรณีเร่งด่วนและต้องแล้วเสร็จภายใน 1 ชั่วโมง เนื่องจากซีอีโอชาวอังกฤษจำสำเนียงเยอรมันที่โดดเด่นของเจ้านายได้ดี เขาจึงรีบอนุมัติการโอนเงินในทันที ทว่าโชคร้ายที่ซีอีโอชาวอังกฤษไม่ได้คุยกับเจ้านายของเขา แต่กลับคุยกับปัญญาประดิษฐ์ที่เลียนเสียงและแอบอ้างตัวเป็นเจ้านายชาวเยอรมัน   องค์กรธุรกิจควรต้องตระหนกกับเหตุการณ์นี้หรือไม่? คำตอบคือทั้งใช่และไม่ใช่ ที่ธุรกิจต้องกังวลคือรูปแบบความซับซ้อนในการหลอกลวงที่ดูแนบเนียนและที่สำคัญเป็นการโจมตีที่ประสบความสำเร็จ แต่ที่ยังเบาใจได้คือมันยังต้องใช้ความพยายามและทรัพยากรอย่างมากในการจู่โจมรูปแบบนี้และเป้าหมายใหญ่อย่างบริษัทข้ามชาติ ซึ่งสิ่งนี้กำลังจะเปลี่ยนไป โดยเครื่องมือที่ใช้บิดเบือนข้อมูลสามารถขยายเป็นสองทางอย่างน่าทึ่ง อย่างแรก คือ มันทำให้ผู้ที่ไม่หวังดีใช้วิธีนี้จู่โจมได้ง่ายมากขึ้น แม้จะมีเปอร์เซ็นต์ความสำเร็จน้อยแต่สิ่งที่ได้มาก็คุ้ม อย่างที่สองเมื่อเทคโนโลยี Deep-Fake หรือการปลอมแปลงอัตลักษณ์ของบุคคลด้วยปัญญาประดิษฐ์ที่ทรงพลังและใช้ง่ายตกอยู่ในมือคนจำนวนมากที่ทำให้ใครก็ได้สามารถโจมตีเป้าหมายที่ต้องการไม่ว่าจะด้วยเหตุผลใดก็ตาม   เทคโนโลยีเอไอ (AI) และแมชชีนเลิร์นนิ่ง (Machine Learning) แทรกซึมอยู่ในธุรกิจและการสื่อสารสมัยใหม่ ซึ่งไม่น่าแปลกใจที่จะมีการใช้เทคโนโลยีเหล่านี้ไปในทางที่ผิดกฎหมาย การล่อลวงแบบดีปเฟก (Deepfakes) สามารถเป็นได้ทั้งเสียง รูปภาพ และวิดีโอที่ดูเสมือนจริงแต่กลับเป็นสิ่งประดิษฐ์ที่สร้างขึ้นด้วยเอไอ เหล่านี้เป็นปรากฏการณ์ครั้งล่าสุดของการบิดเบือนข้อมูลในแบบที่ RAND Corporation หน่วยงานด้านนโยบายระดับโลกของอเมริกา ได้อธิบายไว้ว่าเป็น “วัฒนธรรมการเสื่อมสลายของความจริง” (หรือ Truth Decay) เป็นพลวัตที่มีการถกเถียงอย่างมากถึงขอบเขตในด้านการเมืองและทฤษฎีสมคบคิด…

Deepfake แบบใหม่ ใช้ AI ขยับปากตามเสียงพากย์ได้แล้ว

บทความน่าสนใจ

Loading

  Flawless บริษัทสตาร์ตอัปที่พัฒนาด้าน AI ได้พัฒนาเทคโนโลยี Deepfake แบบใหม่ ที่สามารถปรับภาพปากของนักแสดงในภาพยนตร์ฮอลลีวูดต้นฉบับ สามารถขยับตามปากตามเสียงที่ถูกพากย์ทับในภาษาอื่น ๆ ได้อย่างเป็นธรรมชาติ ซึ่งจะช่วยให้ผู้คนทั่วโลกสามารถเข้าถึงภาพยนตร์ได้มากขึ้น โดยปกติแล้ว เทคโนโลยี Deepfake จะถูกนำมาใช้ในการนำใบหน้าของบุคคลอื่นมาซ้อนทับกับใบหน้าของนักแสดงในภาพยนตร์ได้อย่างแนบเนียน แต่ Flawless ได้เน้นการนำเทคโนโลยีนี้มาใช้เฉพาะกับองค์ประกอบของปากเท่านั้น โดยการนำเอาภาพยนตร์หรือซีรีส์ที่ถูกพากย์เสียงทับใหม่สำหรับฉายในต่างประเทศ มาผสานการทำงานเข้ากับซอฟต์แวร์ของ Flawess ซึ่งโมเดล AI ของ Flawless จะสร้างภาพการเคลื่อนไหวของริมฝีปากขึ้นมาให้ตรงกับภาษาที่พากย์ทับเข้ามา และวางภาพริมฝีปากใหม่นี้ลงบนใบหน้าของนักแสดงในภาพยนตร์นั้น ๆ ได้อย่างสมจริง     Nick Lynes ผู้ร่วมก่อตั้ง Flawless ได้กล่าวกับเว็บไซต์ TheVerge ว่า “บางครั้งในการชมภาพยนตร์ที่ถูกพากย์เสียงทับมาใหม่ ก็จะสังเกตเห็นการเคลื่อนไหวของปากที่ไม่ตรงกับเสียงพากย์ ซึ่งทำให้ผู้ชมลดทอนการแสดงของนักแสดงคนนั้น ๆ ลงไปด้วย ระบบที่ได้รับการพัฒนาขึ้นมาใหม่นี้จะเข้ามาช่วยให้ผู้ชมยังคงเห็นการแสดงของนักแสดงจากภาพยนตร์ต้นฉบับไปพร้อมกับเสียงพากย์ใหม่ได้อย่างลงตัว” แม้ว่าผลลัพธ์จะยังไม่ถือได้ว่ามีประสิทธิภาพเต็ม 100% แต่ก็ได้ผลที่น่าประทับใจ โดยเห็นได้จากตัวอย่างที่เป็นฉากหนึ่งจากภาพยนตร์คลาสสิกอย่าง A Few Good Men เมื่อปี 1992…