สื่อสังเคราะห์: ภัยคุกคามที่เพิ่มขึ้นจากเนื้อหาที่สร้างโดย AI

เราได้เข้าสู่ยุคที่สมมติฐานพื้นฐานที่อยู่เบื้องหลังสื่อทั้งหมด นั่นคือภาพถ่ายแสดงสิ่งที่เกิดขึ้น การบันทึกเสียงจับสิ่งที่พูด วิดีโอบันทึกสิ่งที่เกิดขึ้น ไม่สามารถยึดถือเป็นจริงได้อีกต่อไป สื่อสังเคราะห์ ซึ่งเป็นเนื้อหาที่สร้างขึ้นหรือถูกดัดแปลงอย่างมากโดยปัญญาประดิษฐ์ ได้พัฒนาจากสิ่งแปลกใหม่ที่สาธิตในงานประชุมวิจัย กลายเป็นภัยคุกคามที่แพร่หลายที่ส่งผลกระทบต่อบุคคล ธุรกิจ รัฐบาล และรากฐานของความเป็นจริงร่วมกัน

คำว่าสื่อสังเคราะห์ครอบคลุมสเปกตรัมที่กว้าง ได้แก่ วิดีโอ deepfake ที่ใส่คำพูดในปากคน ภาพถ่ายที่สร้างโดย AI ของคนที่ไม่เคยมีอยู่จริง เสียงโคลนที่แอบอ้างเป็นบุคคลจริง และข้อความที่เขียนโดยเครื่องที่เลียนแบบการเขียนของมนุษย์ เทคโนโลยีเหล่านี้แต่ละอย่างได้มาถึงระดับความซับซ้อนที่ท้าทายความสามารถในการแยกแยะของจริงจากของปลอม และโดยรวมแล้วเป็นหนึ่งในภัยคุกคามที่สำคัญที่สุดต่อความไว้วางใจในยุคดิจิทัล

คำจำกัดความของสื่อสังเคราะห์

สื่อสังเคราะห์ไม่ได้เป็นอันตรายโดยเนื้อแท้ เทคโนโลยีเดียวกันที่สร้างการฉ้อโกง deepfake ยังขับเคลื่อนแอปพลิเคชันที่ถูกกฎหมาย เช่น สตูดิโอภาพยนตร์ใช้ AI เพื่อทำให้นักแสดงดูอ่อนเยาว์ เครื่องมือช่วยเหลือการเข้าถึงโคลนเสียงสำหรับผู้ที่สูญเสียความสามารถในการพูด และผู้เชี่ยวชาญด้านครีเอทีฟใช้การสร้างภาพด้วย AI เป็นส่วนหนึ่งของกระบวนการสร้างสรรค์ เทคโนโลยีเองเป็นกลาง การประยุกต์ใช้ต่างหากที่กำหนดว่าจะช่วยเหลือหรือทำอันตราย

ปัญหาคือการประยุกต์ใช้ที่เป็นอันตรายได้ก้าวล้ำหน้ามาตรการป้องกัน เครื่องมือสำหรับสร้างสื่อสังเคราะห์มีให้ใช้อย่างแพร่หลาย มักฟรี และต้องการความเชี่ยวชาญทางเทคนิคน้อยมาก เครื่องมือสำหรับตรวจจับสื่อสังเคราะห์เข้าถึงได้ยากกว่า พัฒนาน้อยกว่า และมักต้องการความรู้เฉพาะทางหรือบริการที่ต้องจ่ายเงิน ความไม่สมดุลนี้ การสร้างง่าย การตรวจจับยาก คือสิ่งที่ทำให้สื่อสังเคราะห์เป็นภัยคุกคามที่เพิ่มขึ้นแทนที่จะเป็นความท้าทายที่จัดการได้

ขนาดของปัญหาอธิบายได้ยาก นักวิจัยประมาณว่าปริมาณสื่อสังเคราะห์ออนไลน์เพิ่มขึ้นกว่า 900% ระหว่างปี 2023 ถึง 2025 วิดีโอ deepfake เพียงอย่างเดียวถูกผลิตในอัตราหลายล้านรายการต่อวัน แม้ส่วนใหญ่จะสร้างขึ้นเพื่อความบันเทิงมากกว่าการฉ้อโกง ความท้าทายคือโครงสร้างพื้นฐานเดียวกันที่ผลิตวิดีโอสลับใบหน้าที่ไม่เป็นอันตรายหลายล้านรายการ ก็ผลิต deepfake ที่ตั้งเป้าหมายเพื่อใช้ในการฉ้อโกง กรรโชก และการบิดเบือนข้อมูลด้วย

ภัยคุกคามจากวิดีโอ Deepfake

เทคโนโลยีวิดีโอ deepfake ได้ก้าวหน้าจากการปลอมแปลงที่เห็นได้ชัดไปสู่การจำลองที่เกือบสมบูรณ์แบบ เครื่องมือรุ่นปัจจุบันสามารถสลับใบหน้าแบบเรียลไทม์ระหว่างวิดีโอคอลสด สร้าง deepfake เต็มตัวที่รวมภาษากายและท่าทางที่สมจริง และผลิตฟุตเทจสังเคราะห์ที่รักษาความสม่ำเสมอตลอดวิดีโอต่อเนื่องหลายนาที

ภัยคุกคามปรากฏในหลายประเภทที่แตกต่างกัน การฉ้อโกงทางการเงินใช้วิดีโอ deepfake เพื่อแอบอ้างเป็นผู้บริหารในการประชุมทางวิดีโอ อนุมัติธุรกรรมที่เป็นการฉ้อโกง มีกรณีหลายกรณีที่เกี่ยวข้องกับการสูญเสียเกิน 10 ล้านดอลลาร์ที่ถูกบันทึกไว้ การโจมตีใช้ประโยชน์จากความไว้วางใจที่มีอยู่ในการสื่อสารแบบเผชิญหน้า หรือสิ่งที่ดูเหมือนจะเป็นการสื่อสารแบบเผชิญหน้า

การโจมตีชื่อเสียงสร้างวิดีโอปลอมที่แสดงบุคคลสาธารณะ ไม่ว่าจะเป็นนักการเมือง ผู้นำธุรกิจ คนดัง พูดหรือทำสิ่งที่พวกเขาไม่เคยทำ วิดีโอเหล่านี้สามารถแพร่กระจายเร็วกว่าการแก้ไข ก่อให้เกิดความเสียหายในโลกแห่งความเป็นจริงต่ออาชีพ ความสัมพันธ์ และความไว้วางใจของสาธารณชนก่อนที่จะถูกหักล้าง ความเป็นไปได้เพียงอย่างเดียวที่วิดีโอใดๆ อาจเป็น deepfake ได้เริ่มกัดกร่อนความไว้วางใจในหลักฐานวิดีโอที่ถูกต้องแล้ว

เนื้อหาทางเพศที่ไม่ได้รับความยินยอมเป็นการประยุกต์ใช้ที่ทำลายล้างส่วนบุคคลมากที่สุด AI สามารถสร้างภาพทางเพศที่สมจริงของบุคคลใดก็ได้จากภาพถ่ายธรรมดา เนื้อหานี้ถูกใช้เพื่อการคุกคาม การกรรโชก และการทารุณกรรม ตามที่ระบุในบทความเกี่ยวกับกลโกง sextortion เทคโนโลยีนี้ได้เปลี่ยนแปลงภูมิทัศน์ภัยคุกคามสำหรับการทารุณกรรมด้วยภาพทางเพศอย่างรุนแรง โดยขจัดข้อกำหนดที่ว่าเหยื่อต้องเคยแชร์เนื้อหาทางเพศจริงๆ

การฉ้อโกงด้านความรักและตัวตนใช้วิดีโอ deepfake เพื่อรักษาตัวตนปลอม นักต้มตุ๋นสามารถทำวิดีโอคอลสดโดยใช้การสลับใบหน้าแบบเรียลไทม์ ทำให้สามารถผ่านสิ่งที่เคยเป็นการทดสอบการยืนยันขั้นสูงสุดได้ คู่มือตรวจจับ catfishing ของเราครอบคลุมเทคนิคการท้าทาย-ตอบโต้เฉพาะที่ยังสามารถระบุวิดีโอคอล deepfake ได้

สงสัยเกี่ยวกับวิดีโอหรือภาพ? สแกนเพื่อตรวจหาสัญญาณการปลอมแปลงด้วย deepfake

เสียงสังเคราะห์และการโคลนเสียง

เทคโนโลยีการโคลนเสียงอาจมีผลกระทบที่ถูกนำไปใช้ประโยชน์ได้ทันทีมากที่สุดในบรรดาสื่อสังเคราะห์ทุกประเภท เสียงโคลนที่น่าเชื่อถือสามารถสร้างได้จากตัวอย่างเสียงสั้นๆ สั้นเพียงสามวินาที และนำไปใช้ในการสนทนาทางโทรศัพท์แบบเรียลไทม์หรือข้อความที่บันทึกไว้ล่วงหน้า

การประยุกต์ใช้ในการฉ้อโกงเป็นไปโดยตรงและทำลายล้าง การโทรศัพท์ด้วยเสียงโคลนที่แอบอ้างเป็นสมาชิกในครอบครัว ผู้บริหาร และบุคคลที่มีอำนาจ ส่งผลให้เกิดการสูญเสียทางการเงินอย่างมาก การโจมตีประสบความสำเร็จเพราะเสียงของมนุษย์เป็นหนึ่งในสัญญาณระบุตัวตนที่เราเชื่อถือมากที่สุด เมื่อคุณได้ยินเสียงที่คุณจำได้ สมองของคุณประมวลผลเป็นการยืนยันตัวตน ซึ่งเป็นการตอบสนองทางชีวภาพที่การโคลนเสียงใช้ประโยชน์โดยตรง

Audio deepfake ยังถูกใช้เพื่อสร้างหลักฐานปลอม การบันทึกเสียงปลอมของการสนทนาที่ไม่เคยเกิดขึ้นสามารถใช้ในข้อพิพาททางกฎหมาย การเจรจาทางธุรกิจ หรือความขัดแย้งส่วนบุคคล การรับฟังและการวิเคราะห์ทางนิติวิทยาศาสตร์ของหลักฐานเสียงเป็นพื้นที่ที่กำลังพัฒนาทั้งทางกฎหมายและทางเทคนิค ขณะที่ศาลต้องรับมือกับความจริงที่ว่าการบันทึกเสียงสามารถถูกปลอมแปลงได้อย่างน่าเชื่อถือ

สำหรับการสำรวจอย่างละเอียดเกี่ยวกับวิธีที่การโคลนเสียงกำลังเปลี่ยนแปลงกลโกงทางโทรศัพท์ ดูบทความของเราเกี่ยวกับกลโกง robocall และวิธีหยุดมัน

ภาพที่สร้างโดย AI ในระดับมหาศาล

การสร้างภาพด้วย AI ได้มาถึงระดับคุณภาพที่ภาพที่สร้างขึ้นผ่านเป็นภาพถ่ายจริงได้เป็นประจำ ความสามารถนี้ถูกนำไปใช้ประโยชน์ในหลายประเภทของการฉ้อโกง

การสร้างโปรไฟล์ปลอมในระดับอุตสาหกรรมเป็นไปได้แล้ว นักต้มตุ๋นด้านความรัก ผู้ดำเนินการบิดเบือนข้อมูล และแคมเปญวิศวกรรมสังคมใช้ AI เพื่อสร้างภาพโปรไฟล์ที่ไม่ซ้ำกันและสมจริงสำหรับบัญชีปลอม ต่างจากภาพที่ขโมยมา ภาพที่สร้างขึ้นเหล่านี้ไม่สามารถค้นหาด้วยการค้นหาภาพย้อนกลับ เพราะไม่มีต้นฉบับให้หา เนื่องจากบุคคลนั้นไม่เคยมีอยู่จริง

ภาพสินค้าและรีวิวปลอมบ่อนทำลายความไว้วางใจในอีคอมเมิร์ซ ภาพที่สร้างขึ้นแสดงสินค้าที่ใช้งาน ในสภาพแวดล้อมที่สมจริง โดยคนที่ดูสมจริง ทั้งหมดเป็นของปลอม เมื่อรวมกับรีวิวที่สร้างโดย AI ภาพปลอมเหล่านี้สร้างรูปลักษณ์ที่ครอบคลุมแต่เป็นของเทียมทั้งหมดของคุณภาพสินค้าและความพึงพอใจของลูกค้า

ภาพข่าวปลอมและโฆษณาชวนเชื่อสร้าง "หลักฐาน" ทางภาพสำหรับเหตุการณ์ที่ไม่เคยเกิดขึ้น ภาพปลอมของภัยพิบัติทางธรรมชาติ เหตุการณ์ทางการเมือง ความขัดแย้งทางทหาร หรือเรื่องอื้อฉาวของคนดังแพร่กระจายบนโซเชียลมีเดีย มักสะสมการแชร์นับพันก่อนที่ผู้ตรวจสอบข้อเท็จจริงจะตอบสนองได้ ผลกระทบทางอารมณ์ของภาพเกิดขึ้นทันที ในขณะที่การแก้ไขต้องใช้กระบวนการรับรู้ที่ต้องใช้ความพยายาม ซึ่งเป็นความไม่สมดุลพื้นฐานที่แคมเปญบิดเบือนข้อมูลใช้ประโยชน์

เครื่องจักรข่าวปลอม

ผลกระทบที่กว้างไกลที่สุดของสื่อสังเคราะห์อาจเป็นต่อระบบนิเวศข้อมูลเอง เมื่อเนื้อหาใดๆ ไม่ว่าจะเป็นภาพ วิดีโอ หรือการบันทึกเสียง อาจถูกสร้างโดย AI ได้ แนวคิดของหลักฐานเอกสารเริ่มถูกกัดกร่อน สิ่งนี้สร้างความขัดแย้งที่นักวิจัยเรียกว่า "เงินปันผลของคนโกหก": การมีอยู่เพียงอย่างเดียวของเทคโนโลยี deepfake ทำให้เนื้อหาจริงถูกปัดตกว่าเป็นของปลอมโดยผู้ที่พบว่ามันไม่สะดวก

บุคคลทางการเมืองที่ถูกจับภาพพูดสิ่งที่น่ารังเกียจสามารถอ้างว่าฟุตเทจเป็น deepfake ได้ ความโหดร้ายที่ถูกบันทึกสามารถถูกปัดตกว่าเป็นโฆษณาชวนเชื่อที่สร้างโดย AI หลักฐานการทุจริต การทารุณกรรม หรือความไร้ความสามารถสามารถถูกปัดทิ้งด้วยการยืนยันว่ามันถูกผลิตขึ้น ด้วยวิธีนี้ เทคโนโลยีสื่อสังเคราะห์บ่อนทำลายความจริงแม้ไม่ได้ถูกใช้โดยตรง การมีอยู่ของมันเพียงอย่างเดียวก็ให้ข้ออ้างครอบจักรวาลในการปฏิเสธความจริง

การผสมผสานของข้อความ ภาพ เสียง และวิดีโอที่สร้างโดย AI ยังทำให้สามารถสร้างแคมเปญสื่อสังเคราะห์ได้อย่างสมบูรณ์ เว็บไซต์ข่าวทั้งหมดที่มีนักข่าวที่สร้างโดย AI เผยแพร่บทความที่เขียนโดย AI ประกอบด้วยภาพที่สร้างโดย AI สามารถสร้างได้ภายในไม่กี่วัน เว็บไซต์เหล่านี้เมื่อถูกขยายด้วยบัญชีโซเชียลมีเดียที่ขับเคลื่อนด้วย AI สามารถเปลี่ยนการรับรู้ของสาธารณชนเกี่ยวกับประเด็นทางการเมือง ผลิตภัณฑ์เชิงพาณิชย์ หรือบุคคลสาธารณะ

ผลกระทบในโลกแห่งความเป็นจริง

ผลกระทบของสื่อสังเคราะห์ไม่ใช่เรื่องทางทฤษฎี ในช่วงสองปีที่ผ่านมาเพียงอย่างเดียว วิดีโอ deepfake ถูกใช้เพื่อบิดเบือนการเลือกตั้งในหลายประเทศ โดยฟุตเทจปลอมของผู้สมัครที่พูดข้อความยั่วยุกลายเป็นไวรัลในช่วงก่อนการลงคะแนนเสียง การฉ้อโกงองค์กรโดยใช้ deepfake แอบอ้างเป็นผู้บริหารส่งผลให้เกิดการสูญเสียที่บันทึกไว้เกิน 200 ล้านดอลลาร์ทั่วโลก Deepfake ทางเพศที่ไม่ได้รับความยินยอมได้ผลักดันเหยื่อไปสู่การทำร้ายตัวเองและการฆ่าตัวตาย

ระบบกฎหมายกำลังดิ้นรนเพื่อตามให้ทัน แม้ว่าบางเขตอำนาจศาลได้ผ่านกฎหมายที่มุ่งเป้าการประยุกต์ใช้เฉพาะของ deepfake โดยเฉพาะเนื้อหาทางเพศที่ไม่ได้รับความยินยอมและการบิดเบือนการเลือกตั้ง การบังคับใช้ยังคงเป็นเรื่องท้าทายเมื่อเนื้อหาถูกผลิตโดยไม่ระบุตัวตนและเผยแพร่ผ่านแพลตฟอร์มระหว่างประเทศ เทคโนโลยีเคลื่อนที่เร็วกว่ากฎหมาย สร้างช่องว่างที่ผู้ไม่ประสงค์ดีใช้ประโยชน์

ตลาดการเงินเป็นเป้าหมายที่เติบโตอีกเป้าหมายหนึ่ง แถลงการณ์ปลอมของผู้บริหาร ประกาศผลประกอบการปลอม และความเห็นนักวิเคราะห์สังเคราะห์สามารถเคลื่อนราคาหุ้นก่อนที่การตรวจสอบจะเกิดขึ้น เมื่อถึงเวลาที่เนื้อหาถูกระบุว่าเป็นของปลอม ผู้ค้าที่วางมันไว้ได้ทำกำไรจากปฏิกิริยาของตลาดแล้ว ตามที่สำรวจในบทความของเราเกี่ยวกับวิธีที่ AI ทำให้กลโกงอันตรายมากขึ้น แรงจูงใจทางการเงินสำหรับการสร้างสื่อสังเคราะห์ที่น่าเชื่อถือมีมหาศาลและเพิ่มขึ้นเรื่อยๆ

การตรวจจับและการป้องกัน

การป้องกันสื่อสังเคราะห์ต้องใช้แนวทางหลายชั้นที่ผสมผสานเทคโนโลยี การศึกษา และแนวปฏิบัติของสถาบัน

เครื่องมือตรวจจับที่ขับเคลื่อนด้วย AI เป็นการป้องกันทางเทคโนโลยีที่มีแนวโน้มดีที่สุด ระบบเหล่านี้วิเคราะห์เนื้อหาเพื่อหาลายนิ้วมือทางสถิติของการสร้างโดย AI ได้แก่ รูปแบบในการกระจายพิกเซล ลักษณะสเปกตรัมของเสียง ความไม่สอดคล้องทางเวลาในวิดีโอ และลายเซ็นทางภาษาในข้อความที่มนุษย์มองไม่เห็นแต่มีอยู่อย่างสม่ำเสมอในเนื้อหาสังเคราะห์

แพลตฟอร์มสแกนของ Truvizy นำความสามารถในการตรวจจับเหล่านี้มาสู่ผู้ใช้ทั่วไป โดยการวิเคราะห์ภาพ วิดีโอ และสื่ออื่นๆ ผ่านชั้นการตรวจจับหลายชั้น จะระบุสัญญาณของการสร้างและการปลอมแปลงด้วย AI ที่จะผ่านการตรวจสอบของมนุษย์ คู่มือที่ครอบคลุมของเราเกี่ยวกับวิธีบอกว่าเนื้อหาถูกสร้างโดย AI หรือไม่อธิบายเทคนิคเฉพาะที่ใช้ในการตรวจจับข้อความ ภาพ และวิดีโอ

มาตรฐานที่มาของเนื้อหาเช่น C2PA เสนอทางออกเชิงโครงสร้างโดยการสร้างบันทึกที่ตรวจสอบได้ว่าเนื้อหาถูกสร้างและแก้ไขอย่างไร เมื่อมีการนำมาใช้อย่างแพร่หลาย มาตรฐานเหล่านี้ช่วยให้ผู้บริโภคและแพลตฟอร์มตรวจสอบว่าภาพถ่ายถูกถ่ายด้วยกล้องจริง วิดีโอถูกบันทึกบนอุปกรณ์เฉพาะ และทั้งสองไม่ได้ถูกเปลี่ยนแปลงอย่างมีนัยสำคัญ แม้การนำมาใช้กำลังเติบโต แต่ยังไม่เป็นสากล ทำให้ที่มาเป็นสัญญาณที่มีประโยชน์เมื่อมีอยู่แต่ไม่เพียงพอด้วยตัวเอง

โปรโตคอลการยืนยันสำหรับการตัดสินใจที่ละเอียดอ่อนให้การป้องกันในระดับองค์กร ธุรกิจควรจัดตั้งขั้นตอนการยืนยันผ่านช่องทางอื่นสำหรับคำขอที่ผิดปกติที่ได้รับผ่านวิดีโอ เสียง หรือข้อความ โดยเฉพาะคำขอที่เกี่ยวข้องกับธุรกรรมทางการเงิน การโทรกลับไปยังหมายเลขโทรศัพท์ที่ทราบหรือการยืนยันผ่านช่องทางการสื่อสารแยกต่างหากสามารถเอาชนะ deepfake ที่น่าเชื่อถือที่สุดได้

การศึกษาด้านความรู้เท่าทันสื่อสร้างความยืดหยุ่นของบุคคล การเข้าใจว่าเนื้อหาดิจิทัลใดๆ สามารถถูกปลอมแปลงได้ การรู้จุดสังเกตการตรวจจับเบื้องต้น และการพัฒนานิสัยในการยืนยันก่อนเชื่อหรือแชร์ เป็นทักษะพื้นฐานสำหรับการนำทางในภูมิทัศน์สื่อสังเคราะห์ นี่ไม่ใช่เรื่องของความหวาดระแวง แต่เป็นการปรับเทียบความไว้วางใจที่เหมาะสมในสภาพแวดล้อมที่การปลอมแปลงราคาถูกและการตรวจสอบเป็นสิ่งจำเป็น

รับการป้องกันที่ขับเคลื่อนด้วย AI จาก deepfake การโคลนเสียง และสื่อสังเคราะห์

แผนการป้องกันของ Truvizy นำการวิเคราะห์สื่อที่ขับเคลื่อนด้วย AI มาสู่มือของบุคคลที่ต้องตัดสินใจเรื่องความไว้วางใจเกี่ยวกับเนื้อหาดิจิทัลทุกวัน ไม่ว่าคุณจะกำลังประเมินโปรไฟล์นัดหมาย ตรวจสอบข่าว หรือยืนยันการสื่อสารทางธุรกิจ การมีความสามารถในการตรวจจับเนื้อหาสังเคราะห์กำลังกลายเป็นสิ่งจำเป็นพื้นฐานเช่นเดียวกับซอฟต์แวร์ป้องกันไวรัสเมื่อสิบปีก่อน ภัยคุกคามกำลังพัฒนา และการป้องกันของเราก็ต้องพัฒนาเช่นกัน

วิธีสังเกตวิดีโอ Deepfake — สัญญาณทางภาพและเครื่องมือ AI สำหรับการระบุวิดีโอที่ถูกปลอมแปลง

วิธียืนยันความถูกต้องของวิดีโอ — วิธีการทีละขั้นตอนเพื่อยืนยันว่าเนื้อหาวิดีโอเป็นของจริง

วิธีบอกว่าเนื้อหาถูกสร้างโดย AI หรือไม่ — คู่มือตรวจจับเชิงปฏิบัติสำหรับข้อความ ภาพ และวิดีโอ