วิดีโอคอล Deepfake: มิจฉาชีพแอบอ้างเป็นหัวหน้าของคุณบน Zoom ได้อย่างไร

คุณเข้าร่วมสาย Zoom และเห็นใบหน้าของ CFO บนหน้าจอ เสียงตรงกัน กิริยาท่าทางคุ้นเคย พวกเขาอ้างถึงดีลที่คุณพูดคุยกันเมื่อสัปดาห์ที่แล้วและขอให้คุณดำเนินการโอนเงินเร่งด่วนเพื่อปิดดีลการเข้าซื้อกิจการ ทุกอย่างตรวจสอบแล้วถูกต้อง คุณจึงเริ่มดำเนินการชำระเงิน ยกเว้นว่าคนบนหน้าจอไม่ใช่ CFO ของคุณ มันคืออาชญากรที่สวมหน้ากาก deepfake แบบเรียลไทม์ และเงินก็หายไป

นี่ไม่ใช่นิยายวิทยาศาสตร์ มันเป็นเวกเตอร์การโจมตีที่มีบันทึกที่ทำให้องค์กรเดียวเสียหายหลายสิบล้านดอลลาร์แล้ว เทคโนโลยี deepfake แบบเรียลไทม์ได้ก้าวหน้าถึงจุดที่การสลับใบหน้าสามารถใช้กับฟีดวิดีโอสดโดยมีความหน่วงต่ำพอที่จะดูเหมือนวิดีโอคอลปกติ เมื่อรวมกับการโคลนเสียง สิ่งนี้สร้างรูปแบบใหม่ที่ทรงพลังของการฉ้อโกงทางธุรกิจที่ใช้ประโยชน์จากเครื่องมือที่องค์กรพึ่งพาสำหรับการทำงานร่วมกันระยะไกล

การเพิ่มขึ้นของการแอบอ้างตัวตนด้วย Deepfake สด

Business email compromise (BEC) เป็นหนึ่งในรูปแบบอาชญากรรมไซเบอร์ที่มีค่าใช้จ่ายสูงที่สุดมานานกว่าทศวรรษ แผนการเดิมเกี่ยวข้องกับการปลอมแปลงหรือเจาะบัญชีอีเมลของผู้บริหารและส่งคำสั่งชำระเงินหลอกลวง เมื่อองค์กรนำขั้นตอนการยืนยันอีเมลมาใช้ อาชญากรก็ปรับตัว วิดีโอคอล deepfake เป็นวิวัฒนาการตามธรรมชาติของ BEC แทนที่การแอบอ้างตัวตนด้วยข้อความด้วยการแอบอ้างทางภาพและเสียงที่น่าเชื่อถือกว่ามาก

สแตกเทคโนโลยีที่จำเป็นสำหรับการโทร deepfake สดกลายเป็นเรื่องที่เข้าถึงได้ง่ายอย่างน่าประหลาดใจ โมเดลสลับใบหน้าแบบโอเพนซอร์สสามารถทำงานบนGPU ระดับผู้บริโภค ซอฟต์แวร์กล้องเสมือนจับฟีดวิดีโอก่อนที่จะถึง Zoom หรือ Teams และเครื่องมือโคลนเสียงที่ฝึกจากตัวอย่างเสียงที่เผยแพร่สาธารณะจัดการด้านเสียง ผู้โจมตีที่มีทักษะเทคนิคปานกลางและเตรียมตัวไม่กี่ชั่วโมงสามารถสร้างการแอบอ้างตัวตนแบบเรียลไทม์ที่พอใช้ได้ของเกือบทุกคนที่มีใบหน้าและเสียงเผยแพร่สาธารณะ

กายวิภาคของการโจมตีวิดีโอคอล Deepfake

การโจมตีด้วยสาย deepfake ที่ซับซ้อนมักเริ่มหลายสัปดาห์ก่อนการโทร ผู้โจมตีทำการสำรวจ ศึกษาโครงสร้างขององค์กรเป้าหมาย ระบุว่าพนักงานคนไหนมีอำนาจในการเริ่มการชำระเงิน และรวบรวมตัวอย่างวิดีโอและเสียงของผู้บริหารที่จะแอบอ้าง LinkedIn, การนำเสนอในการประชุมบน YouTube, การปรากฏตัวในพอดแคสต์ และวิดีโอการตลาดขององค์กรล้วนให้วัตถุดิบ

จากนั้นผู้โจมตีเจาะหรือปลอมแปลงปฏิทินและอีเมลของผู้บริหารเพื่อนัดหมายการโทรผ่านช่องทางที่ดูถูกต้องตามกฎหมาย คำเชิญประชุมดูเป็นของจริง ส่งจากที่อยู่อีเมลหรือระบบปฏิทินที่ถูกต้อง มักจะจังหวะให้ตรงกับเวลาที่ผู้บริหารจริงไม่ว่าง เช่น ระหว่างเดินทางหรือวันหยุดที่ทราบ ระหว่างการโทร ผู้โจมตีใช้จุดพูดคุยที่เตรียมไว้ที่อ้างอิงถึงโปรเจกต์จริง เพื่อนร่วมงานจริง และดีลจริงเพื่อสร้างความน่าเชื่อถือก่อนที่จะเปลี่ยนไปสู่คำขอหลอกลวง

สิ่งที่ทำให้การโจมตีเหล่านี้ร้ายแรงคือมันใช้ประโยชน์จากความไว้วางใจโดยปริยายของการสื่อสารผ่านวิดีโอ มานานหลายทศวรรษ การเห็นใบหน้าของใครบางคนในวิดีโอคอลถือว่าเป็นการยืนยันตัวตนที่เชื่อถือได้ สมมติฐานนั้นตอนนี้ล้าสมัยอย่างอันตราย สำหรับการดูเชิงลึกว่า deepfake ทำงานอย่างไรและสัญญาณทางภาพที่คุณมองหาได้ ดู คู่มือการจับสังเกตวิดีโอ deepfake ของเรา

กรณีฮ่องกง: $25 ล้านในสายเดียว

การฉ้อโกงวิดีโอคอล deepfake ที่ถูกรายงานอย่างกว้างขวางที่สุดเกิดขึ้นที่ฮ่องกง ที่ซึ่งพนักงานการเงินที่บริษัทข้ามชาติถูกหลอกให้โอนเงินประมาณ $25 ล้าน หลังจากการประชุมวิดีโอที่ดูเหมือนรวม CFO ของบริษัทและผู้บริหารระดับสูงอีกหลายคน พนักงานเริ่มต้นด้วยความสงสัยต่ออีเมลที่ขอให้โอนเงิน แต่ถูกโน้มน้าวหลังจากวิดีโอคอลดูเหมือนยืนยันคำสั่งกับใบหน้าที่คุ้นเคยหลายคน

สิ่งที่ทำให้กรณีนี้น่าตกใจเป็นพิเศษคือลักษณะหลายผู้เข้าร่วมของ deepfake แทนที่จะแอบอ้างเป็นผู้บริหารคนเดียว ผู้โจมตีสร้าง deepfake แบบเรียลไทม์ของหลายคนพร้อมกัน สร้างภาพลวงตาของการประชุมกลุ่มที่ทุกผู้เข้าร่วมเป็นสังเคราะห์ สิ่งนี้เพิ่มความน่าเชื่อถือที่รับรู้ของคำขออย่างมาก เพราะพนักงานเป้าหมายเห็น "หลายคน" เพื่อนร่วมงานที่เชื่อถือได้ทั้งหมดยืนยันคำสั่งเดียวกัน

กรณีนี้เน้นย้ำช่องโหว่ที่สำคัญ: องค์กรที่ลงทุนอย่างมากในความปลอดภัยอีเมลไม่มีการคุ้มครองที่เทียบเท่าสำหรับการสื่อสารผ่านวิดีโอ พนักงานปฏิบัติตามขั้นตอนที่มีอยู่ทั้งหมด ยืนยันคำขอในวิดีโอคอลกับผู้บริหารระดับสูง แต่วิธีการยืนยันเองถูกเจาะ

มีวิดีโอที่น่าสงสัย? สแกนด้วย Truvizy ฟรี

ข้อจำกัดทางเทคนิคที่มิจฉาชีพใช้ประโยชน์

Deepfake แบบเรียลไทม์ไม่สมบูรณ์แบบ มันทำให้เกิดความหน่วงในการประมวลผล มีปัญหากับการเคลื่อนไหวศีรษะอย่างรวดเร็ว สร้างสิ่งแปลกปลอมเมื่อมือข้ามใบหน้า และมักมีปัญหาในการจับคู่แสงสิ่งแวดล้อม อย่างไรก็ตาม มิจฉาชีพจงใจใช้ประโยชน์จากข้อจำกัดของการประชุมวิดีโอเองเพื่อปกปิดสัญญาณเหล่านี้ สตรีมวิดีโอความละเอียดต่ำ ความผันผวนของแบนด์วิดท์ และสิ่งแปลกปลอมจากการบีบอัดที่เป็นเรื่องปกติในวิดีโอคอลปกปิดข้อบกพร่องของ deepfake ได้อย่างสะดวก

ผู้โจมตีมักอ้างการเชื่อมต่ออินเทอร์เน็ตไม่ดีเป็นเหตุผลในการรักษาคุณภาพกล้องต่ำ ปิดการแชร์หน้าจอ หรือปิดวิดีโอบางส่วนของการโทร พวกเขาอาจทำให้การโทรสั้นและมุ่งเน้นที่คำขอหลอกลวงเพื่อลดโอกาสในการตรวจจับ บางคนแม้จัดฉาก "ปัญหาทางเทคนิค" ปลอมหาก deepfake เริ่มเสื่อมคุณภาพ วางสายแล้วโทรกลับเพื่อรีเซ็ตเซสชัน เหล่านี้เป็นเทคนิคเดียวกันที่ใช้ใน แคมเปญหลอกลวง deepfake คนดัง ที่ปรับมาใช้ในบริบทองค์กร

วิธีตรวจจับ Deepfake ระหว่างการโทรสด

แม้คุณจะไม่สามารถวิเคราะห์วิดีโอผ่านเครื่องมือตรวจจับระหว่างการโทรสดได้ง่ายเหมือนกับเนื้อหาที่บันทึกไว้ แต่มีหลายการทดสอบเชิงปฏิบัติที่คุณสามารถใช้แบบเรียลไทม์ ขอให้บุคคลนั้นทำสิ่งที่ไม่คาดคิด: หันศีรษะอย่างรวดเร็วไปด้านข้าง ยกนิ้วจำนวนเฉพาะใกล้ใบหน้า หรือย้ายไปตำแหน่งอื่นในห้อง Deepfake แบบเรียลไทม์มีปัญหากับการเปลี่ยนแปลงกะทันหัน และคำขอเหล่านี้สามารถทำให้เกิดสิ่งแปลกปลอมหรือความล่าช้าที่มองเห็นได้

เฝ้าดูความล่าช้าเล็กน้อยระหว่างการเคลื่อนไหวริมฝีปากของผู้พูดกับเสียง การประมวลผล deepfake แบบเรียลไทม์เพิ่มความหน่วงที่มักแสดงออกเป็นการไม่ซิงค์ระหว่างภาพและเสียงที่ละเอียดแต่ตรวจจับได้ ให้ความสนใจขอบใบหน้าที่มันพบกับผมและคอ การกระตุก เบลอ หรือการเปลี่ยนสีที่ขอบเขตเหล่านี้เป็นตัวบ่งชี้ที่แข็งแกร่งของการสลับใบหน้า

หากคุณมีข้อสงสัยใดๆ อย่าดำเนินการตามคำขอระหว่างการโทร แทนที่จะเป็นเช่นนั้น ให้จบการประชุมและยืนยันผ่านช่องทางที่แยกต่างหากอย่างสมบูรณ์ โทรหาบุคคลนั้นโดยตรงด้วยหมายเลขโทรศัพท์ที่ทราบ เดินไปที่ห้องทำงานของพวกเขาหากอยู่ในอาคาร หรือติดต่อพวกเขาผ่านแพลตฟอร์มสื่อสารอื่น หากมีการบันทึกของสายที่น่าสงสัย ให้นำไปวิเคราะห์ผ่าน เครื่องมือวิเคราะห์วิดีโอของ Truvizy สำหรับการตรวจสอบความถูกต้องด้วย AI อย่างครอบคลุม

การสร้างการป้องกันขององค์กร

การป้องกันที่มีประสิทธิภาพที่สุดต่อการฉ้อโกงวิดีโอคอล deepfake คือการผสมผสานของนโยบาย การฝึกอบรม และเทคโนโลยี เริ่มด้วยการนำนโยบายการยืนยันหลายช่องทางบังคับมาใช้สำหรับธุรกรรมทางการเงินทั้งหมดที่เกินเกณฑ์ที่กำหนด ไม่มีช่องทางการสื่อสารเดียว ไม่ว่าจะเป็นอีเมล โทรศัพท์ หรือวิดีโอคอล ที่ควรเพียงพอที่จะอนุมัติการชำระเงิน ทุกคำขอต้องได้รับการยืนยันผ่านช่องทางอิสระอย่างน้อยหนึ่งช่องทาง

จัดการฝึกอบรมความตระหนักรู้ deepfake อย่างสม่ำเสมอสำหรับพนักงานทุกคนที่จัดการธุรกรรมทางการเงินหรือข้อมูลที่ละเอียดอ่อน การฝึกอบรมนี้ควรรวมตัวอย่างของเทคโนโลยี deepfake แบบเรียลไทม์ แบบฝึกหัดในการระบุวิดีโอสังเคราะห์ และขั้นตอนที่ชัดเจนสำหรับการรายงานความพยายามแอบอ้างตัวตนที่สงสัย ทำให้เป็นที่ยอมรับทางวัฒนธรรม และแม้แต่ส่งเสริม ให้พนักงานตั้งคำถามและยืนยันคำสั่งจากผู้บริหารระดับสูง องค์กรที่พนักงานรู้สึกว่าไม่สามารถตั้งคำถามกับผู้มีอำนาจได้นั้นมีความเปราะบางที่สุด

สำหรับแนวทางที่ครอบคลุมในการปกป้ององค์กร ดู คู่มือการป้องกัน deepfake ฉบับสมบูรณ์ ของเรา สำหรับทีมที่ต้องการความสามารถในการตรวจจับที่ปรับขนาดได้ แผนมืออาชีพของ Truvizy นำเสนอการวิเคราะห์ทางนิติวิทยาศาสตร์ขั้นสูงและการรองรับปริมาณที่ทีมรักษาความปลอดภัยต้องการ

สร้างการป้องกัน deepfake ขององค์กรคุณวันนี้

อนาคตของการยืนยันตัวตนในวิดีโอคอล

อุตสาหกรรมการประชุมวิดีโอเริ่มตอบสนองต่อภัยคุกคาม deepfake แม้ว่าโซลูชันยังอยู่ในระยะเริ่มต้น แนวทางที่เสนอรวมถึงการยืนยันตัวตนด้วยการเข้ารหัสที่สร้างในแพลตฟอร์มการโทร การตรวจจับ liveness แบบเรียลไทม์ที่ตรวจสอบสัญญาณของการสลับใบหน้า และการรวมมาตรฐานแหล่งที่มาเนื้อหาที่สามารถรับรองฟีดวิดีโอจากแหล่ง

จนกว่าโซลูชันระดับแพลตฟอร์มเหล่านี้จะถูกนำไปใช้อย่างกว้างขวาง ความรับผิดชอบตกอยู่ที่องค์กรและบุคคลในการปกป้องตัวเอง ข่าวดีคือนโยบายที่ป้องกันการฉ้อโกงวิดีโอคอล deepfake ได้แก่ การยืนยันหลายช่องทาง การแบ่งแยกหน้าที่สำหรับการอนุมัติทางการเงิน และวัฒนธรรมของความสงสัยอย่างมีสุขภาพ เป็นนโยบายเดียวกันที่ป้องกันการฉ้อโกงทางธุรกิจรูปแบบอื่นๆ ได้มากมาย การนำมาใช้ไม่ได้แค่ป้องกัน deepfake เท่านั้น แต่เสริมสร้างมาตรการรักษาความปลอดภัยโดยรวมของคุณต่อ social engineering ทุกรูปแบบ

วิธีจับสังเกตวิดีโอ Deepfake — 7 สัญญาณสำคัญทางภาพและเสียงที่เปิดเผยเนื้อหาวิดีโอที่สร้างด้วย AI

วิธียืนยันความถูกต้องของวิดีโอ — กระบวนการทีละขั้นตอนสำหรับยืนยันว่าเนื้อหาวิดีโอเป็นของจริงหรือไม่

วิวัฒนาการของการหลอกลวง AI — เทคโนโลยี deepfake กำลังเปลี่ยนแปลงการฉ้อโกงทางธุรกิจและ social engineering อย่างไร