Deepfake-videosamtaler: Slik utgir svindlere seg for å være sjefen din på Zoom

Du blir med på en Zoom-samtale og ser økonomisjefens ansikt på skjermen. Stemmen stemmer. Manérismene er kjente. De refererer til en avtale dere diskuterte forrige uke og ber deg behandle en hasteoverføring for å fullføre oppkjøpet. Alt ser ut til å stemme, så du starter betalingen. Bortsett fra at personen på skjermen din ikke var økonomisjef din. Det var en kriminell som bar en sanntids deepfake-maske, og pengene er borte.

Dette er ikke science fiction. Det er en dokumentert angrepsvektor som allerede har kostet enkeltorganisasjoner titalls millioner dollar. Sanntids deepfake-teknologi har avansert til det punktet der ansiktsbytte kan påføres direktesendte videofeeder med lav nok forsinkelse til å fremstå som en normal videosamtale. Kombinert med stemmekloning skaper dette en kraftig ny form for bedriftssvindel som utnytter selve verktøyene organisasjoner er avhengige av for fjernsamarbeid.

Fremveksten av direktesendt deepfake-imitasjon

Kompromittering av bedrifts-e-post (BEC) har vært en av de kostbareste formene for cyberkriminalitet i over ti år. Den tradisjonelle fremgangsmåten innebar å forfalske eller kompromittere en leders e-postkonto og sende uredelige betalingsinstruksjoner. Da organisasjoner implementerte e-postverifiseringsrutiner, tilpasset kriminelle seg. Deepfake-videosamtalen er den naturlige utviklingen av BEC, som erstatter den tekstbaserte imitasjonen med en langt mer overbevisende audiovisuell en.

Teknologistakken som kreves for en direktesendt deepfake-samtale har blitt overraskende tilgjengelig. Åpen kildekode-ansiktsbyttemodeller kan kjøre på forbrukerkvalitets GPU-er, virtuell kameravare fanger opp videofeeden før den når Zoom eller Teams, og stemme-kloningsverktøy trent på offentlig tilgjengelige lydmateriale håndterer lydsiden. En angriper med moderat teknisk kompetanse og noen timers forberedelse kan lage en passabel sanntidsimitasjon av nesten alle hvis ansikt og stemme er offentlig tilgjengelig.

Anatomien til et deepfake-videosamtaleangrep

Et sofistikert deepfake-samtaleangrep begynner vanligvis uker før selve samtalen. Angriperen utfører rekognosering, studerer målorganisasjonens struktur, identifiserer hvilke ansatte som har myndighet til å initiere betalinger, og samler inn video- og lydmateriale fra lederen som skal imiteres. LinkedIn, YouTube-konferansepresentasjoner, podcastopptreden og bedriftens markedsføringsvideoer gir alle kildemateriale.

Angriperen kompromitterer eller forfalsker deretter lederens kalender og e-post for å planlegge samtalen gjennom tilsynelatende legitime kanaler. Møteinvitasjonen ser ekte ut, sendt fra riktig e-postadresse eller kalendersystem, og er ofte timet til å sammenfalle med at den ekte lederen er utilgjengelig, for eksempel under reise eller kjent ferie. Under samtalen bruker angriperen forberedte talepunkter som refererer til ekte prosjekter, ekte kolleger og ekte avtaler for å bygge troverdighet før de dreier mot den uredelige forespørselen.

Det som gjør disse angrepene ødeleggende er at de utnytter den implisitte tilliten til videokommunikasjon. I tiår har det å se noen ansikt på en videosamtale blitt ansett som pålitelig identitetsverifisering. Den antakelsen er nå farlig foreldet. For et dypere innblikk i hvordan deepfakes fungerer og de visuelle tegnene du kan se etter, se vår guide til å gjenkjenne deepfake-videoer .

Hongkong-saken: 25 millioner dollar i én samtale

Den mest omtalte deepfake-videosamtalesvindelen fant sted i Hongkong, der en økonomimedarbeider i et multinasjonalt firma ble lurt til å overføre omtrent 25 millioner dollar etter en videokonferanse som tilsynelatende inkluderte selskapets finansdirektør og flere andre toppledere. Den ansatte hadde opprinnelig vært skeptisk til en e-post som ba om overføringen, men ble overbevist etter at videosamtalen tilsynelatende bekreftet instruksjonene med flere kjente ansikter.

Det som gjorde denne saken særlig alarmerende var deepfakens flerpersons-natur. I stedet for å utgi seg for å være én enkelt leder, genererte angriperne sanntids deepfakes av flere personer samtidig, og skapte illusjonen av et gruppemøte der hver deltaker var syntetisk. Dette økte i betydelig grad den oppfattede legitimiteten til forespørselen fordi den målrettede ansatte så «flere» pålitelige kolleger som alle bekreftet den samme instruksjonen.

Saken understreket en kritisk sårbarhet: organisasjoner som hadde investert tungt i e-postsikkerhet hadde ingen tilsvarende beskyttelse for videokommunikasjon. Den ansatte fulgte alle eksisterende rutiner, og verifiserte forespørselen på en videosamtale med toppledelse, men selve verifiseringsmetoden hadde blitt kompromittert.

Har du et mistenkelig videoopptak? Skann det med Truvizy gratis

Tekniske begrensninger svindlere utnytter

Sanntids deepfakes er ikke perfekte. De introduserer behandlingsforsinkelse, sliter med raske hodebevegelser, produserer artefakter når hender krysser ansiktet, og har ofte problemer med å matche omgivelsesbelysning. Svindlere utnytter imidlertid bevisst begrensningene i selve videokonferansen for å skjule disse tegnene. Lavoppløselige videostrømmer, båndbreddeutnyttelse og komprimeringsartefakter som er normale på videosamtaler, skjuler behendig deepfake-ufullkommenheter.

Angripere hevder ofte dårlig internettforbindelse som grunn til å holde kamerakvaliteten lav, deaktivere skjermdeling eller holde videoen av i deler av samtalen. De kan holde samtaler korte og fokuserte på den uredelige forespørselen for å minimere sjansen for oppdagelse. Noen iscenesetter til og med falske «tekniske problemer» hvis deepfaken begynner å degradere, legger på og ringer tilbake for å tilbakestille sesjonen. Dette er de samme triksene som brukes i kjendis-deepfake-svindelkampanjer tilpasset bedriftskontekst.

Slik oppdager du deepfakes under direktesamtaler

Selv om du ikke kan kjøre en video gjennom et deteksjonsverktøy under en direktesamtale like enkelt som med forhåndsinnspilt innhold, finnes det flere praktiske tester du kan bruke i sanntid. Be personen utføre en uventet handling: snu hodet raskt til siden, holde opp et bestemt antall fingre nær ansiktet eller flytte til en annen posisjon i rommet. Sanntids deepfakes sliter med plutselige endringer, og disse forespørslene kan forårsake synlige artefakter eller forsinkelser.

Se etter mikroforsinkelser mellom talerens leppebeveglser og lyden. Sanntids deepfake-behandling legger til forsinkelse som ofte manifesterer seg som en subtil men detekterbar lyd-visuell desynkronisering. Vær oppmerksom på kantene av ansiktet der det møter hår og nakke. Rysting, uklarhet eller fargeskift ved disse grensene er sterke indikatorer på ansiktsbytte.

Hvis du er i tvil, ikke fortsett med den forespurte handlingen under samtalen. Avslutt heller møtet og verifiser gjennom en helt separat kanal. Ring personen direkte på kjent telefonnummer, gå til kontoret hvis de er i bygningen, eller kontakt dem gjennom en annen kommunikasjonsplattform. Hvis opptaket av den mistenkelige samtalen er tilgjengelig, kjør det gjennom Truvizys videoanalyse-verktøy for en omfattende AI-drevet autentisitetssjekk.

Bygg organisatoriske forsvar

Det mest effektive forsvaret mot deepfake-videosamtalesvindel er en kombinasjon av policy, opplæring og teknologi. Begynn med å implementere en obligatorisk flerkanal-verifiseringspolicy for alle finansielle transaksjoner over en definert terskel. Ingen enkelt kommunikasjonskanal, enten det er e-post, telefon eller videosamtale, bør være tilstrekkelig til å autorisere en betaling. Hver forespørsel må bekreftes gjennom minst én uavhengig kanal.

Gjennomfør regelmessig deepfake-bevissthetstrening for alle ansatte som håndterer finansielle transaksjoner eller sensitiv informasjon. Denne opplæringen bør inkludere eksempler på sanntids deepfake-teknologi, øvelsesoppgaver i å identifisere syntetisk video, og klare prosedyrer for å rapportere mistenkte imitasjonsforsøk. Gjør det kulturelt akseptabelt, til og med oppfordret, for ansatte å stille spørsmål ved og verifisere instruksjoner fra toppledelse. Organisasjoner der ansatte føler at de ikke kan stille spørsmål ved autoritet er de mest sårbare.

For en helhetlig tilnærming til organisasjonsbeskyttelse, gjennomgå vår komplette guide til deepfake-beskyttelse . For team som trenger skalerbare deteksjonsevner, tilbyr Truvizys profesjonelle planer den avanserte rettsmedisinske analysen og volumstøtten som sikkerhetsteam krever.

Bygg organisasjonens deepfake-forsvar i dag

Fremtiden for videosamtaleautentisering

Videokonferansebransjen begynner å respondere på deepfake-trusselen, selv om løsningene fortsatt er i tidlige stadier. Foreslåtte tilnærminger inkluderer kryptografisk identitetsverifisering innebygd i samtale-plattformer, sanntids livstegn-deteksjon som sjekker for tegn på ansiktsbytte, og integrasjon av innholdsprovenans-standarder som kan autentisere videofeeder ved kilden.

Inntil disse plattformnivå-løsningene er bredt utplassert, faller ansvaret på organisasjoner og enkeltpersoner for å beskytte seg. Den gode nyheten er at retningslinjene som forsvarer mot deepfake-videosamtalesvindel, flerkanal-verifisering, arbeidsdelingsprinsipp for finansgodkjenninger og en kultur med sunn skepsis, er de samme retningslinjene som beskytter mot mange andre former for bedriftssvindel. Å implementere dem forsvarer ikke bare mot deepfakes. Det styrker din generelle sikkerhetsposisjon mot hele spekteret av sosiale manipulasjonsangrep.

Slik gjenkjenner du en deepfake-video — De 7 viktigste visuelle og lydmessige signalene som avslører AI-generert videoinnhold

Slik verifiserer du videoautentisitet — En trinn-for-trinn-prosess for å bekrefte om videoinnhold er ekte

Utviklingen av AI-svindel — Hvordan deepfake-teknologi transformerer bedriftssvindel og sosial manipulasjon