Mening: Deepfake-svindel udnytter kærlighed og tillid som aldrig før

AI-drevne svindelnumre er på fremmarch, med cyberkriminelle der bruger deepfake-teknologi til at skabe overbevisende videoer og billeder, der manipulerer ofrene. Fra en fransk kvinde, der troede, hun hjalp Brad Pitt, til et offer, der blev overbevist af en højkvalitets deepfake, udviskes grænsen mellem virkelighed og bedrag. I takt med at AI-værktøjerne udvikler sig, gør risiciene det også.

Mange af os så det i nyhederne i januar: en fransk kvinde mistede over $850.000 til svindlere, fordi hun troede, hun gav pengene til Brad Pitt – manden, hun troede, hun havde været i et forhold med i over et år.

Svindlerne brugte avanceret generativ kunstig intelligens til at skabe “selfies” og fabrikere beviser, overbevise deres offer, Anne – en 53-årig designer, der gennemgår en skilsmisse – om den tragiske historie om en falsk Pitt med presserende medicinske behov. De hævdede, at hans midler var frosset på grund af hans skilsmisse fra Angelina Jolie.

Anne tog det modige – og risikable – valg at dele hendes historie offentligt, står over for millioner af spot, fornærmelser og virtuelle angreb. “Som en tosse betalte jeg… Hver gang jeg tvivlede på ham, formåede han at opløse mine tvivl,” sagde hun i et fransk Youtube-show, som rapporteret af BBC. “Jeg er bare blevet snydt, jeg indrømmer det, og det er derfor, jeg trådte frem, fordi jeg ikke er den eneste.”

Hun er det ikke. Et par måneder senere anholdt det spanske politi 5 personer, der også havde svindlet to andre kvinder ved at udgive sig for at være Pitt. For nogle dage siden blev en kinesisk mand også narret til at tro, at hans online kæreste havde brug for penge til medicinske procedurer og til at finansiere hendes virksomhed.

Ofrene modtog personlige videoer og fotografier – billeder, der ikke var tilgængelige andre steder online – hvilket yderligere overbeviste dem om deres bedragers udspekulerede løgne.

En nylig rapport fra Entrust antyder, at Deepfake forsøg finder sted hvert 5. minut. Nye tilfælde af mennesker, der er blevet snydt med generativ AI, dukker op hver dag – en bekymrende tendens, især når man tager i betragtning de tusinder, eller endda millioner, af mennesker, der er begravet i gæld og skam, og som ikke tør rapportere det til myndighederne, for slet ikke at tale om at gøre det offentligt.

DeepFake Svindel På Fremmarch

Flere undersøgelser og rapporter har udløst alarmer om stigende svindel og cyberangreb drevet af AI. Nylige data fra TrustPair’s 2025 Fraud Trends and Insights viste en 118% årlig vækst i AI-drevet svindel, som rapporteret af CFO.

Hej, Hiya, en amerikansk virksomhed specialiseret i talebeskyttelse og performance løsninger, delte for nylig resultaterne af en undersøgelse, der afslørede, at 31% af kunderne i seks lande modtog deepfake-opkald i 2024, og 45% af dem blev snydt – 34% af denne gruppe mistede penge og 32% fik stjålet personlige oplysninger. I gennemsnit mister ofrene over $500 hver til telefon-svindelnumre.

For et par dage siden afslørede The Guardian, at et organiseret netværk i Georgien – i Østeuropa – brugte falske annoncer på Facebook og Google til at snyde over 6.000 mennesker i Europa, Canada og Storbritannien, hvilket indbragte dem $35 millioner gennem deres operationer.

Omkring 85 velbetalte georgiske svindlere brugte offentlige personer som den engelske journalist Martin Lewis, forfatteren og eventyreren Ben Fogle, samt Elon Musk til deres bedrageri. Svindlerne promoverede falske kryptovaluta og andre investeringsskemaer, hvilket fik ofre til at overføre penge via digitale banker som Revolut – som for nylig fik en banklicens i Storbritannien.

Avanceret AI, Mere Sofistikerede Svindelnumre

Cyberkriminelle har brugt generativ AI de sidste par år, udnytter værktøjer som ChatGPT til at skabe og oversætte engagerende e-mails og generere overbevisende tekstbaseret indhold. Nu, da AI-værktøjerne udvikler sig, er brugen af AI-genererede billeder og videoer steget.

For et par uger siden introducerede ByteDance sit nyeste AI-videoværktøj, OmniHuman-1, som er i stand til at generere en af de mest realistiske deepfakes på markedet. I mellemtiden er flere AI-virksomheder ved at udvikle lignende teknologier. Det synes kun at være et spørgsmål om tid, før disse værktøjer også bliver brugt til svindel.

Selvom disse teknologier kan bruges “i god tro” og endda til at modvirke stigningen i svindel – som O2’s AI ‘Bedstemor’ Daisy, designet til at engagere svindlere i realtidsopkald og distrahere dem fra rigtige ofre – synes konsekvenserne af deres ondsindede brug at være umålelige.

Hos Wizcase har vi nyligt rapporteret om en 614% stigning i “Scam-Yourself Attacks”, hvor vi bemærker, hvordan hackere bruger deepfake-teknologier til at gøre falskt indhold “mere realistisk”, og hvordan sociale medievirksomheder som Meta har måttet gribe ind i svindel med griseslagtning, da mange trusselaktører benytter disse platforme. I forskningen bemærkede Meta, at mange svindelnumre startede på dating-apps, hvilket beviser, hvor almindeligt romantisk kærlighed er blandt de mest almindelige agn—nu og historisk set.

Kærlighed: En Stærk Agn

Cyberkriminelle er ikke bare dygtige til at forstå og bruge avanceret kunstig intelligens—de har også en dyb forståelse for menneskelig intelligens. Trusselaktører ved, hvordan man identificerer sårbarheder, opbygger tillid, og stiller deres anmodninger på netop det rette tidspunkt.

Studiet Elsker du mig? Psykologiske karakteristika hos ofre for romantiske svindelnumre, udgivet i 2018 af PhD Monica T. Whitty, forklarer hvordan internationale kriminelle grupper har udført dating romance scams i mange år – selv før internettet -, og hvordan midaldrende, veluddannede kvinder er tilbøjelige til at falde for denne type svindel – ligesom Anne.

Hvad kan vi forvente nu, otte år efter denne undersøgelse, med teknologi der ligner science fiction? Sandsynligvis er vi alle mere sårbare end vi tror.

“Ofre for denne type svindel er ofte mennesker, der søger mening og som er følelsesmæssigt sårbare,” skrev Annie Lecompte, lektor ved University of Quebec i Montreal (UQAM), i en nylig artikel offentliggjort i The Conversation. “Selvom det bliver gjort grin med og misforstået, baserer romantisk svindel sig på komplekse psykologiske mekanismer, der udnytter ofrenes tillid, følelser og sårbarhed.”

Et knust hjerte, en tom pung

Liu – efternavnet på den kinesiske mand, der for nylig mistede 200.000 yuan, omkring $28.000, i en AI-drevet svindel – troede virkelig, at hans AI-kæreste var ægte, da han så personlige fotos og endda videoer. Han opbyggede en stadig stærkere følelsesmæssig tilknytning… til sine svindlere.

Selvom han ikke gav flere detaljer om konteksten i rapporterne, gjorde et andet offer, den 77-årige kvinde Nikki MacLeod, det. Hun troede også, at hun var i et ægte forhold med en AI kæreste og sendte hende £17,000 – omkring $22,000 – via bankoverførsler, PayPal og gavekort.

“Jeg er ikke en dum person, men hun formåede at overbevise mig om, at hun var en rigtig person, og at vi skulle tilbringe vores liv sammen,” sagde MacLeod til BBC.

MacLeod følte sig ensom og trist, da hun mødte Alla Morgan i en gruppechat. Efter et stykke tid anmodede MacLeod om en live video, men Morgan sagde, at det ikke var muligt, da hun arbejdede på en olieboreplatform. Da MacLeod begyndte at mistænke, begyndte Morgan at sende realistiske videoer. “Hun sendte mig en video for at sige ‘Hej Nikki, jeg er ikke en svindler, jeg er på min boreplatform’, og jeg var helt overbevist om det,” forklarede MacLeod. Indholdet er tilgængeligt på BBC’s hjemmeside, og det er let at se, hvorfor MacLeod troede, det var ægte – det er en højkvalitets deepfake.

BBC bad en ekspert i cybersikkerhed og menneske-computer interaktion ved Abertay University, Dr. Lynsay Shepherd, om at analysere de fotos og videoer, som MacLeod modtog. “Ved første øjekast ser det legitimt ud, hvis du ikke ved, hvad du skal se efter, men hvis du ser på øjnene – øjenbevægelserne er ikke helt rigtige,” sagde Dr. Shepherd.

“Dokumenterne så ægte ud, videoer så ægte ud, banken så ægte ud,” sagde MacLeod. “Med introduktionen af kunstig intelligens, kan hver eneste ting være falsk.”