Den Klare Grænse Mellem Ægte Og AI-Genererede Videoer Kan Forsvinde I 2025

AI-genereret indhold er kommet for at blive. Det bliver bedre og bedre, og vi har set en betydelig forbedring i AI-teknologier i 2024. Vil vi være i stand til at skelne mellem, hvad der er virkeligt, og hvad der ikke er i 2025?

Jeg fandt for nylig mig selv spørge, “Er det en rigtig kvinde?” – mens jeg kneb øjnene sammen – efter at have set et opslag på Instagram. “Nej, det må være AI-genereret,” konkluderede jeg efter et øjeblik. Derefter undrede jeg mig straks: Vil vi stadig kunne se forskellen inden for sekunder næste år? Alle tegn peger på nej, især på sociale medier, som store nylige udviklinger inden for AI-teknologi tyder på.

For et par dage siden delte Instagrams direktør, Adam Mosseri, en besked, der adresserede dette emne på Threads. “Generativ AI producerer tydeligvis indhold, der er svært at skelne fra optagelser af virkeligheden, og det forbedrer sig hurtigt,” skrev han. Mosseri anerkendte offentligt, at de har svært ved at mærke AI-skabt indhold på Meta og kontrollere og overvåge de enorme mængder medier, der deles hvert sekund på deres sociale medieplatforme.

Mosseri fraskrev Meta ethvert ansvar og advarede brugerne om, at det er op til dem at afgøre, om et opslag er ægte eller ej. “Det bliver mere og mere afgørende, at seeren eller læseren bringer et skelne sind, når de forbruger indhold, der hævder at være en beretning eller en optagelse af virkeligheden,” tilføjede han.

Bare få dage senere, frigav OpenAI Sora Turbo, sin kraftfulde AI video generator, der tillader Pro og Plus brugere at generere realistiske videoer fra tekstprompts. På bare få minutter begyndte brugerne at skabe fascinerende realistiske videoer og begyndte at dele dem på sociale medier.

Lige da det hele syntes at nå et nyt niveau af videoproduktion, annoncerede Google sin seneste AI video værktøj, Veo 2, med højere opløsning og længere klip end Sora. Selvfølgelig var resultaterne delt af dem, der havde adgang til den avancerede teknologi, endnu mere imponerende.

“Ingen kan se, at dette er AI nu,” skrev en bruger.

It’s over.

Google Veo 2 har netop udkonkurreret konkurrenterne og er blevet den nye konge af AI-medieverdenen.

Ingen kan fortælle, at dette er AI nu.

10 vilde eksempler: pic.twitter.com/MKAN4Lwj6m

— el.cine (@EHuanglu) 17. december 2024

Det sker allerede

I løbet af 2024 har vi været vidne til, hvordan AI-genereret indhold har påvirket befolkninger, valg og sociale mediebrugere.

I januar fik beboerne i New Hampshire et opkald “fra Joe Biden”, hvor de blev bedt om ikke at stemme ved primærvalgene. Det var den politiske konsulent Steve Kramer, der stod bag svindelnummeret, og han blev idømt en bøde på $6 millioner for de AI-dybdefalske robocalls. Regeringer har forstået den indvirkning, AI kan have, og nationer som Singapore har udviklet love og strategier til at hjælpe befolkningen med at identificere dybdefalsk indhold.

I Venezuela har AI-genererede videoer spredt misinformation — men de har også hjulpet journalister med at formidle information gennem AI-avatarer for at omgå censur.

Folk har haft svært ved at skelne mellem, hvad der er virkeligt, og hvad der ikke er, og det er ikke deres skyld: AI-genereret indhold bliver bedre og bedre.

Højkvalitets AI-genereret indhold er en voksende forretning i alle dens former; tekst, lyd og video. Mange OnlyFans skabere er i øjeblikket afhængige af chatbots til at indgå i samtaler med deres fans, en opgave der tidligere blev tildelt gig-arbejdere i lavindkomstlande. De nye AI-modeller specialiseret i flirtende teknikker har endda genereret $1,000 i tips fra deres følgere.

I april lancerede Nvidia-støttede startup Synthesia AI-avatarer, der kan udtrykke menneskelige følelser og tale på 130 sprog. TikTok giver virksomheder mulighed for at oprette AI-genererede annoncer ved brug af indhold fra Getty Images, og nu kan YouTube-skabere bruge den nye AI auto-dubbing-funktion til at oversætte deres indhold til 9 sprog, og fremtidige opdateringer vil replikere den originale stemme.

Zoom arbejder på at skabe AI-avatarer, der ligner brugerne, for at hjælpe dem med at optage beskeder og endda deltage i møder. Dette værktøj vil blive rullet ud næste år, men folk har allerede testet flere værktøjer, og virksomheder kan allerede skabe fotorealistiske AI-kloner.

Er du sikker på, at du talte med en rigtig person under din sidste Zoom-opkald?

Hvordan ved man, om det blev skabt af AI? For nu

Vi lever i forvirrende tider i denne digitale æra. Filtre kan få enhver til at se ud som en model med fejlfri hud, og Photoshop-værdige korrektioner er kun et klik væk på Instagram eller Snapchat – hvor mange mennesker vil gerne dele deres “naturlige” billede, fejl og det hele, når det kan forbedres på sekunder? Vi ser flere og flere reklamer med fotorealistiske billeder genereret af kunstig intelligens, der gradvist overbeviser vores øjne om deres genkendelighed og “normalitet.” Og hver dag gør overraskende hændelser rundt om i verden os i tvivl: hvad er virkeligt, og hvad er det ikke længere?

De store AI-virksomheder har arbejdet på vandmærker for at kunne spotte deres AI-genererede indhold og let genkende det. Google DeepMind lancerede sit open-source vandmærkesystem i oktober for at mærke AI videoer, tekst og lyd, og Meta inkluderede også et i sit AI video værktøj.

Men dets effektivitet er tvivlsom, startende med at Meta lige har anerkendt, at de ikke kan mærke alt AI-genereret indhold. Ondsindede aktører kan stadig finde måder at fjerne vandmærkerne på og flere love, partnerskaber og aftaler er nødvendige mellem sociale medievirksomheder og regeringer for at opnå et mere succesfuldt system.

For nu, udover at stole på vores mavefornemmelse, kan vi stille os selv nogle spørgsmål, før vi deler på sociale medier eller tror på det, vi ser:

• Ligesom Mosseri anbefalede, overvej følgende: Hvem deler denne information? Er dette en troværdig kilde?
• Føles personens udtryk eller bevægelser robotagtige? Selvom AI-avatarer kan være ganske realistiske, er det stadig muligt at genkende en mærkelig stivhed eller mangel på følelse – skønt det skal nævnes, at nogle firmaer som Synthesia allerede er ved at forbedre dette.
• Er indholdet designet til at fremprovokere en stærk følelsesmæssig reaktion? Ondsindede aktører ved, hvor let vi deler negativt nyt og interagerer med følelsesladet materiale på sociale medier, og forskning bekræfter det. Før du deler det indhold, der fik dit blod til at koge for at få andre lige så forargede som dig, så tænk over, om det er designet til at skabe kontrovers, eller om det faktisk er rigtige nyheder eller en rigtig begivenhed.
• Kan du bekræfte indholdet med andre kilder? Det skader aldrig at dobbelttjekke med troværdige kilder.

Og til sidst, har du spurgt dig selv – eller din foretrukne chatbot – om, hvordan du forbedrer din kritiske tænkning? At udvikle et kritisk sind bør helt sikkert være blandt alles nytårsforsæt.