AI-avatarer kan sprede misinformation, men også sandhed i censortunge lande som Venezuela

Jeg vendte tilbage til mit hjemland, Venezuela, sidste år i et par måneder efter et par år i udlandet. En af de ting, der fangede min opmærksomhed under mit ophold, var denne virale video af “amerikanske tv-værter” der forklarede den økonomiske situation i landet og hvordan den var blevet forbedret, på engelsk med spanske undertekster. Det så ikke ægte ud, og jeg blev straks mistænksom – desværre gjorde de mennesker, der bor der, det ikke.

“Vi ville finde ud af, om Venezuela virkelig er så ødelagt, som medierne har hævdet i årevis,” sagde Noah, den blonde “journalist” fra denne ukendte nyhedskanal kaldet House of Media, i en af de videoer, der blev viral på sociale medier, som regeringen delte på lokal tv, og som endda blev promoveret online af Nicolás Maduro, Venezuelas autokrat.

“Det sker,” tænkte jeg efter at have talt med nogle venezuelanere, der troede, at AI-avatarerne var rigtige journalister, “Maduros regime bruger AI til at sprede misinformation, og det virker.” Selvom det ikke blev bekræftet, at Maduros administration stod bag, blev det senere afsløret, at videoerne var AI-avatarer skabt af AI-virksomheden Synthesia – som for nylig udviklede avatarer i stand til at udtrykke menneskelige følelser. Ifølge VICE, tog Synthesia på det tidspunkt $30 om måneden, og lignende videoer blev skabt til propaganda i Afrika og Asien.

Men lige da jeg begyndte at føle fortvivlelse over brugen af deepfakes til skadelige formål og misinformation i flere lande, bragte en interessant drejning min opmærksomhed og håb tilbage: Venezuelanske journalister bruger AI til at informere og sprede sandheden.

AI Avatarer: Anonymitet som en fordel

Et af problemerne med deepfakes er anonymitet. Medmindre nogen tilstår – ligesom den tryllekunstner fra New Orleans fortalte journalister om sin rolle i robokaldene, der efterlignede præsident Joe Biden under primærvalgene – kan det være svært at finde forfatterne til visst AI-genereret indhold, da AI-avatarerne ikke giver information om den virkelige person. Men hvad nu hvis det faktisk er en løsning i visse scenarier?

I lande som Venezuela er det farligt at dele information, der går imod regeringen, selvom du ikke er journalist, selv bare for et indlæg på sociale medier – der er flere tilfælde af folk og studerende som Villca Fernández, der er blevet sendt i fængsel over en tweet. Folk gør det stadig, men det er meget risikabelt.

Dette er, hvor AI-avatarer kommer til sin ret. Ifølge Reuters, lancerede Connectas, en colombiansk-baseret organisation, et nyt projekt kaldet “Operation Retweet”, sammen med initiativerne #LaHoraDeVenezuela og Venezuela Vota, efter præsidentvalget den 28. juli. Målet er at dele rigtige informationer forberedt af uafhængige medieudgivelser ved hjælp af to AI-karakterer, La Chama (pigen) og El Pana (“ven” på venezuelansk slang)

Videoerne deles på sociale medier gennem de tilbageværende uafhængige nyhedskanaler og andre kommunikationskanaler som WhatsApp. I modsætning til AI-avatarerne fra House of Media, som jeg så sidste år, ser disse nye karakterer lidt mere kunstige ud og afslører det fra begyndelsen. “Før vi begynder, i tilfælde af, at du ikke har bemærket det, vil vi fortælle dig, at vi ikke er virkelige,” siger La Chama i den første video der blev offentliggjort. “Vi blev genereret af kunstig intelligens, men indholdet er ægte, verificeret, høj kvalitet, og skabt af journalister,” tilføjer El Pana.

Flere videoer er blevet delt på sociale medier, både på engelsk og spansk, og via adskillige hjemmesider og andre kommunikationskanaler. Projektet er blevet rost internationalt og beundret som en strategi til at bekæmpe censur.

📢 Tredje episode af Operacion Retuit!#InvaluableJournalism

🎥 Denne episode fokuserer på den nylige vedtagelse af en lov, der regulerer NGOer i 🇻🇪. Lukkes det civile rum helt ned?🚨

🔗 👉🏽 https://t.co/SkFE5KKQBu

Læs og del.📲🔄#VenezuelaVota #LaHoraDeVenezuela pic.twitter.com/HAdlqBXwnh

— CONNECTAS (@ConnectasOrg) 6. september 2024

Teknologi Bliver Nøglen til Overlevelse

Digitale platforme er blevet essentielle for venezuelanere i årevis. Jeg husker, hvordan jeg hjalp min familie med at finde min bedstemors medicin gennem Twitter (nu X) tilbage i 2016 og 2017, da medicinmanglen nåede 85% i landet.

Mange venezuelanere bliver teknologisk dygtige af nød og får det meste ud af hver digital platform. Jeg blev imponeret sidste år over, hvordan virksomheder og kunder håndterede så mange transaktioner via WhatsApp. Jeg fik leveret mad og bookede mine transportturer via denne platform, da populære apps som Uber Eats, Uber, Lyft, eller traditionelle internationale online betalingsmetoder ikke findes. Folk lærer at stole på fremmede gennem chats.

Fra at bruge VPN’er til at omgå censur—ligesom brasilianerne nu gør for at få adgang til X, som for nylig blev forbudt i landet—til Bitcoin mining til at vende sig mod online gig arbejde for at få enderne til at mødes, har venezuelanere konstant tilpasset sig nye teknologier som værktøjer til at navigere i de turbulente politiske, sociale og økonomiske kriser. “Efter USA, er det Venezuela der har det største antal dataarbejdere i verden,” udtaler en rapport delt af Rest of World tidligere i år.

Kunstig intelligens har haft en stærk tilstedeværelse i Venezuela i mange år. Flere AI-virksomheder har udnyttet krisen ved at ansætte billig arbejdskraft. I 2022 delte MIT Technology Review en rapport om, hvordan AI data-mærkningsvirksomheder fandt muligheder for at udnytte talentfulde borgere: “Venezuelas krise har været en velsignelse for disse virksomheder, der pludselig fik adgang til noget af den billigste arbejdskraft nogensinde tilgængelig.”

Nu bruger venezuelanerne deres talent og viden inden for teknologi som et kraftfuldt værktøj, ikke kun til at modvirke krisen, men også til at udfordre regeringen. Måske – og forhåbentlig – er de nye AI-avatarer blot begyndelsen på en ny bølge af borgerempowerment.