Google DeepMind lancerer open-source vandmærkeværktøj for at hjælpe med at detektere AI-genereret tekst

Google DeepMind lancerede onsdag et open-source vandmærkeværktøj kaldet SynthID-Text for at hjælpe med at opdage AI-genereret tekst. Værktøjet er gratis tilgængeligt for virksomheder og udviklere og fungerer ved at indlejre usynlige vandmærker – umulige at opdage med det blotte øje – i teksten under genereringen, ved at ændre sandsynligheden for ord.

“Her beskriver vi SynthID-Text, et produktionsklart tekstvandmærkningssystem, der bevarer tekstkvaliteten og muliggør høj detektionsnøjagtighed, med minimal latensoverhead,” fremgår det af resuméet af forskningen offentliggjort i Nature. “For at muliggøre vandmærkning i stor skala, udvikler vi en algoritme, der integrerer vandmærkning med spekulativ prøvetagning, en effektivitetsteknik ofte brugt i produktionssystemer.”

Ifølge MIT Technology Review har den teknologiske gigants AI-forskningslaboratorium udviklet SynthID-teknologien til at skabe flere AI-vandmærkeværktøjer, der nu kan genkende AI-genereret tekst, musik, video og billeder. Google DeepMind delte en video, der forklarer, hvordan teknologien fungerer på tværs af flere typer medier.

Here’s how SynthID watermarks AI-generated content across modalities. ↓ pic.twitter.com/CVxgP3bnt2

— Google DeepMind (@GoogleDeepMind) 23. oktober 2024

SynthID er tilgængelig via virksomhedens Google Responsible Generative AI Toolkit, og forskere arbejder sammen med Hugging Face – en samarbejdsplatform for udviklere, der huser andre open-source projekter som LeRobots tutorial til at bygge AI-drevne robotter derhjemme – for at dele det på deres hjemmeside.

“Nu vil andre [generative] AI-udviklere være i stand til at bruge denne teknologi til at hjælpe dem med at detektere, om tekstoutput kommer fra deres egne [store sprogmodeller], hvilket gør det lettere for flere udviklere at bygge AI ansvarligt,” sagde Pushmeet Kohli, vicepræsident for forskning ved Google DeepMind, til MIT Technology Review.

SynthID er blevet testet i Googles Gemini-produkter, og millioner af brugere kunne ikke skelne mellem vandmærket og ikke-vandmærket indhold. Dog anerkendte forskerne, at den har begrænsninger, når teksten er redigeret eller oversat, men de forbliver optimistiske og tror, at værktøjet kan hjælpe med at bekæmpe misinformation og forbedre AI-sikkerheden.

Flere teknologivirksomheder har annonceret AI-mærkningsstrategier i de seneste måneder. Meta annoncerede i februar et system til at identificere AI-indhold på Instagram, Facebook og Threads, Google krævede at brugere mærkede AI-indhold i marts, og Tiktok tilføjede etiketter til AI-genereret indhold i maj.