Universitetet i Chicago’s Glaze og Nightshade Tilbyder Kunstnere et Forsvar mod AI

Kunstnere kæmper tilbage mod udnyttende AI-modeller med Glaze og Nightshade, to værktøjer udviklet af Ben Zhao og hans team på University of Chicago’s SAND Lab, som rapporteret i dag af MIT Technology Review.

Disse værktøjer sigter mod at beskytte kunstneres arbejde fra at blive brugt uden samtykke til at træne AI-modeller, en praksis mange skabere ser som tyveri. Glaze, der er blevet downloadet over 4 millioner gange siden dens udgivelse i marts 2023, maskerer billeder ved at tilføje subtile ændringer, der forhindrer AI i at lære en kunstners stil, siger MIT.

Natskygge, en “stødende” modpart, forstyrrer yderligere AI-modeller ved at introducere usynlige ændringer, der kan korruptere AI-læring, hvis de bruges i træning, som bemærket af MIT.

Værktøjerne blev inspireret af kunstneres bekymringer over den hurtige stigning i generativ AI, som ofte er afhængig af online billeder for at skabe nye værker. MIT rapporterer, at fantasy-illustratoren Karla Ortiz og andre skabere har givet udtryk for frygt for at miste deres levebrød, da AI-modeller replikerer deres unikke stilarter uden tilladelse eller betaling.

For kunstnere er det afgørende at poste online for at opnå synlighed og indkomst, men mange overvejer at fjerne deres arbejde for at undgå at blive skrabet til AI-træning, en handling der ville skade deres karrierer, som noteret af MIT.

Nightshade, der blev lanceret et år efter Glaze, tilbyder en mere aggressiv forsvar, rapporterer MIT. Ved at tilføje “forgiftede” pixels til billeder, forstyrrer det AI-træning, hvilket får modellerne til at producere forvrængede resultater, hvis disse billeder bliver skrabet.

Natskyggens symbolske effekt har gjort indtryk på kunstnere, der ser det som poetisk retfærdighed: hvis deres værk bliver stjålet til AI-træning, kan det skade de systemer, der udnytter det.

MIT argumenterer for, at værktøjerne har mødt en vis skepsis, da kunstnere oprindeligt var bekymrede over databeskyttelse. For at imødekomme dette, har SAND Lab frigivet en version af Glaze, der fungerer offline, hvilket sikrer ingen dataoverførsel og opbygger tillid hos kunstnere, der er mistroiske over for udnyttelse.

Laboratoriet har også for nylig udvidet adgangen ved at indgå et partnerskab med Cara, en ny social platform, der forbyder indhold genereret af AI, som bemærket af MIT.

Zhao og hans team sigter mod at ændre magtdynamikken mellem individuelle skabere og AI-virksomheder.

Ved at tilbyde værktøjer, der beskytter kreativitet mod store virksomheder, håber Zhao at bemyndige kunstnere til at bevare kontrollen over deres arbejde og omdefinere etiske standarder omkring AI og intellektuel ejendomsret, siger MIT.

Bestræbelsen vinder frem, men nogle eksperter advarer om, at værktøjerne muligvis ikke tilbyder idiotsikker beskyttelse, da hackere og AI-udviklere udforsker måder at omgå disse sikkerhedsforanstaltninger, som bemærket af MIT.

Med Glaze og Nightshade nu tilgængelige gratis, fortsætter Zhaos SAND Lab med at være i spidsen for at forsvare den kunstneriske integritet mod den voksende indflydelse af AI-drevet indholdsskabelse.