Generativ AI vækker bekymring i videnskaben, da falske data truer troværdigheden

AI-genererede billeder skaber store bekymringer blandt forskere og udgivere, da nye generative AI-værktøjer gør det skræmmende nemt at skabe falske videnskabelige data og billeder, som det er bemærket i en pressemeddelelse fra Nature.

Denne udvikling truer troværdigheden af akademisk litteratur, med eksperter der frygter en stigning i AI-drevne, fabrikerede studier, som kan være svære at identificere.

Jana Christopher, en billedintegritetsanalytiker hos FEBS Press i Tyskland, understreger, at den hurtige udvikling af generativ AI giver anledning til stigende bekymring om dens potentiale for misbrug i videnskaben.

“Folk, der arbejder inden for mit felt – billedintegritet og publiceringsetik – bliver mere og mere bekymrede over de muligheder, det byder på,” sagde Jane, som rapporteret af Nature.

Hun bemærker, at selvom nogle tidsskrifter måske accepterer AI-genereret tekst under visse retningslinjer, ses billeder og data genereret af AI som at krydse en linje, der kan påvirke forskningsintegriteten dybt, som det er bemærket af Nature.

At opdage disse AI-skabte billeder er blevet en primær udfordring, siger Nature. I modsætning til tidligere digitale manipulationer mangler AI-genererede billeder ofte de sædvanlige tegn på forfalskning, hvilket gør det svært at bevise nogen form for bedrag.

Billed-forensiker specialist Elisabeth Bik og andre forskere foreslår, at AI-producerede figurer, især inden for molekylær- og cellebiologi, allerede kunne være til stede i offentliggjort litteratur, som rapporteret af Nature.

Værktøjer som ChatGPT bruges nu regelmæssigt til at udarbejde artikler, identificerbare ved typiske chatbot-fraser, der er efterladt uændrede, men AI-genererede billeder er langt sværere at identificere. Som svar på disse udfordringer udvikler teknologivirksomheder og forskningsinstitutioner detektionsværktøjer, bemærkede Nature.

AI-drevne værktøjer som Imagetwin og Proofig går forrest ved at træne deres algoritmer til at identificere generativt AI-indhold. Proofigs medstifter Dror Kolodkin-Gal rapporterer, at deres værktøj med succes detekterer AI-billeder 98% af tiden, men han bemærker, at menneskelig verifikation fortsat er afgørende for at validere resultater, fortalte Nature.

I forlagsverdenen bruger tidsskrifter som Science Proofig til indledende scanning af indsendelser, og forlagsgiganten Springer Nature udvikler proprietære værktøjer, Geppetto og SnapShot, til at identificere uregelmæssigheder i tekst og billeder, som rapporteret af Nature.

Andre organisationer, såsom International Association of Scientific, Technical and Medical Publishers, lancerer også initiativer for at bekæmpe papirmøller og sikre forskningsintegritet, som rapporteret af Nature.

Eksperter advarer dog om, at forlagene skal handle hurtigt. Detektiven for videnskabelige billeder, Kevin Patrick, bekymrer sig om, at hvis handlingen halter, kan AI-genereret indhold blive endnu et uløst problem i den videnskabelige litteratur, som rapporteret af Nature.

På trods af disse bekymringer, er mange fortsat optimistiske omkring, at fremtidens teknologi vil udvikle sig til at kunne opdage nutidens AI-genererede bedrag, hvilket tilbyder en langsigtet løsning for at beskytte den akademiske forsknings integritet.