Mening: AI-modeller er mystiske “væsener”, og selv deres skabere forstår dem ikke fuldt ud

Anthropics nylige studie om, hvordan deres Claude 3.5 Haiku model fungerer, lover banebrydende afsløringer og et glimt af indsigt i forståelsen af, hvordan avancerede AI-teknologier opererer. Men hvad mener de, når de siger, at LLM’er er “levende organismer”, der “tænker”?

For få dage siden, udgav Anthropic to artikler med banebrydende forskning om, hvordan Store Sprogmodeller (LLMs) fungerer. Selvom de tekniske udviklinger var interessante og relevante, var det ordvalget brugt af AI-eksperterne, der fangede min opmærksomhed mest.

I studiet Om Biologien i en Stor Sprogmodel, sammenlignede forskerne sig selv med biologer, der studerer komplekse “levende organismer”, som har udviklet sig gennem milliarder af år.

“Ligeledes, mens sprogmodeller er genereret af simple, menneskeskabte træningsalgoritmer, synes de mekanismer, der er født af disse algoritmer, at være ganske komplekse,” skrev forskerne.

I de sidste par år er AI-modeller betydeligt udviklet. Og vi har været vidne til denne hurtige udvikling i de sidste par måneder. Vi har set ChatGPT gå fra en tekst-baseret model til en talende ledsager, og nu til en multidimensionel agent, der også kan generere forbløffende Studio Ghibli-inspirerede billeder.

Men, hvad nu hvis de nuværende grænseoverskridende AI-modeller når det sci-fi niveau af avanceret ræsonnement, som ikke engang deres skabere kan forstå deres processer og systemer? Der er flere mysterier omkring AI-teknologier, som det kan være relevant at genbesøge – eller dykke ned i – i 2025.

Det uhyggelige sorte boks paradoks med AI-modeller

Der er mange diskussioner om adoption og forståelse af AI, og om hvordan dem, der forstår, hvordan generative AI-modeller fungerer, er mindre tilbøjelige til at betragte chatbots som deres “venner” eller “magiske” apps. Men der er en anden debat – blandt eksperter og folk, der er mere bekendt med teknologien – om hvorvidt man skal sammenligne eller betragte LLM’er som selvstændige skabninger. Med hensyn til sidstnævnte, er der en særlig ingrediens, et mysterium kendt som “AI black-box paradokset,” der spiller en afgørende rolle i diskussionen.

Dybe læringssystemer er trænet til at genkende elementer og tendenser på samme måde, som mennesker gør. Ligesom vi lærer børn at genkende mønstre og tildele specifikke ord til forskellige objekter, er LLM’er blevet trænet til at lave unikke forbindelser og bygge netværk, der bliver mere og mere komplekse, efterhånden som de “vokser.”

Samir Rawashdeh, lektor i elektrisk og computerteknik, specialiserer sig i kunstig intelligens og forklarer, at ligesom det sker, når vi studerer menneskelig intelligens, er det næsten umuligt at se, hvordan dyb indlæringssystemer træffer beslutninger og når frem til konklusioner. Dette er hvad eksperter kalder “black box problemet.”

AI-modeller udfordrer menneskelig forståelse

Anthropic’s nylige studie kastede lys over AI black box-situationen ved at forklare, hvordan dens model “tænker” i visse scenarier, der tidligere var uklare eller endda helt forkerte. Selvom studiet er baseret på modellen Claude 3.5 Haiku, giver det eksperter mulighed for at udvikle værktøjer og analysere lignende karakteristika på andre AI-modeller.

“At forstå naturen af denne intelligens er en dybdegående videnskabelig udfordring, som har potentialet til at omforme vores forståelse af, hvad det vil sige at ‘tænke’,” udtaler artiklen delt af Anthropic’s forskere.

Dog, udtrykket “tænke,” tilskrevet AI-teknologier, forarger visse eksperter i branchen og er en del af kritikken af undersøgelsen. En Reddit-bruger forklarede, hvorfor det irriterer en gruppe mennesker: “Der er en masse antropomorfisering gennem hele artiklen, som slører arbejdet. For eksempel bliver ordet ‘tænke’ brugt, når det burde være ‘beregne’. Vi taler om computersoftware, ikke en biologisk hjerne.”

Mens de “humaniserede” termer hjælper ikke-tekniske mennesker med bedre at forstå AI-modeller og skaber debat i samfundet, er sandheden, at udfordringen forbliver den samme, uanset om vi siger “beregne” eller “tænke”. Vi har ikke en fuldstændig forståelse eller komplet gennemsigtighed omkring, hvordan LLM’er fungerer.

Hvad man kan forvente af avancerede AI-modeller i den nærmeste fremtid

Kan du forestille dig at ignorere eksistensen af avancerede AI-teknologier som ChatGPT, DeepSeek, Perplexity eller Claude – nu eller i den nærmeste fremtid? Alle tegn peger på, at der ikke er nogen vej tilbage. Generative og ræsonnerende AI har allerede transformeret vores dagligdag, og de vil kun fortsætte med at udvikle sig.

Næsten hver dag hos WizCase rapporterer vi om en ny udvikling i branchen – en ny AI-model, et nyt AI-værktøj, en ny AI-virksomhed – der har potentialet til at gøre en stor indflydelse i vores samfund. Tanken om at tage en pause for først at få en bedre forståelse af disse avancerede modeller og hvordan de fungerer – eller endda bare at sænke farten en smule – synes umulig, givet det hurtige tempo i AI-kapløbet og involveringen af regeringer og verdens mest magtfulde virksomheder.

“AI-modeller udøver stigende indflydelse på, hvordan vi lever og arbejder, vi skal forstå dem godt nok til at sikre, at deres indflydelse er positiv,” udtaler Anthropic’s rapport. Selvom det lyder lidt urealistisk, forbliver forskerne positive: “Vi tror, at vores resultater her, og den udvikling de bygger på, er spændende beviser på, at vi kan leve op til denne udfordring.”

Men hvor hurtigt kan disse opdagelser egentlig bevæge sig? Artiklen bemærker også, at resultaterne kun dækker et par områder og specifikke tilfælde, og at det ikke er muligt at bygge mere generelle konklusioner. Så, sandsynligvis ikke hurtigt nok.

Mens regulatorer introducerer foranstaltninger som EU AI-loven, for at kræve mere gennemsigtighed, trækker de beskyldninger og brok fra store teknologivirksomheder for angiveligt at bremse fremskridtet, fortsætter kraftfulde AI-modeller med at avancere.

Som samfund skal vi stræbe efter at finde en balance mellem at uddybe vores forståelse af, hvordan disse teknologier fungerer, og at anvende dem på måder, der bringer meningsfulde fordele og fremskridt til vores lokalsamfund. Er dette muligt? Tanken om bare at bede eller håbe på, at disse “væsener” forbliver “etiske” og “gode”, virker ikke så langt ude lige nu.