Holdning: Chatbots bliver folks primære læger – imponerende, men risikabelt

Vi springer hurtigt fra Dr. Google til Dr. Chatbot. I august rapporterede OpenAI over 200 millioner aktive ugentlige brugere, og selvom brugernes mest populære forespørgsler handler om skrivning og kodning, bruger nogle dem til mere personlige anliggender, lige fra datingrådgivning til hudplejerutiner og sygdomsdiagnoser.

En nylig undersøgelse viste, at AI-chatbots overgik læger i diagnostisk nøjagtighed. Men kan vi virkelig stole på AI som vores læger?

Ligesom antallet af emner, folk spørger om, er vokset, har bekymringer om risici og farer ved at stole på AI inden for medicinområdet også slået alarm – herunder dem, der involverer liv-eller-død-situationer.

Dr. Chatbot Bliver Viral for Sine “Mirakler”

For et par dage siden, gik en kvinde viral på Reddit, fordi hun delte, hvordan ChatGPT hjalp hende med at forbedre hendes hud bedre end en hudlæge med imponerende før-og-efter-billeder.

En 37-årig kaukasisk kvinde brugte ChatGPT til at skabe en skræddersyet hudplejerutine for at behandle hendes lukkede komedoner, og det hjalp hende faktisk! pic.twitter.com/vwkm13G2Hs

— AshutoshShrivastava (@ai_for_success) 11. november 2024

“Jeg gav derefter chatGPT en opfordring til at optræde som en professionel dermatolog og hjælpe mig med at lave en hudrutine, der ville hjælpe med at fjerne mine lukkede komedoner, akne, minimere porer og stramme huden, og reducere fine linjer. Jeg gav den også billeder af min hud på det tidspunkt,” skrev hun og forklarede derefter, at hun fortalte chatbotten at tage højde for alle de produkter, hun allerede ejede, og foreslå nye i forbindelse med en hudplejerutine.

Efter to måneder var Redditeren forbløffet over forbedringerne i hendes hud.

Det er ikke en isoleret sag. Mange brugere har afsløret, hvordan chatbots har været i stand til at forstå og forklare røntgenbilleder og blodprøver bedre end deres egne læger. Selv læger har været forbløffede over billede- og dataanalyser fortolket af kunstig intelligens.

Hvorfor bruger folk chatbots som læger?

AI kan forvandle sig til den professionelle, du har brug for – en praktiserende læge, en terapeut, en dermatolog, en ernæringsekspert, en radiolog – når du har brug for det, og der er mange grunde til, at folk vælger AI frem for mennesker.

Specialister kan være dyre

Kvinden med hudproblemet afslørede, at hun brugte omkring 400 dollars på at købe de produkter, chatbotten foreslog.

“Det var en ret stor investering, men når jeg tænker på, hvad en konsultation hos en hudlæge ville have kostet, er dette slet ikke så slemt,” skrev hun.

Ifølge BetterCare skal en patient uden sundhedsforsikring i USA i 2024 betale omkring $150 for et besøg hos en hudlæge og op til $1000 for behandling. Og den gennemsnitlige pris for en psykoterapi session—en anden populær anvendelse for AI værktøjer—varierer fra $100 til $200 pr. session, ifølge Forbes Health.

AI chatbots er billigere alternativer og kan ses som det eneste valg, især for folk i lavere indkomstgrupper.

Selvfølgelig opstår der et andet spørgsmål: Hvis noget går galt, er det så virkelig en omkostningsbesparende foranstaltning?

Hurtigere og mere praktiske

Jeg fik for nylig et udslæt på min arm. Selvom jeg så den kvindes hudmirakel-post, foretrak jeg at konsultere en dermatolog i Spanien. Den tidligst tilgængelige tid var om tre måneder, selv med privat sundhedsforsikring. Jeg er heldig, at det tilsyneladende kun er tørhed, at det ikke generer mig, og at det forhåbentligt vil forsvinde inden lægen kan se mig.

Lægebehandlingens tidsplaner afhænger af byen og patientens forsikringsplan. Men at se specialister og endda praktiserende læger er blevet en tålmodighedsprøve i mange dele af verden.

Chatbots er ikke kun bogstaveligt talt inden for rækkevidde af vores hænder, men kan også analysere vores forespørgsler og svare inden for sekunder.

Mindre akavet

Jeg har en lægeven, jeg kan kontakte, når jeg har brug for en lægekonsultation, men det faktum, at hun er min veninde, gør det nogle gange akavet. Før jeg sender en besked til hende, spørger jeg altid mig selv: Har jeg taget mig tid til at tjekke op på hende for nylig? Hun er et fantastisk menneske og en vidunderlig professionel, og jeg er sikker på, at hun aldrig vil stoppe med at besvare mine medicinske spørgsmål. Men, fra menneske til menneske, kan jeg ikke lade være med at bekymre mig om hendes følelser også.

En af fordelene ved kunstig intelligens er dens egen kunstige tilstand. Den har ikke følelser eller en dårlig dag, den vil ikke dømme dig eller sige til dig “Hold op med at være sådan en hypokonder” (ikke at min ven nogensinde har sagt dette til mig), fordi de er trænet til at være høflige og besvare alle vores bekymringer med al den information, vi ønsker. Det er en del af hvad der gør teknologien afhængighedsskabende, og sandsynligvis hvorfor mange foretrækker at stille ubehagelige spørgsmål i “privatlivet” på deres smartphones.

Risici og farer ved at stole på chatbots

Det lyder alt sammen cool og sjovt, indtil vi tager os tid til at tænke over de risici og udfordringer, AI og menneskeheden står overfor.

Forkert prompt, forkert stavning

I den undersøgelse, hvor AI klarede sig bedre end læger, blev der trukket en vigtig konklusion: gruppen af læger, der havde lov til at bruge AI som en allieret til diagnoserne, klarede sig ikke mærkbart bedre end dem, der ikke havde lov til at bruge det. Hvorfor? En del af problemet var, at de ikke vidste, hvordan de skulle skrive de rigtige prompts for at få mest muligt ud af AI.

”De behandlede det som en søgemaskine til rettede spørgsmål: ‘Er cirrose en risikofaktor for kræft? Hvad er mulige diagnoser for øjensmerter?’,” sagde Dr. Jonathan H. Chen, en af forfatterne til studiet, til New York Times.

Dette er et af de problemer, som mange brugere og AI-teknologier også står over for. Chatbots er gode til diagnostik, men mange symptomer skal analyseres individuelt på en personlig måde. Hvad hvis en person ikke formår at give den rette kontekst til chatbotten? Eller glemmer at inkludere vigtige detaljer eller betingelser, som en rigtig læge foran en patient ikke ville overse?

Upræcisioner og Hallucinationer

Chatbots er professionelle alt-vidende, og siger nogle gange forkerte ting med stor selvtillid. Og vi køber det. Og brugere, der dagligt er afhængige af teknologien, stoler mere og mere på den.

Det er svært at glemme den gang i maj, hvor Google Gemini foreslog brugere at tilføje “omkring ⅛ kop af ikke-toksisk lim til saucen for at give den mere klæbrighed” til en pizza.

Det var sjovt, for vi kunne straks spotte hallucinationen – det fine navn for når AI giver absurde svar. Men hvad nu hvis det drejer sig om et mere komplekst emne, hvad nu hvis personen, der læser AI-svaret, er bange, ensom og bekymret for deres helbred?

Selvom AI bliver bedre måned efter måned, er der stadig mulighed for fejl.

Hvem er at bebrejde, hvis noget går galt?

Den etiske debat er et hot emne i øjeblikket. Hvis chatbotten giver en fejlagtig diagnose eller forfærdelig rådgivning, hvem er så skyldig? Udviklerne, modellen, AI-virksomheden, de kilder, der trænede den model?

En tragisk sag vakte bekymring for et par uger siden, efter en amerikansk mor gav AI skylden for hendes 14-årige søns død og indgav en retssag mod startvirksomheden Character.ai – en platform til at skabe AI-karakterer. Teenageren led af depression og blev besat af teknologien. Hans avatar, Daenerys Targaryen, diskuterede en plan om at tage sit eget liv med ham, og opmuntrede ham endda til at gøre det.

Selvom AI er blevet betragtet af World Economic Forum som et kraftfuldt værktøj til at afhjælpe mentale sundhedskriser verden over og reducere den stigende procentdel af angst- og depressionstilfælde, kan det også være farligt, især for børn.

Gør Det “På Egen Risiko”

Selvom der stadig er behov for forbedring, kan jeg godt lide at tænke på, at AI har et stort potentiale til at reducere ventetider i sundhedsvæsenet – både til specialistkonsultationer og akutmodtagelse – til at fremskynde videnskabelige fremskridt, og til at støtte læger, især dem der er overvældet af overdreven arbejdsbyrde og lave lønninger, som det ofte er tilfældet i latinamerikanske lande, ved at hjælpe patienter med grundlæggende spørgsmål hjemmefra.

Det kan også hjælpe med at bygge bro over kløfter i adgangen til sundhedspleje mellem forskellige sociale klasser, hvilket baner vejen for en demokratisering af medicin som aldrig før. Alt dette er nu inden for vores rækkevidde, kun et spørgsmål væk for enhver med adgang til en smartphone.

Det er dog afgørende at forstå, at vi stadig er i de tidlige faser, og vi skal beskytte den mest sårbare befolkning. Enhver, der vælger at bruge Dr. Chatbot til at forbedre deres sundhed i dag, skal gøre det med en forståelse af det med småt i vilkår og betingelser, med kritisk tænkning, og med bevidstheden om, at de – for nu – påtager sig ansvaret for de involverede risici.