Apple Opfordret til at Fjerne AI-Funktion efter Kontrovers om Falsk Overskrift

En stor journalistisk vagthund har opfordret Apple til at trække sin generative AI-funktion tilbage, efter værktøjet fejlagtigt tilskrev en overskrift om en højprofileret mordsag til BBC News.

BBC rapporterede torsdag, at der opstod kontrovers efter Apples nye funktion, Apple Intelligence, unøjagtigt genererede en overskrift. Den foreslog, at Luigi Mangione, en mistænkt i mordet på sundhedsforsikrings CEO Brian Thompson, havde skudt sig selv. BBC havde ikke offentliggjort en sådan artikel.

Reportere Uden Grænser (RSF), en international organisation, der kæmper for pressefrihed, kritiserede Apple og sagde, at hændelsen understreger de risici, umodne AI-værktøjer udgør for mediers troværdighed og offentlig tillid.

Vincent Berthier, leder af RSF’s teknologi- og journalistikafdeling, fordømte fejltrinnet og kaldte det et “slag mod mediets troværdighed” og en trussel mod offentlighedens adgang til pålidelig information. RSF krævede, at Apple straks fjernede funktionen.

“Den europæiske AI-lov – på trods af at være den mest avancerede lovgivning i verden på dette område – klassificerede ikke informationsgenererende AI’er som højrisikosystemer, hvilket efterlader et kritisk juridisk tomrum. Dette hul skal fyldes omgående,” sagde Berthier.

BBC bekræftede, at de har indgivet en formel klage til tech-giganten og anmodet om en løsning, men det er stadig uklart, om Apple har reageret.

Den fejlagtige AI-opsummering var ikke begrænset til BBC News. Den 21. november opsummerede funktionen fejlagtigt en artikel fra New York Times, hvori det falskeligt blev antydet, at Israels premierminister Benjamin Netanyahu var blevet anholdt, som rapporteret i BBC-artiklen.

Denne notifikation, som senere blev fremhævet af journalisten Ken Schwencke, henviste faktisk til en international arrestordre fra Den Internationale Straffedomstol mod Netanyahu.

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) November 21, 2024 at 9:22 PM

Apple Intelligence har til formål at reducere afbrydelser fra notifikationer ved at opsummere og gruppere dem. Tilgængelig på iPhones, der kører iOS 18.1 og nyere modeller, samt udvalgte iPads og Macs, har værktøjet mødt modstand for at misrepræsentere information fra anerkendte nyhedsmedier.

BBC’s talsperson understregede, at selvom nogle grupperede notifikationer præcist opsummerede historier om globale begivenheder, viste misinformationen omkring Mangione teknologiens potentiale til at skade både medieudbydere og offentlig forståelse.

RSF advarede om, at “Dette uheld illustrerer, at generative AI-tjenester stadig er for umodne til at producere pålidelig information til offentligheden, og bør ikke tillades på markedet til sådanne formål.”

Ars Technica gennemgik Apples notifikationssammendrag, og bemærkede flere problemer, der ofte opstår. Først og fremmest, mens nogle sammendrag er faktisk korrekte, lyder de robotagtige og akavede, især i følsomme emner som forhold eller mental sundhed. Andre misforstår sarkasme, slang eller idiomer, og tolker dem ofte for bogstaveligt.

Tab af kontekst er et andet større problem, især når resuméer overser tidligere beskeder i en tråd eller ikke tager højde for multimedieindhold. I gruppechats med flere emner, kan resuméer blive overbelastede, blande emner og føre til unøjagtigheder.

Endelig er nogle resuméer bare helt forkerte, ofte på grund af et forsøg på at kondensere for meget information til for få ord, hvilket resulterer i forvrængede fremstillinger. Generelt er disse problemer, som påvirker funktionens anvendelighed og nøjagtighed, hyppige i daglig brug.

Mangione, der nu er anklaget for mord i første grad, er blevet et centralt punkt i debatten om risici forbundet med AI i journalistik. Offentlighedens tillid til troværdige nyheder står på spil, da Apple står over for øget pres for at håndtere problemet.