UK Regering Udvikler Kontroversiel AI ‘Mordforudsigelse’ Værktøj

Den britiske regering arbejder på et kontroversielt projekt, der bruger AI til at forudsige, hvem der måske vil begå mord i fremtiden.

Programmets eksistens kom frem via anmodninger om aktindsigt, som blev indhentet af overvågningsgruppen Statewatch.

Der er indikationer på, at følsomme persondata bliver brugt. Disse inkluderer sundhedsjournaler, information om psykisk helbred, historie om afhængighed og data om personer, der ikke er blevet dømt for nogen forbrydelser.

Statewatch rapporterer, at Justitsministeriet (MoJ) står i spidsen for denne plan, hvor de gennemgår eksisterende autoritetsregistre over mennesker for at forhindre alvorlige forbrydelser i at ske.

Oprindeligt kaldet “mord forudsigelsesprojektet”, er det nu blevet døbt “deling af data for at forbedre risikovurdering”. Projektet er i øjeblikket i en forskningsfase, men kampagnefolk og fortalere for privatlivets fred har udtrykt bekymring, som rapporteret af Statewatch.

Officielle kilder benægter dog dette. The Guardian rapporterer, at en talsperson for Justitsministeriet udtalte: “Dette projekt gennemføres udelukkende til forskningsformål. Det er designet ved hjælp af eksisterende data, der holdes af HM Fængsels- og Prøveløsladelsesservice og politistyrker om dømte lovovertrædere, for bedre at hjælpe os med at forstå risikoen for, at folk på prøveløsladelse begår alvorlig vold. En rapport vil blive offentliggjort på et passende tidspunkt.”

Ifølge Statewatch delte politiet i Greater Manchester data om op til en halv million mennesker. Dette inkluderede ofre, mistænkte og mennesker i sårbare situationer.

Sofia Lyall, en forsker hos Statewatch, kritiserede kraftigt projektet og sagde: “Justitsministeriets forsøg på at bygge dette mordsprognosesystem er den seneste uhyggelige og dystopiske eksempel på regeringens hensigt om at udvikle såkaldte kriminalitets ‘forudsigelses’ systemer.”

Hun advarede om, at systemet ville forværre race- og klasseforskellene: “Denne seneste model, som anvender data fra vores institutionelt racistiske politi og Indenrigsministerium, vil forstærke og forøge den strukturelle diskrimination, der ligger til grund for det kriminelle retssystem.”

“At bruge så følsomme data om mental sundhed, afhængighed og handicap er dybt indgribende og alarmerende,” tilføjede hun.

Regeringen argumenterer for, at værktøjer som dette kunne forbedre, hvordan prøvetjenester vurderer risiko og forebygger voldelig kriminalitet. Men kritikere siger, at systemet kunne føre til, at folk uretfærdigt bliver stemplet som potentielle mordere på grund af fejlagtige og skæve data.

Regeringen argumenterer for, at disse værktøjer vil forbedre prøvetjenesternes evne til at evaluere risiko og stoppe voldelige forbrydelser fra at finde sted. Kritikere advarer dog om, at systemet risikerer at stemple folk som potentielle mordere gennem dårlige og skæve data.

Selvom det stadig er under udvikling, rapporterer Statewatch, at dokumenter nævner “fremtidig operationel implementering” af systemet, hvilket rejser bekymring for, at det snart kunne blive brugt i virkelige politimæssige beslutninger.