Mer opartiska men mindre tillförlitliga – svenskarna om när datorn fattar beslut

Mer opartiska – men mindre tillförlitliga. Så uppfattar svenskar beslut från myndigheter som fattas av datorer, visar en ny  studie.

Karin Hedström, professor i informatik

– Uppfattningen påverkas av om man känner till att det förekommer automatiska beslut, säger Karin Hedström, professor i informatik.

Studien Medborgarna och automatiskt beslutsfattande presenterades på SOM-institutets årliga seminarium.

Idag blir det allt vanligare med automatiserade beslut inom offentlig sektor.

Det innebär att handläggaren byts ut mot ett datorprogram. Ett syfte är att få till snabbare beslut, att myndigheterna ska bli mer produktiva och effektivare.

– Det handlar också om att främja opartiskhet och likabehandling, säger Karin Hedström.

Hennes studie visar att var femte svensk är medveten om att det förekommer beslut av myndigheter som fattas av datorprogram istället för människor. Den kunskapen spelar roll för deras uppfattning om de automatiska besluten.

Människor med kännedom om att det förekommer automatiskt beslutsfattande hos myndigheter är mer benägna att uppfatta besluten som mer tillförlitliga och mer opartiska, än de som inte har den kunskapen .

– Det här innebär att vi, om vi vill få en tilltro till myndighetsbeslut, måste öka kunskapen hos människor att det förekommer automatiskt beslutsfattande, säger Karin Hedström.

Automatiskt beslutsfattande ändrar alltså människors relation till myndigheter, vilket måste få konsekvenser enligt Karin Hedström:

– Offentlig verksamhet måste tydliggöra vilka beslut som fattas av datorer eftersom så få, var femte, känner till att de förekommer. Det är viktigt eftersom studien visar att kännedomen påverkar människors uppfattning om tillförlitlighet och opartiskhet hos myndighetsbeslut.