Forskning: Etiska dilemman när datorn ska bestämma

Trelleborgs kommun var tidigt ute med automatiserade beslut i socialtjänsten. För tidigt, enligt kritiker, som har påpekat att ingen relevant lagstiftning fanns på plats när roboten Ernst tog över biståndshandläggningen från socialsekreterare av kött och blod 2015. Visst rabalder uppstod när tidningen Dagens Samhälle och journalistnätverket J Plus Plus avslöjade hur hundratals känsliga personuppgifter hade läckt ut via robotens kod, samtidigt som kommunen gladdes åt handläggningstider som pressats ner till en minut per ärende. 

Allt från banker till skattekontor och sjukhus använder i dag algoritmer för beslutsfattande helt utan mänsklig kontakt. Ibland via så kallad profilering, en automatisk behandling av personuppgifter för analys av egenskaper som arbetsprestation, ekonomisk situation, hälsa, böjelser, intressen, pålitlighet och beteende.  

Samtidigt som våra rörelsemönster och preferenser oavbrutet registreras av uppkopplade enheter i hemmet, på jobbet och ute på stan, blir maskinerna med hjälp av artificiell intelligens (AI) allt bättre på att fatta beslut utifrån kognitiva funktioner som vanligtvis förknippas med människor: uppfattningsförmåga, resonerande, lärande, interaktion. Framtiden är kort sagt redan här.  

”Det är mycket diskussion om AI just nu och ofta är det en skrämmande framtid som målas upp. Men jag tycker inte att vi ska vara rädda för maskinerna. Det är ju människor som konstruerar dem. Därför borde också vi människor ha goda möjligheter att kontrollera utvecklingen. Så att maskinerna jobbar för oss, i stället för att kontrollera oss.  Samtidigt är det en väldigt liten grupp programmerare och tekniker som utvecklar den kraftfulla AI-teknik som påverkar hela mänskligheten. Det är ett problem”, säger Shengnan Han som är docent i data- och systemvetenskap vid Stockholms universitet. 

Hon pekar på de skevheter i AI-utvecklingen som ligger i att ett gäng designers på bolag som Meta (Facebook) och Google har så oproportionerligt stor makt och bär på värderingar och erfarenheter som knappast är representativa för jordens åtta miljarder invånare i övrigt.  

Den ”smarta” tekniken har i åtskilliga fall visat sig underblåsa diskriminering, som när ansiktsigenkänningsprogram inte klarar av att hantera människor med mörk hudfärg och rekryteringsverktyg favoriserar manliga ingenjörer. 

”Vi människor har våra begränsningar, som överförs till maskinerna när vi lär upp dem. I takt med att maskinerna blir mer intelligenta och fattar fler beslut, kan våra tillkortakommanden och fördomar förstärkas och få mycket stor spridning, med allvarliga konsekvenser som följd. Inom filosofin diskuteras en slags vithetsnorm som råder inom AI, de förhärskande normerna inom Facebook och andra stora tech-bolag som leds och domineras av vita män. Det är skevheter som vi användare av AI bör bli mer medvetna om. Fler med olika bakgrunder behöver bli hörda i teknikutvecklingen. Det är en fråga om demokrati”, säger Shengnan Han. 

Behöver våra smarta hem registrera exakt hur vi rör oss? Ska sjukdomsdiagnoser ställas av maskiner eller mänskliga läkare? Och hur mycket data bör vi egentligen lämna ifrån oss? Även det är frågor som AI-användarna fundera mer över, tycker hon. 

I en forskningsartikel i tidskriften AI & Society utvecklar hon och kollegorna Eric-Oluf Svee, Eugene Kelly och Shahrokh Nikou ett filosofiskt resonemang om hur AI kan närma sig de mänskliga värderingarna. Forskarna pekar på de svårigheter som ännu ligger i att översätta ett flexibelt mänskligt beteende till ett formellt språk som datorerna förstår. Medan den mänskliga intelligensen står för verklig smarthet, har även de mest avancerade datorer problem med att rangordna viktiga värderingar i en specifik situation. 

”Vi brukar säga till barnen att de inte ska ljuga. Samtidigt kan det vara nödvändigt och befogat att ljuga om du befinner dig i en livshotande situation. Att inte döda är också en grundläggande mänsklig värdering – men skulle du köpa en självkörande bil som är programmerad att köra in i ett träd i stället för att krocka med någon som korsar vägbanan utan att se sig för och därmed utsätta dig och de övriga passagerarna för livsfara? AI är ännu inte i nivå att göra den här typen av improviserade moraliska överväganden.” 

I den färdriktning för artificiell intelligens som antogs av regeringen 2018 står att Sverige ska vara bäst i världen på att använda digitaliseringens möjligheter: Med hjälp av AI ska landets konkurrenskraft och välfärd stärkas, arbetsmiljön förbättras, handläggningstiderna kortas och produktionen bli mer effektiv. 

Men tekniken är svårgripbar och ord som beslutsalgoritmer, robotar och AI har i dag i så många olika betydelser att innebörden kan framstå som oklar även för experter. Trots att regeringen trycker på att AI ska integreras i utbildningen, ser Shengnan Han en risk i att AI blir ett elitprojekt som kontrolleras av ett fåtal som på djupet förstår hur de komplexa systemen fungerar.  

”De ungdomar jag möter har hört talas om AI, känner till termen – men nyckelbegreppen, regleringarna, konsekvenserna vet de oftast ingenting om. Och de är ändå universitetsstudenter”, säger Shengnan Han. 

”Ur jämlikhets- och rättviseaspekt borde varje enskild medborgare skaffa sig en medvetenhet om AI, för att på så sätt få ökat inflytande. Men dit är det fortfarande långt.”