Forskning: Kritisk syn kan göra AI bättre

Smarta läsroboten Bibbi svepte in som ett yrväder en decemberdag, med stora vänliga ögon och på bröstet en upplyst skärm.

”Hej Bibbi! Hur mår du? Är du flicka eller pojke?”

Frågorna flödade från andraklassarna på Skärholmens bibliotek, som hörde till målgruppen för de högt ställda förväntningarna.

Läsroboten skulle få barnen att älska böcker och öva på högläsning, och samtidigt väcka deras intresse för digital teknik och programmering.

Men att Bibbi inte var att lita på som läskompis blev snabbt uppenbart. 

”Ansiktsigenkänningen var avstängd på grund av de regler som gäller för offentliga platser som bibliotek. Roboten hade svårt att uppfatta vad barnen läste, bad dem ideligen att upprepa sig, och kunde plötsligt falla i sömn mitt under högläsningen”, säger forskaren Lina Rahm, som undersöker hur verktyg för artificiell intelligens fungerar i kontakten med verkligheten, vid KTH i Stockholm.

”Tekniken framställdes som självgående, men skapade i praktiken massor av extrajobb för bibliotekarierna som oavbrutet fick rycka in för att guida, förklara, rätta och ursäkta Bibbis beteende”, fortsätter hon.

Robotprojektet, som hon granskat med forskarkollegan Elin Sundström Sjödin, är inte det enda där ny teknik medfört ökade mänskliga arbetsinsatser och förvärrat befintliga problem, åtminstone initialt, på tvärs mot löftena om effektivisering.

”Det är något vi sett genom hela teknikhistorien”, säger Lina Rahm, som är biträdande universitetslektor i medie- och miljöhistoria, med inriktning mot AI och autonoma system på KTH.

I sina studier pekar hon på hur man inom skolans värld belastats av mängder av oförutsedda arbetsuppgifter kopplade till digitala verktyg.

”Lärarna kan bland annat behöva ägna sig åt tidskrävande inloggningsprocesser och uppdatering av appar och lösenord,”, exemplifierar Lina Rahm.

En viktig orsak till att tekniken inte alltid blir lika effektiv som tänkt, kan vara ett snävt ingenjörstänkande, menar hon.

”Teknisk förändring sker inte i ett vakuum, utan i en komplex social väv på många olika nivåer. Ändå finns en strävan att konfigurera användaren i stället för tekniken. En anpassning av människorna till AI-verktygen, i stället för tvärtom.”

Ännu ett belysande exempel, överförbart till chefers situation och arbetsvardag, är det AI-verktyg för automatisk registrering av elevers från- och närvaro som införts i vissa klassrum.

”Tanken var att lärarna skulle få tid till annat. Vad man missat är att närvaroanmälningar fyller en viktig pedagogisk och social funktion. Att ta upp närvaro är ett sätt att säga: ’Hej och godmorgon, är du här?’”

Utöver sådana mellanmänskliga förluster, riskerar chefer och medarbetare att tappa makt över organiseringen av sitt arbete när robotkollegor, läs- och skrivverktyg och digitala assistenter tar ökad plats, menar Lina Rahm.

”Tyvärr blir användarna sällan tillfrågade om vad de behöver hjälp med. Automation, datorisering, digitalisering och AI har kommit med löftet att frigöra tid, men så har det inte blivit. Däremot ser vi hur människors yrkeskompetens marginaliserats.”

Att AI inte är en neutral kraft, utan en funktion vars potential och risker är djupt invävda i samhällets maktstrukturer, är enligt Lina Rahm viktigt att ha klart för sig.

Det betyder att AI kan användas för att förstärka befintliga ojämlikheter och maktstrukturer, snarare än att förändra dem. Något hon tycker borde diskuteras oftare.

”Jag menar också att AI-utvecklingen till stora delar drivs av en negativ kris- och panikretorik om att vi riskerar att hamna på efterkälken, snarare än vad som är den verkliga nyttan för människorna, verksamheterna och samhället”, säger Lina Rahm.

”Vid tidigare tekniksprång har ökad välfärd och arbetstidsförkortningar varit en drivkraft. I dag finns inga konkreta planer för det. Snarast är det ekonomiska vinstintressen som sätts i främsta rummet”, tillägger hon.

Hur borde chefer och ansvariga hantera AI-utvecklingen i fortsättningen?

“Det finns skäl att oftare ställa sig frågor som: ’Vad gör det här datasystemet? Vem har utvecklat det? Vilka konsekvenser får användningen i praktiken, och för vilka yrkesgrupper? Vad riskerar att gå förlorat och vad menas egentligen med löftena om ökad effektivitet.’”

Åter till läsroboten Bibbi – hur gick det med den?

Jo, experimentet blev i slutändan riktigt lyckat och gav synergieffekter:

”Syftet var att testa ny teknik och lära sig av det. Bibliotekarierna fick chans att pröva nya idéer, kreativt använda sig av roboten men också ställa den åt sidan. Få verksamheter har den möjligheten”, säger Lina Rahm.