Mänsklig klyfta får AI-projekt att misslyckas

Vd:n och de högsta cheferna sken ofta upp när företagets nya medarbetare kom på tal.

Medarbetaren, i själva verket en maskin, var en ansiktslös AI-driven robot som introducerats under mänskliga förtecken och fått namnet Max. 

Roboten var det första steget i en högteknologisk transformation som ledningen planerat för företaget, en mediebyrå med 170 medarbetare, som är föremål för en forskningsstudie av Katja Einola vid Handelshögskolan i Stockholm, och Violetta Khoreva, vid Hanken School of Economics i Helsingfors.

Tillsammans mottog de nyligen HR-föreningens forskningspris för sina insatser om hur AI påverkar arbetslivet. 

Max hade inte några mer avancerade uppgifter – än så länge.

Jobbet inskränkte sig till automatiska bokningar av reklamtid hos tv-bolagen, samt viss fakturering och tidsrapportering. 

I studien framgår att ledningen fäste stort hopp till teknikutvecklingen, och till hur Max framtida ”kusiner” skulle ta över allt fler och mer komplicerade uppgifter. Och därmed göra företaget mer lönsamt och effektivt. 

”Max är en teammedlem som hjälper oss att höja kundnöjdheten; han hjälper oss att få nya kunder”, sa en av cheferna i studien.

Bland medarbetarna var Max inte lika populär.  

De var tvärtom irriterade och ibland arga över hur dåligt roboten skötte sig, visar forskarna.

”Tyvärr fattar han [Max] inte allt. Exempelvis har han ingen koll på kundens målgrupp. Kanske har han hunnit bli smartare när jag ska gå i pension”, sa en av de mänskliga tv-planerarna på den nordiska mediebyrån i en av forskarduons studier. 

”Det är inte särskilt enkelt att integrera honom i vårt jobb. Max är rätt korkad”, klagade en annan anställd apropå robotens ständiga misslyckanden, som tvingade personalen att ideligen korrigera och göra om.  

Studien avslöjar en klyfta mellan AI-entusiastiska och hoppfulla chefer, och anställda som är frustrerade över teknikens nuvarande brister.

En missanpassning som enligt Katja Einola är mycket vanlig, riskerar att förstärka negativa känslor mellan chefer och medarbetare, bromsar införandet av ny teknik och göder en allmän ovilja mot nya AI-lösningar. 

”Vi drar slutsatsen att kollektiva känslor spelar en central roll i dagens teknikdrivna organisationer, där människors roll i förhållande till den lavin av AI-teknologier som införs ofta försummas”, säger Katja Einola.

Hon är docent och står bakom en lång rad studier om organisation, ledarskap och vad som händer när tekniken ”förmänskligas”.

En bakomliggande orsak till den beskrivna missanpassningen är att chefer i särskild utsträckning känner sig pressade av utvecklare, och sin egen högsta ledning att snabbt omfamna ny teknik, menar hon.

Medan medarbetarna, inte sällan brända av tidigare misslyckade projekt, kan ha utvecklat en ibland överdriven skepsis.  

”Via min forskning och tidigare erfarenheter som projektledare inom it vet jag att stora teknikprojekt nästan alltid stöter på problem – och med något så komplext som AI uppstår extra stora överraskningar”, säger Katja Einola.

I en annan studie visar hon hur olika grupper hade vitt skilda föreställningar om den nya chattbot som introducerades av en stor nordisk bank.  

Men chattboten uppfyllde varken de mest uppskruvade förväntningarna eller de värsta domedagsprofetiorna.

I verkligheten var maskinen fenomenal på de enklaste uppgifterna, men körde fast på de mer krävande, samtidigt som bristen på mänsklig empati och känsla framstod som ett problem. 

Det finns flera omtalade fall där it-projekten kraschat helt.

Journalsystemet Millennium, Skolplattformen i Stockholms stad och det havererade tågledningssystemet NTL, är några av de senaste årens mest uppmärksammade exempel.

En granskning från Riksrevisionen tidigare i år visar att nästan hälften av över 1 000 statliga it-projekt präglas av stora förseningar och kostnadsökningar.

Detta samtidigt som 31 projekt har stoppats helt utan att leverera några resultat – men efter att ha kostat 1,6 miljarder skattekronor. 

Mot den bakgrunden ser Katja Einola ett behov av att tona ner den ”skadliga” AI-hajpen, både positiv och negativ, för att minska risken för ytterligare misslyckanden i teknikens möte med den komplicerade verkligheten.

För chefer kan det finnas anledning att inta en mer skeptisk hållning inför de verktyg som lanseras av techindustrin, menar hon. 

”Ja, att tygla sin teknikentusiasm ser jag som en viktig del av chefsarbetet. Seniora beslutsfattare kan behöva ta reda på mer om vad som händer på golvet, innan de köper in sig i stora fantasier om ny teknik som sägs kunna revolutionera allt”, säger Katja Einola och utvecklar: 

”Chefer som befinner sig långt från medarbetarnas praktiska vardag uppfattar inte alltid nyanserna i allt som personalen gör. Det kan leda till en mekanisk syn på arbetet, en övertro på att tekniken kan ersätta allt, och att värdet av mänsklig erfarenhet och tyst kunskap går förlorat.” 

Även fördjupade kunskaper i hur AI-tekniken fungerar kan vara avgörande för om projekten ska lyckas eller ej, insikter i vad AI kan och inte kan göra.

Samt mer realistiska tidsplaner än i dag – teknikskiften sker knappast över en natt.

En försonande inställning till ”bakåtsträvande” medarbetare kan också minska problemen och konfliktnivån: 

”Det är inte så att medarbetare i allmänhet är motståndare till ny teknik, inte klarar av att ta till sig AI efter att ha fyllt 40, eller är ovana vid att anpassa sig till ny teknik”, säger Katja Einola, och fortsätter:

”Trettio års oavbruten digitalisering har tvärtom gjort människor väldigt teknikvana. Men folk är trötta på ändlösa förändringsprojekt som slukar enormt mycket tid, verktyg som inte fungerar och system som inte samverkar.”

Hur gick det då med Max?

Projektet rullade vidare, men förändrades då många medarbetare slutade, liksom vd:n och it-chefen. När ett stort internationellt bolag köpte mediebyrån, infördes nya verktyg och strategier.

Roboten Max blev i slutänden bara en parentes i den långa linjen av teknologisk omvandling.