Lediga chefsjobb
Alla chefsjobb

”The Coming wave”, Mustafa Suleyman

Vi står inför en våg av ny teknologi i form av avancerad AI och syntetisk biologi. Det medför ett existentiellt dilemma: Utan begränsningar och regleringar kan teknologierna orsaka enorma skador. Å andra sidan riskerar alltför hårda inskränkningar att skapa övervakningssamhällen av orwellsk karaktär. Att hitta den smala, men lyckosamma vägen mellan dessa båda dystopier är vår tids största utmaning, menar författaren. Med denna bok vill han visa hur vi kan gå tillväga.

Lyssna eller läs i Chefboken-appen

.

Du använder väl Chefboken-appen? Den gör det enklare att läsa och lyssna, oavsett var du är. Du som Chefboken-prenumerant kan ladda ned ljudfiler för offline-lyssning och spara de summerade böckerna i ditt personliga bibliotek. Det är enkelt att komma igång: Ladda ned appen ”Chefboken” i App Store eller Google Play – du loggar in precis som på Chef.se.
Läs mer om Chefboken-appen »

Därför valde vi den här boken

Som chef behöver du regelbundet lyfta blicken och se de stora trenderna, de som kan förändra samhället i grunden. Artificiell intelligens, AI, och syntetisk biologi är två av de mest omvälvande teknologierna som snart kommer att påverka oss alla. Författaren Mustafa Suleyman liknar dessa vid en stor våg, närmast en tsunami vars effekter är svåra att förutse, men som vi måste behålla kontrollen över så långt det är möjligt. Genom att ta till dig av Suleymans djupa kunskaper inom området och reflektera över hans frågeställningar, har du goda chanser att bli ett stöd för både dina medarbetare och företagsledningen vad gäller att hantera en av vår tids största utmaningar och möjligheter.

Tre saker du lär dig av att läsa boken

  1. Vad AI och syntetisk biologi är kapabla till och hur det kan förändra vår vardag på gott och ont. Den kommande vågens teknologier kommer att förändra tillvaron i grunden. Boken ger dig en inblick i hur det kan se ut.
  2. Behovet av begränsning. Om den kommande vågen får skölja över oss fritt och oreglerat innebär det mycket stora risker för mänskligheten, menar författaren och ger exempel på vad som skulle kunna hända.
  3. Hur vi kan lyckas med denna begränsning. Författaren listar tio punkter som kan hjälpa oss att tämja de nya teknologierna så att de blir mänsklighetens tjänare i stället för tvärtom.

Om författaren

Mustafa Suleyman är en brittisk tech-entreprenör, verksam i USA. Han var med och startade AI-företaget Deep Mind där han arbetade som chef för tillämpad AI. När företaget efter tio år förvärvades av Google följde han med som vice president och policychef för AI-produkter, men har nu lämnat tech-jätten. Suleymans nuvarande satsning är tech-företaget Inflection AI som utvecklar maskininlärning och generativ AI – verktyg och appar som kan generera naturtroget innehåll från texter eller uppladdade bilder med hjälp av maskininlärningsalgoritmer. Mustafa Suleyman bor i Palo Alto, Kalifornien.

Inledning

En gorilla är större, starkare och klättrar bättre än en människa. Men människan är smartare och befinner sig därför i toppen av näringskedjan. Ändå kan vi inte ta vår placering för given. Vi vet inte vad som händer om vi tappar greppet om utvecklingen, om AI i symbios med den syntetiska biologin tar plats som skapelsens krona. Det måste inte bli så, och vi måste göra allt vi kan för att stävja den utvecklingen, menar författaren. 

AI är en förlängning av våra bästa och sämsta jag. AI kan vara med och skapa färskvatten av havsvatten eller slå ut hela färskvattenförsörjningen. Risken finns också för rena misstag som kan få enorma konsekvenser, ungefär som risken att någon oavsiktligt fyrar av en kärnvapenmissil. Detsamma gäller den syntetiska biologin – det forskningsområde inom biologi och teknik som kombinerar naturvetenskap och ingenjörskonst och där genteknik är ett exempel. Med syntetisk biologi kan tidigare obotliga sjukdomar bli möjliga att bota. Samtidigt kan stater och individer med onda avsikter lägga grunden till laboratorieframkallade pandemier som står emot de mest sofistikerade formerna av vaccin. 

Det är alltså detta som kommer att skölja över oss som nästa stora förändringsvåg, enligt Mustafa Suleyman. AI kommer att kunna utföra komplexa uppgifter som bara människan klarat tidigare – som till exempel att driva företag, producera en obegränsad mängd digitalt innehåll, utföra viktiga uppgifter i statens tjänst och underhålla infrastrukturen. Vi är på väg in i en värld av dna-printers, kvantdatorer, autonoma vapen och robotassistenter. Det är ett stort steg för mänskligheten. Och ett steg vi är dåligt förberedda för, varnar författaren.

Suleyman är av uppfattningen att vågen hotar samhällskontraktet mellan medborgare och stat, det kontrakt som ligger till grund för den globala ordningen. Bland annat beror detta på att balansen mellan och företag och nationer förändras – till nationernas nackdel. Medan företag utvecklar teknologierna i en rasande hastighet släpar länderna efter. Lagstiftningen och införandet av lagar tar tid och ska ta tid, men leder också till en ojämn kamp. Dessutom ökar AI:s frammarsch risken för desinformation i stor skala.

Författaren tror att vågen kommer att ställa mänskligheten inför ett vägskäl. Om vi inte lyckas lära oss att behärska och reglera teknologierna kan konsekvenserna bli både dramatiska och förfärliga. Samtidigt behöver vi de nya teknologierna för att tackla de utmaningar vi står inför, exempelvis klimatkrisen. 

Dilemmat

AI är redan en del av vår vardag, framhåller författaren. Med hjälp av AI går det att känna igen ansikten och saker på ett nära nog perfekt sätt. Vi tar transkriberingsprogram och omedelbar översättning närmast för givna. Självkörande fordon kan ta sig fram i trafiken med hjälp av AI, även om de ännu inte är tillåtna på våra vägar. Baserat på några enkla uppmaningar kan en ny generation AI-modeller generera nya bilder och sätta ihop texter på en högklassig nivå. AI-system kan producera syntetiska röster med kuslig realism och komponera vacker musik. Även vad gäller förmågor som långtidsplanering, fantasi och att simulera komplexa idéer går AI-utvecklingen framåt. Det artificiella intelligensen blir alltmer kapabel: Nästa steg i AI-revolutionen är ACI, artificial capable intelligence. Det handlar om ett system som inte bara kan känna igen och skapa nya bilder, ljud och språk anpassat till en given kontext utan också bli interaktiv, genomföra saker i realtid, till exempel dra nytta av kunskap och produkter hos en tredje part. 

Parallellt kommer den syntetiska biologin att möjliggöra nya och effektivare läkemedel. Ny teknik kommer också att kunna producera förnybar energi som solenergi i en aldrig tidigare skådad omfattning. Detta sammantaget kommer både att skapa nya affärsområden och förbättra livskvaliteten för så många att det nästan är omöjligt att föreställa sig. Dessutom, när dessa teknologier har mognat kommer de att bli billigare, mer tillgängliga och därmed spridas allt snabbare. 

Men vid sidan av alla fördelar riskerar AI, syntetisk biologi och andra avancerade former av teknologi att omkullkasta den nuvarande geopolitiska ordningen, enligt Mustafa Suleyman. Som exempel nämner han enorma AI-genererade cyberattacker, automatiserade krig som kan förstöra hela länder, ingenjörskonstruerade pandemier och en värld som är föremål för oförklarliga och ändå till synes allsmäktiga krafter. Risken för att alla dessa scenarier ska inträffa är liten, men konsekvenserna kan bli förödande om bara något av detta sker. Vissa länder kommer att försöka begränsa riskerna genom att gå i en mer auktoritär riktning och öka övervakningen av sina medborgare. Lika troligt är det att antalet strejker och bojkotter kommer att öka, ungefär som när tidningsgrafiker strejkade på 1980- och 1990-talen för att stoppa digitaliseringen av tidningsproduktionen.

Så, frågar sig författaren, är det ens möjligt att utveckla nya teknologier och samtidigt introducera en serie begränsningar i användandet av dem? Det är svårt att se hur länder eller företagskoncerner skulle kunna övertygas att frivilligt ge upp de krafter och värden som innovationerna kan ge upphov till. Dessutom, att försöka bannlysa utvecklingen av nya teknologier är en risk i sig. Teknologiskt stagnerande samhällen är historiskt instabila och benägna att kollapsa. Förr eller senare tappar de kapaciteten att lösa problem, att utvecklas.

Alltså, vare sig man väljer att främja utvecklingen eller hålla tillbaka den, är det förenat med risker, påpekar Suleyman. Möjligheten att balansera på en smal väg mellan fri och reglerad utveckling blir allt mindre ju billigare och kraftfullare den nya teknologin blir. Men att kliva av den smala vägen är inte heller något alternativ. Även om vi oroar oss för riskerna behöver vi mer än någonsin alla fördelar som den nya vågens teknologi ger. Vi kan alltså inte bara stoppa den och försöka återgå till tiden som var innan. 

Fällan 

För några år sedan presenterade författaren en sammanställning över AI:s förväntade långsiktiga ekonomiska och sociala effekter inför en samling högt uppsatta ledare inom tech-industrin. Suleyman krävde proaktiva åtgärder. Han underströk också risken för att AI skulle kunna leda till massarbetslöshet världen över. Reaktionen? Blanka ansikten och tomma blickar, en känsla av ointresse och ”äsch, det löser sig”.

Samma känsla av misstro och liknöjdhet infann sig under en workshop om syntetisk biologi där Suleyman var en av deltagarna. Föreläsaren berättade om dna-printers och att det enda som behövs för att kunna framställa ämnen långt mer sjukdomsframkallande än vad naturen kan åstadkomma är kunskaper motsvarande en universitetsexamen i biologi. Dessa syntetiska smittämnen skulle kunna stå emot kända motåtgärder, spridas asymmetriskt eller ha ett inbyggt motstånd mot behandling. Men även när detta presenterades, vägrade folk att tro att det var möjligt. Det måste ju existera några kontrollmekanismer, resonerade de.

Det bristande intresset från åhörarna har gnagt i författaren sedan dess. Varför verkar ingen vilja ta hoten på allvar? Varför anklagas de som lyfter frågan för att inte vilja se AI:s positiva effekter? Den uteblivna reaktionen kallar Suleyman för pessimism-aversionsfällan – den brist på handling som uppstår när problemen känns så stora att man inte klarar att konfrontera dem. De flesta fastnar i denna fälla när dåliga nyheter staplas på varandra. Motvilja mot pessimism och dystopi är en känslomässig reaktion, en ingrodd ryggmärgsreflex att vägra acceptera risken för verkligt destabiliserande faktorer. Det finns gott om människor som tror att just de ska klara sig undan sådant som krig och katastrofer. Därför tror de också att just de ska slippa påverkas av den kommande vågens negativa effekter.

Det kommer inget gott ur denna huvudet i sanden-strategi, menar Mustafa Suleyman. Om vi i stället tar oss an vågen och inser att den nya teknologin rätt använd kan tjäna mänskligheten, kommer vi över vår pessimism-aversion. En förutsättning för detta är dock att vi lyckas lösa the containment problem, inneslutningsproblemet – frågan om hur vi behåller en stark kontroll över de nya teknologierna utan att begränsningarna blir så rigida att nyttan med dem försvinner. Det finns inget författaren hellre vill än att det visar sig vara möjligt att innesluta den nya vågen – men med förnuft.

Det vi måste börja med, menar han, är att komma med förslag på vad vi ska göra om de nya teknologierna sviker oss. Här räcker det inte med individuella lösningar, precis som det är omöjligt att lösa klimatkrisen på individnivå. Individens insatser är visserligen viktiga, men näringslivet och inte minst politikerna måste ta sitt ansvar och se till att få regleringar, lagstiftningar och överenskommelser på plats. Det behövs kort sagt en plan.

Bara för att konsekvenser av de nya teknologierna är svåra att förutse betyder det inte att vi kan låta bli. När författaren pratar om containment, inneslutning, menar han meningsfull kontroll, kapaciteten att stoppa ett användningsområde, ändra forskningsinriktning eller neka ondskefulla aktörer tillgång till teknologin. Det handlar om att göra allt för att teknologiernas inverkan på oss ska återspegla våra värderingar.

Balansen människa–maskin

Mustafa Suleyman är medveten om att ordet inneslutning för med sig ekon från det kalla kriget. Då handlade det om att begränsa Sovjetunionens expansiva tendenser. Men det är inte denna inneslutning vi ska ägna oss åt nu. 

Att innesluta teknik handlar om balansen mellan människa och maskin – en nödvändig förutsättning för vår arts överlevnad under det närmaste århundradet. Inneslutning omfattar reglering, bättre teknisk säkerhet, nya styrnings- och ägarskapsmodeller och nya sätt för ansvarsskyldighet och transparens, allt för att skydda oss till dess att tekniken blivit säkrare.

Inneslutning ska inte ses som det slutgiltiga svaret på alla teknologiska problem; det är snarare det första kritiska steget, en grund på vilken framtiden bygger. Författaren ber oss tänka på inneslutning som en uppsättning sammanlänkade och ömsesidigt förstärkande tekniska, kulturella, juridiska och politiska mekanismer för att upprätthålla samhällelig kontroll över tekniken under en tid av exponentiell förändring.

När en teknologi väl etablerat sig är den närmast omöjlig att bromsa. Spridning ligger i dess natur, hur hindren än ser ut. Teknologier är idéer och idéer kan inte stoppas. Kärnteknik är ett undantag till regeln om den ostoppbara spridningen av teknologier, men till väldiga kostnader och komplexa regelverk. Och även ren tur. Kärnteknik, framhåller författaren, är nog den enda teknologi som vi hjälpligt lyckats stänga inne, innesluta, med hjälp av lagar, regleringar, överenskommelser och inspektioner.

Det är, som tidigare nämnts, mycket mer på gång än ”enbart” AI och syntetisk biologi. Dessa kraftfulla teknologier kommer både att påverkas av och påverka varandra. De påskyndar dessutom varandras utveckling. 

Det handlar till exempel om kvantmekanik – den fysik som beskriver världen i dess allra minsta skala och som till exempel används för maskininlärning, nanoteknik som kan användas för att läka kroppen samt produktion av förnybar energi. 

Förnybar energi kommer att bli den enskilt största källan till energi redan 2027, enligt författaren. Vad gäller solenergi är det en källa till stor optimism. Tillsammans med vindkraft och laddningsbara batterier får vi en mix som kan garantera energitillförseln i framtiden. 

Det handlar också om robotar. Författaren liknar robotarna vid AI:s fysiska ”kroppar”, en brygga mellan AI och den verkliga världen och något vi behöver hålla under sträng uppsikt. Inom vissa områden kan robotarna redan nu utföra samma saker som en människa – eller mer. 

Fyra trender hos den kommande vågen

Det är svårt att veta exakt hur vågen kommer att påverka oss, men Mustafa Suleyman lyfter fram några slutsatser baserade på gamla teknologier och hur de nya utvecklats hittills.

  1. Asymmetri. Saker utvecklas inte linjärt och åt det håll vi tror. Plötsligt sker utvecklingen i en annan riktning än den förväntade. Användningen av drönare är ett sådant exempel. För några år sedan användes drönare i stor utsträckning för landskapsfotograferingar och lek, även om de också förekom i spioneri- och försvarssammanhang. Numera sätter de flesta av oss likhetstecken mellan drönare och krig. Med hjälp av snabbutvecklade drönare överrumplade Ukraina de ryska styrkorna med drönarattacker under krigets första fas, våren 2022. Det blev ett tydligt exempel på traditionell krigföring som ställdes mot den nya teknologin. 
  2. Snabb utveckling. Utvecklingen går snabbare än vad vi kan föreställa oss och påverkar fler områden av vår vardag än de flesta tror. Det handlar om en oändlig utveckling. Den kommer inte att bli förutsägbar. Den kommer att påverka allt och märkas överallt och den pågår medan du läser denna text.
  3. Multipla användningsområden. Det handlar inte längre om att less is more. I stället är det more is more som gäller. Nya innovationer kan användas till många saker, som exemplet drönare visar. Upptäckter inom syntetisk biologi och nanoteknik kan bli både boten och soten vad gäller sjukdomar. Spel kan bli till vapen. Värt att notera är att de flesta teknologier med tiden går mot generalitet.
  4. Autonomi. Den kommande vågen av teknologi blir mer självgående och självlärande än något vi tidigare upplevt. Hittills har teknologi bara varit verktyg, men nu kan vi närmast räkna med att verktyget får liv. Vad syntetiska organismer kommer att kunna skapa kan vi bara spekulera i. Vi kommer inte alltid att kunna förutsäga vad dessa autonoma system kommer att göra härnäst, det ligger i deras natur. AI håller redan på att hitta vägar för att förbättra sina egna algoritmer …

Vikten av nationalstaten

Vi står inför globala utmaningar som att minska svälten och få bukt med klimatkrisen. Den nya teknologin kommer att kunna lösa åtminstone delar av dessa problem. Som exempel nämner Suleyman skogsodlingar med träd som lever längre än dagens träd och som kan absorbera mycket mer koldioxid. Men de innovationer som sker kommer att vara präglade av den mänskliga naturen. Egoism, altruism, nyfikenhet, arrogans och tävlingsinstinkt – allt finns med i den cocktail som skapar och utvecklar nya teknologier. Det gäller alltså att hitta de skydd som behövs för att teknologierna inte ska förgöra oss. Först och främst behöver vi bevara nationalstaterna, menar författaren. De är långt ifrån perfekta, men utan fungerande rättssamhällen kommer vi aldrig att få bukt med den nya vågens avarter.

Samtidigt ställer sig Suleyman frågan om nationerna är redo och förmögna att möta den kommande vågens utmaningar. I dag är Västvärldens stater impulsiva och nervösa. De har utsatts för en serie chocker under 2000-talet som elfte september, finanskriser, pandemi och Ukrainakriget.

Demokratier bygger på tillit, men nu verkar denna tillit avta. I USA är den i princip redan obefintlig, menar författaren. Allt färre länder är dessutom renodlade demokratier, detta har minskat sedan 2010. Ändå är nationerna det som håller ihop oss och som håller den mänskliga civilisationen vid liv. Men den kommande vågen utmanar dem. 

Desinformationskampanjer som sprids via sociala medier är ett exempel. Dessa kommer att förstärkas med hjälp av AI. Så vad händer om demokratiska stater faller och autoritära styren tar vid? Den kommande vågen är ett stort hot mot den liberala demokratin. Samtidigt behövs den liberala demokratin mer än någonsin, poängterar Suleyman. Detta dilemma behöver vi ta oss an innan det är försent.

AI blir farligt när det faller i fel händer. Och hur ska staten kunna hålla sin del av samhällskontraktet om staten inte kan skydda dig? 

Mycket snart kommer det att vara lätt att med hjälp av AI framställa påhittade historier av till synes verkliga händelser, ja, det är möjligt redan i dag. Enskilda medborgare kommer inte att ha tid eller verktyg för att kunna verifiera en bråkdel av innehållet som kommer i deras väg. En annan fara som ökar är risken för labbläckor, att farliga virus ska spridas och orsaka pandemier. Ytterligare en fara är som tidigare nämnts risken för massarbetslöshet. AI kommer att ta över jobb som i dag utförs av människor. Men tänk om det går längre än så, om den mänskliga arbetskraften blir helt överflödig, varnar författaren.

Vi vet att vi kan ändra beteende snabbt när vi måste. Pandemin är ett utmärkt exempel på det. Då fungerade inneslutningen med hjälp av starka restriktioner, och det med omedelbar verkan, eftersom vi var tvungna. 

Det centrala problemet för mänskligheten under det tjugoförsta århundradet är hur vi ska kunna uppbringa tillräckligt med legitim politisk kraft och visdom, teknisk kontroll och robusta normer för att hindra den kommande vågen från att göra mer nytta än skada. Hur vi med andra ord kan innesluta det som till synes är omöjligt att slå en ring runt och kontrollera. Många nationer och företag är illa rustade för detta. 

Vi människor är inte skapta för att hantera den typ av kriser som AI och den syntetiska biologin kan skapa, lika lite som vi är skapta att hantera klimatkrisen. Ändå måste vi göra allt vi kan eftersom alternativet är otänkbart. 

Författaren menar att vi nu har ett unikt tillfälle att sätta in de begränsningar som krävs, åtminstone i närtid. Den nya vågen av teknologier kommer verkligen, men den har inte sköljt över oss än. Vi har fortfarande möjlighet att bestämma vågens slutliga form. Författaren uppmanar oss att inte slösa bort decennier på att komma igång med detta. I stället bör vi ta oss an denna utmaning redan i dag.

Tio steg för att möjliggöra inneslutning

Avslutningsvis listar författaren tio steg för att den nya teknologin ska fortsätta vara mänsklighetens tjänare i stället för tvärtom.

  1. Säkerhet. Många fler borde jobba med AI-säkerhet än vad som sker i dag. Tvivlet måste byggas in i teknologierna, liksom möjligheter att stänga ner dem.
  2. Revisioner/kontrollinstanser. Revision låter tråkigt, men är nödvändigt om man ska kunna kontrollera en inneslutning. 
  3. Köp tid. Ibland måste man försöka förhala nya tekniker så att man hinner förebygga dåliga konsekvenser. Därför är det viktigt med kontrollpunkter.
  4. Låt kritikerna utveckla teknologin. De som utvecklar teknologin måste också kunna hållas ansvariga för den. Möjligheten att innesluta måste byggas in i systemet. Här har de som är kritiska mot tekniken en viktig roll att spela. 
  5. Vinst med syfte. Att utveckla de nya teknologierna enbart utifrån vinstintressen är ohållbart. Innovationerna måste ha ett syfte. Inneslutning kräver därför en ny generation av företag och företagare som inte bara sätter ekonomisk vinst i centrum. Den nya tidens ledare behöver bidra positivt till samhället. 
  6. Statens återuppståndelse. Teknologiska problem behöver visserligen teknologiska lösningar, men detta räcker inte. Vi behöver få människor att återfå tron på staten. Varje ansträngning för att stödja liberala, demokratiska stater och stålsätta dem mot stressfaktorerna måste stöttas. 
  7. Tech-diplomati. Staterna måste samverka eftersom en enskild stat inte kan innesluta eller reglera teknologin på egen hand. Jämför med tiden i mitten av 1900-talet. Mot alla odds blev Japan och Tyskland stabila, produktiva och pålitliga demokratier efter andra världskriget. Orsaken var att länder gick samman och hjälpte dem. På liknande sätt behövs en ny form av tech-diplomati.
  8. Lär av misstagen. När något går fel – gör om, gör rätt. Var öppen med de misstag som begås och med de obehagliga sanningar som upptäcks, så slipper andra upprepa dem. Detta kräver en självkritisk hållning, en hållning som välkomnar kontrollanter i rummet eller labbet, precis som elitidrottare behöver stå ut med och välkomna dopningskontroller.
  9. Skapa ett nytt ”vi”. Det finns inget allmänt ”vi”, men låt oss skapa det. Förändring sker när tillräckligt många kräver det. Det ”vi” som bygger teknologier finns redan. Nu måste vi skapa ett ”vi” som kontrollerar och reglerar dem. Om tillräckligt många människor börjar bygga detta ”vi”, kommer gnistor av hopp att bli till rasande bränder av förändring.
  10. Ta plats på den smala vägen. Inneslutning är ingen viloplats. Det är en smal och oändlig väg. Det handlar om att lära sig hantera och minska riskerna utan att stagnera och utan att tappa den nya vågens alla fördelar. Det kanske inte verkar som att vi klarar att hålla oss på den smala vägen, men vi måste. Teknologivågen går inte att stoppa – och bör inte stoppas. Men den behöver hanteras, kontrolleras, regleras. Inneslutning, containment, måste vara möjlig.

Chefboken i 6 månader för totalt

1494:-

  • Sammanfattningar av böcker som får dig att ligga i framkant med nya metoder, idéer och trender inom ledarskap.
  • Lyssna eller läs på bara 30 minuter.
  • Över 150 titlar att lyssna och läsa direkt.
  • Ny sammanfattning varje månad.
  • Rabatt på hela boken hos Adlibris.

Skaffa Chefboken nu

Se alla våra erbjudanden