”The Coming wave”, Mustafa Suleyman

Inledning

En gorilla är större, starkare och klättrar bättre än en människa. Men människan är smartare och befinner sig därför i toppen av näringskedjan. Ändå kan vi inte ta vår placering för given. Vi vet inte vad som händer om vi tappar greppet om utvecklingen, om AI i symbios med den syntetiska biologin tar plats som skapelsens krona. Det måste inte bli så, och vi måste göra allt vi kan för att stävja den utvecklingen, menar författaren. 

AI är en förlängning av våra bästa och sämsta jag. AI kan vara med och skapa färskvatten av havsvatten eller slå ut hela färskvattenförsörjningen. Risken finns också för rena misstag som kan få enorma konsekvenser, ungefär som risken att någon oavsiktligt fyrar av en kärnvapenmissil. Detsamma gäller den syntetiska biologin – det forskningsområde inom biologi och teknik som kombinerar naturvetenskap och ingenjörskonst och där genteknik är ett exempel. Med syntetisk biologi kan tidigare obotliga sjukdomar bli möjliga att bota. Samtidigt kan stater och individer med onda avsikter lägga grunden till laboratorieframkallade pandemier som står emot de mest sofistikerade formerna av vaccin. 

Det är alltså detta som kommer att skölja över oss som nästa stora förändringsvåg, enligt Mustafa Suleyman. AI kommer att kunna utföra komplexa uppgifter som bara människan klarat tidigare – som till exempel att driva företag, producera en obegränsad mängd digitalt innehåll, utföra viktiga uppgifter i statens tjänst och underhålla infrastrukturen. Vi är på väg in i en värld av dna-printers, kvantdatorer, autonoma vapen och robotassistenter. Det är ett stort steg för mänskligheten. Och ett steg vi är dåligt förberedda för, varnar författaren.

Suleyman är av uppfattningen att vågen hotar samhällskontraktet mellan medborgare och stat, det kontrakt som ligger till grund för den globala ordningen. Bland annat beror detta på att balansen mellan och företag och nationer förändras – till nationernas nackdel. Medan företag utvecklar teknologierna i en rasande hastighet släpar länderna efter. Lagstiftningen och införandet av lagar tar tid och ska ta tid, men leder också till en ojämn kamp. Dessutom ökar AI:s frammarsch risken för desinformation i stor skala.

Författaren tror att vågen kommer att ställa mänskligheten inför ett vägskäl. Om vi inte lyckas lära oss att behärska och reglera teknologierna kan konsekvenserna bli både dramatiska och förfärliga. Samtidigt behöver vi de nya teknologierna för att tackla de utmaningar vi står inför, exempelvis klimatkrisen. 

Dilemmat

AI är redan en del av vår vardag, framhåller författaren. Med hjälp av AI går det att känna igen ansikten och saker på ett nära nog perfekt sätt. Vi tar transkriberingsprogram och omedelbar översättning närmast för givna. Självkörande fordon kan ta sig fram i trafiken med hjälp av AI, även om de ännu inte är tillåtna på våra vägar. Baserat på några enkla uppmaningar kan en ny generation AI-modeller generera nya bilder och sätta ihop texter på en högklassig nivå. AI-system kan producera syntetiska röster med kuslig realism och komponera vacker musik. Även vad gäller förmågor som långtidsplanering, fantasi och att simulera komplexa idéer går AI-utvecklingen framåt. Det artificiella intelligensen blir alltmer kapabel: Nästa steg i AI-revolutionen är ACI, artificial capable intelligence. Det handlar om ett system som inte bara kan känna igen och skapa nya bilder, ljud och språk anpassat till en given kontext utan också bli interaktiv, genomföra saker i realtid, till exempel dra nytta av kunskap och produkter hos en tredje part. 

Parallellt kommer den syntetiska biologin att möjliggöra nya och effektivare läkemedel. Ny teknik kommer också att kunna producera förnybar energi som solenergi i en aldrig tidigare skådad omfattning. Detta sammantaget kommer både att skapa nya affärsområden och förbättra livskvaliteten för så många att det nästan är omöjligt att föreställa sig. Dessutom, när dessa teknologier har mognat kommer de att bli billigare, mer tillgängliga och därmed spridas allt snabbare. 

Men vid sidan av alla fördelar riskerar AI, syntetisk biologi och andra avancerade former av teknologi att omkullkasta den nuvarande geopolitiska ordningen, enligt Mustafa Suleyman. Som exempel nämner han enorma AI-genererade cyberattacker, automatiserade krig som kan förstöra hela länder, ingenjörskonstruerade pandemier och en värld som är föremål för oförklarliga och ändå till synes allsmäktiga krafter. Risken för att alla dessa scenarier ska inträffa är liten, men konsekvenserna kan bli förödande om bara något av detta sker. Vissa länder kommer att försöka begränsa riskerna genom att gå i en mer auktoritär riktning och öka övervakningen av sina medborgare. Lika troligt är det att antalet strejker och bojkotter kommer att öka, ungefär som när tidningsgrafiker strejkade på 1980- och 1990-talen för att stoppa digitaliseringen av tidningsproduktionen.

Så, frågar sig författaren, är det ens möjligt att utveckla nya teknologier och samtidigt introducera en serie begränsningar i användandet av dem? Det är svårt att se hur länder eller företagskoncerner skulle kunna övertygas att frivilligt ge upp de krafter och värden som innovationerna kan ge upphov till. Dessutom, att försöka bannlysa utvecklingen av nya teknologier är en risk i sig. Teknologiskt stagnerande samhällen är historiskt instabila och benägna att kollapsa. Förr eller senare tappar de kapaciteten att lösa problem, att utvecklas.

Alltså, vare sig man väljer att främja utvecklingen eller hålla tillbaka den, är det förenat med risker, påpekar Suleyman. Möjligheten att balansera på en smal väg mellan fri och reglerad utveckling blir allt mindre ju billigare och kraftfullare den nya teknologin blir. Men att kliva av den smala vägen är inte heller något alternativ. Även om vi oroar oss för riskerna behöver vi mer än någonsin alla fördelar som den nya vågens teknologi ger. Vi kan alltså inte bara stoppa den och försöka återgå till tiden som var innan. 

Fällan 

För några år sedan presenterade författaren en sammanställning över AI:s förväntade långsiktiga ekonomiska och sociala effekter inför en samling högt uppsatta ledare inom tech-industrin. Suleyman krävde proaktiva åtgärder. Han underströk också risken för att AI skulle kunna leda till massarbetslöshet världen över. Reaktionen? Blanka ansikten och tomma blickar, en känsla av ointresse och ”äsch, det löser sig”.

Samma känsla av misstro och liknöjdhet infann sig under en workshop om syntetisk biologi där Suleyman var en av deltagarna. Föreläsaren berättade om dna-printers och att det enda som behövs för att kunna framställa ämnen långt mer sjukdomsframkallande än vad naturen kan åstadkomma är kunskaper motsvarande en universitetsexamen i biologi. Dessa syntetiska smittämnen skulle kunna stå emot kända motåtgärder, spridas asymmetriskt eller ha ett inbyggt motstånd mot behandling. Men även när detta presenterades, vägrade folk att tro att det var möjligt. Det måste ju existera några kontrollmekanismer, resonerade de.

Det bristande intresset från åhörarna har gnagt i författaren sedan dess. Varför verkar ingen vilja ta hoten på allvar? Varför anklagas de som lyfter frågan för att inte vilja se AI:s positiva effekter? Den uteblivna reaktionen kallar Suleyman för pessimism-aversionsfällan – den brist på handling som uppstår när problemen känns så stora att man inte klarar att konfrontera dem. De flesta fastnar i denna fälla när dåliga nyheter staplas på varandra. Motvilja mot pessimism och dystopi är en känslomässig reaktion, en ingrodd ryggmärgsreflex att vägra acceptera risken för verkligt destabiliserande faktorer. Det finns gott om människor som tror att just de ska klara sig undan sådant som krig och katastrofer. Därför tror de också att just de ska slippa påverkas av den kommande vågens negativa effekter.

Det kommer inget gott ur denna huvudet i sanden-strategi, menar Mustafa Suleyman. Om vi i stället tar oss an vågen och inser att den nya teknologin rätt använd kan tjäna mänskligheten, kommer vi över vår pessimism-aversion. En förutsättning för detta är dock att vi lyckas lösa the containment problem, inneslutningsproblemet – frågan om hur vi behåller en stark kontroll över de nya teknologierna utan att begränsningarna blir så rigida att nyttan med dem försvinner. Det finns inget författaren hellre vill än att det visar sig vara möjligt att innesluta den nya vågen – men med förnuft.

Det vi måste börja med, menar han, är att komma med förslag på vad vi ska göra om de nya teknologierna sviker oss. Här räcker det inte med individuella lösningar, precis som det är omöjligt att lösa klimatkrisen på individnivå. Individens insatser är visserligen viktiga, men näringslivet och inte minst politikerna måste ta sitt ansvar och se till att få regleringar, lagstiftningar och överenskommelser på plats. Det behövs kort sagt en plan.

Bara för att konsekvenser av de nya teknologierna är svåra att förutse betyder det inte att vi kan låta bli. När författaren pratar om containment, inneslutning, menar han meningsfull kontroll, kapaciteten att stoppa ett användningsområde, ändra forskningsinriktning eller neka ondskefulla aktörer tillgång till teknologin. Det handlar om att göra allt för att teknologiernas inverkan på oss ska återspegla våra värderingar.

Balansen människa–maskin

Mustafa Suleyman är medveten om att ordet inneslutning för med sig ekon från det kalla kriget. Då handlade det om att begränsa Sovjetunionens expansiva tendenser. Men det är inte denna inneslutning vi ska ägna oss åt nu. 

Att innesluta teknik handlar om balansen mellan människa och maskin – en nödvändig förutsättning för vår arts överlevnad under det närmaste århundradet. Inneslutning omfattar reglering, bättre teknisk säkerhet, nya styrnings- och ägarskapsmodeller och nya sätt för ansvarsskyldighet och transparens, allt för att skydda oss till dess att tekniken blivit säkrare.

Inneslutning ska inte ses som det slutgiltiga svaret på alla teknologiska problem; det är snarare det första kritiska steget, en grund på vilken framtiden bygger. Författaren ber oss tänka på inneslutning som en uppsättning sammanlänkade och ömsesidigt förstärkande tekniska, kulturella, juridiska och politiska mekanismer för att upprätthålla samhällelig kontroll över tekniken under en tid av exponentiell förändring.

När en teknologi väl etablerat sig är den närmast omöjlig att bromsa. Spridning ligger i dess natur, hur hindren än ser ut. Teknologier är idéer och idéer kan inte stoppas. Kärnteknik är ett undantag till regeln om den ostoppbara spridningen av teknologier, men till väldiga kostnader och komplexa regelverk. Och även ren tur. Kärnteknik, framhåller författaren, är nog den enda teknologi som vi hjälpligt lyckats stänga inne, innesluta, med hjälp av lagar, regleringar, överenskommelser och inspektioner.

Det är, som tidigare nämnts, mycket mer på gång än ”enbart” AI och syntetisk biologi. Dessa kraftfulla teknologier kommer både att påverkas av och påverka varandra. De påskyndar dessutom varandras utveckling. 

Det handlar till exempel om kvantmekanik – den fysik som beskriver världen i dess allra minsta skala och som till exempel används för maskininlärning, nanoteknik som kan användas för att läka kroppen samt produktion av förnybar energi. 

Förnybar energi kommer att bli den enskilt största källan till energi redan 2027, enligt författaren. Vad gäller solenergi är det en källa till stor optimism. Tillsammans med vindkraft och laddningsbara batterier får vi en mix som kan garantera energitillförseln i framtiden. 

Det handlar också om robotar. Författaren liknar robotarna vid AI:s fysiska ”kroppar”, en brygga mellan AI och den verkliga världen och något vi behöver hålla under sträng uppsikt. Inom vissa områden kan robotarna redan nu utföra samma saker som en människa – eller mer. 

Vikten av nationalstaten

Vi står inför globala utmaningar som att minska svälten och få bukt med klimatkrisen. Den nya teknologin kommer att kunna lösa åtminstone delar av dessa problem. Som exempel nämner Suleyman skogsodlingar med träd som lever längre än dagens träd och som kan absorbera mycket mer koldioxid. Men de innovationer som sker kommer att vara präglade av den mänskliga naturen. Egoism, altruism, nyfikenhet, arrogans och tävlingsinstinkt – allt finns med i den cocktail som skapar och utvecklar nya teknologier. Det gäller alltså att hitta de skydd som behövs för att teknologierna inte ska förgöra oss. Först och främst behöver vi bevara nationalstaterna, menar författaren. De är långt ifrån perfekta, men utan fungerande rättssamhällen kommer vi aldrig att få bukt med den nya vågens avarter.

Samtidigt ställer sig Suleyman frågan om nationerna är redo och förmögna att möta den kommande vågens utmaningar. I dag är Västvärldens stater impulsiva och nervösa. De har utsatts för en serie chocker under 2000-talet som elfte september, finanskriser, pandemi och Ukrainakriget.

Demokratier bygger på tillit, men nu verkar denna tillit avta. I USA är den i princip redan obefintlig, menar författaren. Allt färre länder är dessutom renodlade demokratier, detta har minskat sedan 2010. Ändå är nationerna det som håller ihop oss och som håller den mänskliga civilisationen vid liv. Men den kommande vågen utmanar dem. 

Desinformationskampanjer som sprids via sociala medier är ett exempel. Dessa kommer att förstärkas med hjälp av AI. Så vad händer om demokratiska stater faller och autoritära styren tar vid? Den kommande vågen är ett stort hot mot den liberala demokratin. Samtidigt behövs den liberala demokratin mer än någonsin, poängterar Suleyman. Detta dilemma behöver vi ta oss an innan det är försent.

AI blir farligt när det faller i fel händer. Och hur ska staten kunna hålla sin del av samhällskontraktet om staten inte kan skydda dig? 

Mycket snart kommer det att vara lätt att med hjälp av AI framställa påhittade historier av till synes verkliga händelser, ja, det är möjligt redan i dag. Enskilda medborgare kommer inte att ha tid eller verktyg för att kunna verifiera en bråkdel av innehållet som kommer i deras väg. En annan fara som ökar är risken för labbläckor, att farliga virus ska spridas och orsaka pandemier. Ytterligare en fara är som tidigare nämnts risken för massarbetslöshet. AI kommer att ta över jobb som i dag utförs av människor. Men tänk om det går längre än så, om den mänskliga arbetskraften blir helt överflödig, varnar författaren.

Vi vet att vi kan ändra beteende snabbt när vi måste. Pandemin är ett utmärkt exempel på det. Då fungerade inneslutningen med hjälp av starka restriktioner, och det med omedelbar verkan, eftersom vi var tvungna. 

Det centrala problemet för mänskligheten under det tjugoförsta århundradet är hur vi ska kunna uppbringa tillräckligt med legitim politisk kraft och visdom, teknisk kontroll och robusta normer för att hindra den kommande vågen från att göra mer nytta än skada. Hur vi med andra ord kan innesluta det som till synes är omöjligt att slå en ring runt och kontrollera. Många nationer och företag är illa rustade för detta. 

Vi människor är inte skapta för att hantera den typ av kriser som AI och den syntetiska biologin kan skapa, lika lite som vi är skapta att hantera klimatkrisen. Ändå måste vi göra allt vi kan eftersom alternativet är otänkbart. 

Författaren menar att vi nu har ett unikt tillfälle att sätta in de begränsningar som krävs, åtminstone i närtid. Den nya vågen av teknologier kommer verkligen, men den har inte sköljt över oss än. Vi har fortfarande möjlighet att bestämma vågens slutliga form. Författaren uppmanar oss att inte slösa bort decennier på att komma igång med detta. I stället bör vi ta oss an denna utmaning redan i dag.