Bakom varje maskin står en människa

I den inledande scenen förklarar en av personerna att den förste uppfinnaren som startade pjäsens företag – Rossums Universella Robotar, den äldre Rossum, försökte skapa en exakt kopia av människan. Det lyckades aldrig – det var först när en yngre släkting tog över och förkortade allt sådant som är onödigt i människan som det gick att producera robotarna på ett prisvärt sätt. Organen förenklades, och känslor och annat som inte hade något syfte för arbetets skull togs bort. Resultatet blev en förvånansvärt effektiv arbetskraft, som inte till det yttre kunde skiljas från en människa. Just detta grundläggande drag i våra föreställningar om robotar demonstreras tidigt i pjäsen i en elegant glidning i en dialog där den ena personen hela tiden halkar in i ett antropomorfiserande språk där robotar föds, anställs, dör och den andre ständigt korrigerar henne med att tala om hur robotar skapas, köps och slits ut.

Därmed har Capek fångat mycket av robotikens problematik redan i den inledande scenen i pjäsen: de moraliska skillnaderna mellan robotar och människor, effekten på sociala system och arbetsmarknader samt den märkliga lätthet med vilken vi ser mänsklighet i något som liknar oss och skapats till vår avbild.

Johansson gräver förtjänstfullt djupare i alla dessa frågor, med rikliga hänvisningar till pågående forskning och olika internationella projekt. Resultatet blir en intressant genomgång av de olika utmaningar som robotiken ställer oss inför som samhälle. Ofta landar hon i nya frågor, och det skulle kanske vara lätt att kritisera boken för att väcka fler frågor än den besvarar. Det vore emellertid ett misstag, eftersom när det gäller ett ämne som det här så är det just frågorna som vi behöver ägna tid åt.

Ta frågan om huruvida robotar, när de blir tillräckligt komplexa, bör anses ha medvetande och därmed också unika rättigheter. Här finns inga uppenbara svar, men det är intressant att belysa, som Johansson gör, hur våra spegelneuroner tenderar att få oss att tro att maskiner, som ser ut som människor, också har ett inre liv likt människan, samtidigt som vi egentligen vet litet om andra människors medvetande. Robotars medvetande och eventuella själ är frågor som är av avgörande betydelse för hur de utformas i framtiden, och forskningen om syntetiska känslor – där robotar förses med olika komponenter som ger dem känslor – reser frågor om hur våra egna känslor är utformade.

En god genomgång av den alltmer utbredda diskussionen om robotar och jobb finns också i Johanssons bok. Här gör hon läsaren en tjänst genom att gå bortom den vanliga kommer-robotarna-att-ta-ditt-jobb-retoriken. Johansson är genomgående bra på att förse läsaren med bättre, mer komplicerade och intressantare frågor än dem som vi normalt ställer, men även om det finns mycket som är tänkvärt når vi inte särskilt djupt. Till dels beror det nog på att debatten har exploderat de senaste månaderna och att det kanske är den del av robotikens effekter på samhället som granskats mest noggrant till dags dato, till dels beror det också på att Johansson inte problematiserar föreställningen om att de jobb som vi har idag är det enda sättet att organisera arbete på. Vi skulle mycket väl kunna hamna i en situation där vi får mer arbete, men färre jobb – som Googles chefsekonom Hal Varian ibland menar, och då skulle robotarna lösgöra tid för att vi skulle kunna organisera arbetet på helt nya sätt – och kanske höja levnadsstandarden i grunden så att detta arbete inte behöver organiseras som en del av ett välfärdssystem. Värdet i att arbeta är i grunden skilt från värdet i att ha ett jobb, och där måste vi se till att vi inte hålls fångna av begrepp som har sin rot i ett samhälle med helt andra produktionsförutsättningar än dagens.

Robotiken ställer oss inför utmaningar som handlar om moral, medvetande och ekonomi. Våra begrepps grammatik vrids ofta ur led när de appliceras på vad vi på ett plan uppfattar som maskiner. Samtidigt finns det andra, mycket mer direkta, utmaningar som vi kanske inte bara kan lämna olösta och öppna. Johansson ägnar också i boken – liksom tidigare i sin avhandling – stort utrymme åt den mer akuta frågan om robotar och krig.

Det är ett rikt ämne. Inte bara handlar det – som i ?C apeks pjäs och i otaliga filmer – om robotarnas möjliga krig mot människan, utan också om hur robotar idag används som vapen i pågående konflikter. När det gäller den första frågan – Terminatorfrågan – är den visserligen kittlande, men här är vi tillbaka i spekulationens högre sfärer eftersom den förändring i teknikens bas som skulle krävas för att vi skulle kunna se ett robotuppror skulle förändra hela samhället på ett sådant sätt att det inte är säkert att det är meningsfullt att dela in tänkande varelser i robotar och människor längre. Den andra frågan är däremot mycket mer brinnande: Hur ska vi förhålla oss till robotar i krig idag?

Här springer vi snabbt på en del definitionsproblem. Är en värmesökande missil en robot i den mening vi här använder ordet? Den söker – autonomt – efter värmekällor och detonerar så nära dem som möjligt, beroende på olika parametrar. Hur skiljer sig en sådan missil från en drönare som cirklar ovanför ett territorium och ger eld baserat på andra analysparametrar? Vad är det som är nytt här? Värmemissilen har – efter det att den avfyrats – avlägsnat människan ur den beslutsloop som Johansson lyfter fram som central, på samma sätt som en helt autonom drönare – när den ”avfyrats” – skulle kunna ignorera mänskliga kommandon. Är det en skillnad i grad eller art?

Om vi vill komplicera frågan kan vi diskutera drönare som är fullständigt autonoma, men som istället byggts för att rädda människor. Antag att vi vid större skeppsbrott skickar ut en hel mängd flytande drönare som identifierar människor, söker upp dem och blåser upp flottar vid dem så att de kan rädda sig själva. Skulle autonomin i det fallet vara ett problem? Eller är det när vi lär robotarna att kriga – att döda – som problemet uppkommer?

Intressant nog finns även den här spänningen i ?C apeks pjäs. I ett intensivt replikutbyte inför en stundande robotattack säger en av personerna i pjäsen att man begick ett fruktansvärt misstag när man lärde robotarna att kriga. En annan svarar honom omedelbart, att nej – det var att tillverka robotarna som var misstaget.

Kan vi välja att inte göra det? Ytterst handlar det om huruvida vi tror att vi kan stoppa utvecklingen. Johansson berör den frågan i ett ganska ambivalent avsnitt där hon säger att det kanske inte finns en teknisk nödvändighet när det gäller skapandet och användningen av robotar, men, skriver hon, det kan vara så att det inte går att stoppa utvecklingen på grund av en mänsklig nödvändighet. Att vi helt enkelt inte kan avstå från att utforska robotiken som människor.

Det leder till en annan intressant diskussion. Några år innan ?C apeks pjäs publicerades kom en annan text som också har bäring på robotiken. I Gustav Meyrinks Golem, som publicerades 1914–1915, vandrar en skapad, artificiell varelse runt i berättelsen som en sorts inkarnation av ett givet kollektiv och en tidsstämning, en skugglik avbild av ett samhälle i en individ. Robotarna bär alltid med sig mer av sina skapare än en förenklad version av våra funktioner. De bär också med sig mycket av sina skapares mentalitet, värden, rädslor och begränsningar.

Bakom roboten står en golem och bakom båda dessa skapade varelser står vi själva. När Johansson i slutet konstaterar att robotiken ytterst fordrar att vi vänder blicken mot oss själva i ett antal grundläggande frågor om krig, värderingar, arbete och utveckling, är det både en utmaning och en insikt som fordrar att vi själva tar ställning till de frågor hon väcker.

Nicklas Lundblad

Adjungerad professor i innovation vid KTH och samhällspolitisk Europachef på Google