Hjärnsläpp

Alla som spelar schack mot en dator vet att datorn inte nödvändigtvis måste vara oslagbar men i vissa avseenden är den alltid överlägsen. Den är snabb. Den kan också hantera enorma mängder information även om dess förmåga att bedöma materialet är bristfällig. Människan är förvisso också reaktionssnabb, vässad till överlevare av de evolutionära krafterna. På sätt och vis lever hon dock osynkroniserad med sin egen kropp. När hjärnan uppfattar en situation som farlig tar det bara 50–150 millisekunder för musklerna att reagera. Först ett par hundra millisekunder efter det att hennes kropp börjat springa eller gå i försvarsställning blir människan medveten om situationen.

Tänk om man kunde sammansmälta det bästa hos en maskinintelligens med det bästa hos människan? Det är en tanke som inte minst lockar militärer. På internetsajten för amerikanska Darpa (Defence Advanced Research Projects Agency) presenteras många projektförslag på detta område helt öppet, låt vara att man då gärna betonar den civila nyttan. Förslagen ligger inom ramen för vad som kan vara tekniskt realiserbart. Hemlighetsmakeriet börjar förmodligen inte förrän den dag man börjar satsa resurser på att utforska en idé.

När det gäller militär information har utvecklingen varit explosionsartad, inte minst sedan man började arbeta med drönare. Det har hävdats att antalet bilder inhämtade av militären har ökat med 3 500 procent under 2000-talets första decennium. På slagfältet har man ingen tid på sig; man måste ta så snabba beslut som möjligt. Hur får man den ekvationen att gå ihop?

Så här kan det enligt Darpas förslagsställare gå till. En stridsvagn rullar in i ett sönderbombat stadsområde där det ännu kan finnas motståndsfickor. Fordonets kameror tar sekundsnabbt mängder av bilder. Många av dem kommer datorerna helt enkelt att sortera bort som ointressanta; de gör det grovjobb som i underrättelsejargongen kallas mowing the lawn. Det som är kvar Innehåller detaljer som föraren måste reagera på. Det är här neuroteknologin kommer in i bilden.

Föraren står i förbindelse med fordonets maskinintelligens. Han bär en hätta med detektorer som kontinuerligt avläser hans EEG. Eftersom varje hjärna är unik måste systemet utprovas individuellt innan det används i skarpt läge. Maskinintelligensen tränas att känna igen de mönster i förarens EEG som signalerar en fara eller något avvikande innan föraren hunnit bli medveten om detta.

I skarpt läge kommer föraren att i snabb följd se de bilder som är kvar efter datorns grovsortering. Han kommer inte att hinna undersöka dem och kommentera dem; meningen är att hans hjärna ska reagera. I sista stadiet finns det kvar en eller flera bilder som föraren måste granska medvetet och ta ställning till. Vad är det han ser? Är den en kvinna med en kvast eller en soldat med ett gevär? Är det ett hot? Är det ett legitimt mål? Ska han bomba? Ska han öppna eld?

Gregory Noll, professor i internationell rätt vid Lunds universitet, har intresserat sig för de neurala vapnens juridiska status. Det finns en pågående process med syfte att förbjuda kärnvapen och det finns konventioner som den i Ottawa som förbjuder användningen av vissa typer av minor. Men det finns inga förbud mot neurala vapen. Icke desto mindre berör dessa vapensystem de två principer som är tänkta att reglera krigföringen.

Den ena är urskiljningsprincipen: att krigshandlingar inte ska riktas mot civila utan enbart mot soldater. Den andra är proportionalitetsprincipen: man får inte handla så att antalet civila offer är större än den militära nyttan. Den senare är naturligtvis en rätt luddig princip som tolkas på många sätt. Den gemensamma nämnaren är att båda principerna baseras på mänskligt beslutsfattande.

– Men, säger Gregory Noll, det finns tekniker som hävdar att de kan bygga ett AI-system som är mycket bättre på att följa dessa principer än mänskliga beslutsfattare. Ett sådant system styrs inte av hämndkänslor och påverkas inte av stressen i en faktiskt stridssituation. Det kommer alltid att reagera i överensstämmelse med krigslagarna.

– Det finns naturligtvis inget att invända så länge man använder systemet på att ansvarsfullt sätt – inte så länge vi fokuserar oss på de tekniska prylarna. Men när vi tänker på den individ som lånat sin hjärna åt systemet kommer saken i en helt annan dager. För vad är det lagarna vill göra? De vill reglera hur vi uppför oss. Och för att göra det måste de också kunna påverka våra avsikter. När en befälhavare ger order om att angripa civilpersoner måste två förhållanden vara kända för en åklagare. Det första är att handlingen bryter mot krigslagarna. Det andra är att det hos befälhavaren finns ett sinnestillstånd som korrelerar med handlingen. Befälhavaren ville ge ordern att angripa civila.

Hur vet vi hurdant sinnestillståndet är hos en operatör i det neurala vapensystemet? Det är i sanning knepigt. Man måste avgöra var gränsen går mellan människa och maskin. Systemet säger: ”Vi såg något i din hjärna som indikerar en fara… är du inte övertygad? Låt oss fatta vårt beslut nu. Det gäller att vara snabb.”

Man ska ha is i magen för att i det läget våga tvivla och avstå från att handla. Man är ju bara en enkel soldat – inte kan man väl ifrågasätta en oerhört påkostad och avancerad maskinintelligens? Följaktligen öppnar man eld mot den där gruppen av män som dyker upp bakom en husruin. Men det var inte vapen de bar på utan spett och andra redskap nödvändiga för att rädda människor begravda under nedrasade murmassor. Civila hjälparbetare.

– Åklagaren har inte en lätt uppgift, konstaterar Gregory Noll. Om jag vore den anklagade skulle jag säga: ”Det var inte jag som bestämde mig för att skjuta, det var systemet som använde sig av mina hjärnvågor. Mina hjärnvågor är inte identiska med mig. De är inte heller identiska med mitt sinnestillstånd och mina avsikter.” Jag skulle förmodligen bli friad.

Om människan är den svagaste komponenten i systemet finns det två vägar att gå. Den ena är att helt enkelt bygga ett autonomt vapensystem utan mänsklig medverkan. Frågan är om någon skulle våga släppa lös en sådan maskin på slagfältet. Den andra utvägen har förelagts Darpa 2015. Istället för att låta en hjärna reagera på bilder har man flera hjärnor som gör det och som alla är inkopplade i systemet. Om fyra hjärnor indikerar fara och tre inte gör det drar systemet slutsatsen att fara föreligger.

– Den kollektiva dimensionen gör situationen ännu mera problematisk. Det finns i det här läget inte en ansvarig befälhavare som gett order. Vi behöver individer för att avgöra om en handling är ett krigsbrott, säger Gregory Noll.

Den mänskliga faktorn brukar ofta beskrivas som en svaghet i tekniska system. Men den mänskliga faktorn är på gott och ont. Den 23 september 1983 räddade kanske den mänskliga faktorn oss från ett tredje världskrig. En sovjetisk övervakningssatellit registrerade att fem landbaserade missiler avfyrats mot Sovjetunionen från amerikanskt territorium. Stanislav Petrov, en officer med ansvar för den militära övervakningen hade bara minuter på sig för att bestämma vad han skulle rapportera till sina överordnade. Det fanns inget som tydde på att något var fel med satelliten. Men Petrov fann det osannolikt att USA i händelse av en kärnvapenattack bara skulle avfyra fem missiler. Fastän han inte visste att det var ett falsklarm påstod han att så var fallet. Det visade sig senare att satelliten hade tolkat fem ljusreflexer på översidan av moln som en raketattack. Det här är ingen isolerad händelse. Det finns en rad ganska skrämmande episoder när avfyringsstationer för de interkontinentala missilerna snabbt har bemannats samtidigt som kärnvapenbestyckade B-52:or är uppe i luften. Radarsystemen har upptäckt en hotbild men det är tack vare människor i dessa system som man blåst faran över i tid.