Teknikens under – och blunder

Fördelarna är många. Det går naturligtvis mycket snabbare att be en dator gå igenom allt kameraövervakningsmaterial och sedan låta en polis sålla och göra analysen. Men medvetenhet om att tekniken är ung och än så länge oprövad är central för att tekniken ska underlätta och inte skapa nya problem.

I senaste numret av Economist (10/4 2021) omskrivs hur dessa datorprogram redan i designen tränats på ett alltför snävt urval av människor. Genom en ofrivillig partiskhet blir verktyget trubbigt och felet har uppstått redan hos tillverkaren. Naturligtvis har detta gjorts omedvetet, men det får tragiska konsekvenser när ofärdig programvara används för att utreda brott och oskyldiga drabbas. Bör man då vänta med att tillämpa denna moderna teknik?

Ja, verkar flera av de stora techbolagen resonera. Amazon och Microsoft har slutat sälja tekniken till polis. Men att de fattar sådana beslut är också baserat på att inte förstöra varumärken. Det är också alltför förenklande att enbart skylla på tekniken.

I inslaget som SVT sände kan man sakna en större diskussion om hur maskin och människa kan fungera och bäst arbeta tillsammans. Varför litar vi blint på tekniken i sådana här fall? Och varför glömmer vi att liknande misstag med att bura in fel personer även gjorts av många människor? Vi är inte ofelbara – det är just människan som designat den smarta tekniken. Och den bjuder oss många möjligheter att minska felen.

Inom några veckor lanserar även svensk polis ansiktsigenkänning – just för att effektivisera polisarbetet. Gott så, tekniken kommer bara att förbättras med tiden och bli mer pålitlig och användbar i att snabbt identifiera kriminella. Men baksidan är att den skulle kunna användas för att övervaka och kontrollera människor.

I höstas skrev Forskning & Framsteg om ansiktsigenkänning och intervjuade Amanda Lagerkvist, docent i medie- och kommunikationsvetenskap vid Uppsala universitet, som leder ett tvärvetenskapligt forskningsprojekt om etiken kring sådana här frågor. Hon ser stora risker för den personliga integriteten och trycker på vikten av att föra resonemang om vad det innebär att vara människa i vår tid med AI och automation.

Med vår ökade användning och tilltro till tekniken behöver vi väga upp med grundläggande samtal om etik. Det ligger ett stort ansvar på både lagstiftare och Integritetsskyddsmyndigheten (f d Datainspektionen) att skapa förutsättningar för att vi ska använda tekniken på bästa sätt. Då kan vi använda AI för människans nytta och inte förstöra för det öppna, fria samhället.