Digital sophantering

Sociala medier och andra kommersiella plattformar är kraftfulla instrument för information. kommunikation, lärande och underhållning, men undervegetationen är djup och vidsträckt. Vid sidan av välorganiserad propaganda och falska nyheter finns också allt det som internetanvändare själva laddar upp.

Ingen böjelse eller världsuppfattning är för förvirrad, frånstötande eller galen för att dess utövare eller förespråkare som förr, om inte annat av social självbevarelsedrift, ska behöva huka ensamma i skuggorna. I den globala, digitala tiden finner såväl rasister och terrorister som sadister, pedofiler, homofober och konspirationsteoretiker mängder av likasinnade på nätet. Det blir en bekräftelse på att de inte är så avvikande som den ”politiskt korrekta” omgivningen vill göra gällande. Vadhelst som jäser i det mänskliga psykets bottensats kan publiceras. Traditionella journalistiska kontrollstationer och filter i form av redaktör och ansvarig utgivare uppfattas som förlegade hinder.

Hos de stora kommersiella plattformarna för sociala medier och andra online-tjänster kämpar renhållningsarbetare – så kallade innehållsmoderatorer – en ojämn kamp för att skyffla bort det värsta av hat, hot, våld och porr i den ändlösa tsunamin av användargenererade inlägg och klipp. Det är ett osynligt lågstatusarbete i en industri som uppskattningsvis sysselsätter omkring 100 000 människor, mestadels som underbetalda kontraktsanställda.

För bara några år sedan förnekade stora företag inom sociala medier att de anlitade moderatorer, men med tiden avslöjades skandaler som omöjliggjorde fortsatt hemlighållande. Där var videor av mord på Facebook, övergrepp på barn på Youtube, fake news och vilseledande väljarpåverkan. Men företagen är fortfarande förtegna kring moderatorerna, och dessa har tystnadsklausuler i sina kontrakt.

Grindvakternas uppgift är i grunden att se till att varumärken som Facebook, Youtube, Instagram och Twitter och deras annonsörer inte solkas alltför mycket, och varje plattform har sina egna normer för vad som är acceptabelt och inte. ”Normala” användare ska helst slippa se mord, våldtäkter och sadism.

Det är ett sisyfosarbete som pågår dygnet runt, och volymerna antyder omöjligheten i att upprätthålla en anständig nivå. Moderatorerna tar ställning till inlägg och klipp som anmälts som stötande av andra användare, men också sådant som sållats fram av företagets algoritmer.

I boken Behind the Screen belyser Sarah T Roberts denna okända värld, och kärnerfarenheterna i boken är något som var och en som är aktiv på sociala medier borde ta del av. Man önskar bara att författaren hade koncentrerat innehållet, de viktiga upplysningarna och lärdomarna ligger inbäddade i prat och överflödiga beskrivningar. Det är belysande att det obligatoriska ”tack”– avsnittet, ”acknowledgments”, även efter amerikanska förhållanden är smått absurt: 18 sidor.

Roberts är lektor i informationsstudier vid University of California i Los Angeles (UCLA), och har i åtta år studerat verksamheten i de sociala mediernas reningsverk, såväl i Silicon Valley som i Filippinerna. Hon finner en industri där unga, underbetalda granskare med klen eller ingen anställningstrygghet exploateras och utsätts för starka psykologiska påfrestningar när de tvingas bada i strömmen av mer eller mindre chockerande material. Mord, tidelag, tortyr, sexuella övergrepp och hatutbrott; moderatorn måste hela tiden vara beredd på vad som helst. När attentatsmannen i Christchurch på Nya Zeeland i mars 2019 direktsände sin moskéattack då 51 människor mördades tvingades Google och Facebook radera miljoner kopior av klippet.

En moderator inom sociala medier ska först avgöra om inlägget strider mot lagen eller plattformens regelverk, och i så fall varför. Motivering och åtgärd bedöms och poängsätts av arbetsgivaren. Den anställde förväntas fatta hundratals eller tusentals beslut per skift. Företagens kriterier för vad som får och inte får förekomma kan vara extremt specificerade, vilket också bäddar för misstag.

”När attentatsmannen i Christchurch direktsände sin moskéattack tvingades Google och Facebook radera miljoner kopior av klippet.”

Genom intervjuer söker Roberts få en bild av de psykologiska konsekvenserna av att ägna arbetsdagen åt att studera det mest anstötliga och våldsamma som människor delger världen. Somliga moderatorer svarar att det inte bekommer dem, andra vittnar om drogbruk på fritiden, beteendestörningar och depressioner. Någon äcklas av människor och lever numera isolerat. Många står inte ur med sysslan i mer än ett år. Före detta Facebookmedarbetare säger sig ha drabbats av psykiska trauman på grund av arbetet och har stämt företaget.

Moderatorer kan vara anställda av och verksamma hos de stora kommersiella plattformarna, men huvuddelen av dem arbetar för underleverantörer under dåliga förhållanden vad gäller lön, anställningstrygghet och sociala förmåner. En stor andel av dem arbetar hemifrån och får betalt per granskning. De är likt många teletjänstcentraler spridda över hela världen. Exempelvis har företaget Accenture, som levererar moderatortjänster till Facebook, verksamhet i över 120 länder.

Outsourcingen sker dels av löneskäl, dels därför att det krävs olika språkkunskaper och insikter i kulturell kontext på de skiftande marknaderna. Sexuella övergrepp på barn tas självklart bort, men i till exempel Saudiarabien åker också en strandbild med kvinnor i bikini ut med samma automatik.

Det är sällan nödvändigt att studera videoklipp in extenso, moderatorn gör oftast bedömningen utifrån ett antal stillbilder, ”thumbnails”. Avrättningar och blodiga krigsbilder kan bli kvar om de anses ha relevans och inte enbart lagts ut i sensationssyfte, men det ställer ofta krav på politiska och historiska kunskaper som många yngre moderatorer inte har.

Genom att studera de sociala mediernas slutna värld söker Roberts också se vad som händer när det offentliga samtalet alltmer flyttas över till dessa plattformar. Yttrandefrihet existerar inte på nätet, utom möjligen på den egna bloggen. Vi rör oss på privatägda plattformar som styrs av värderingar vi inte känner till. Deras användarvillkor, ”terms and conditions”, godkänns av alla men läses av ingen. Skälet till att de minutiöst detaljerade reglerna oftast skrivs med uteslutande versaler kan knappast vara något annat än att de ska vara extremt svårlästa.

”Du kan gå omkring naken i ditt hem”, säger en moderator för att illustrera graden av frihet på nätet, ”men du kan inte gå omkring naken på Walmart. Det är samma sak.”

Moderatorernas – eller snarare censorernas – arbete kan också innefatta varumärkesvård, krishantering för företag i blåsväder och anonym, kommersiell styrning hos verksamheter som inte primärt arbetar med internettjänster, men som har mycket trafik på sina fora. En moderator kan rensa bort oönskat innehåll och kritik, och lägga in egna kommentarer under sken av att vara en vanlig kund. Då är det viktigt att det inte bara blir positiva omdömen, känslan av autenticitet måste upprätthållas. Nätet är ett gungfly; kommentarer, debattinlägg, gillamarkeringar, följare och recensioner – allt är till salu.

Till det mest oroväckande med de sociala medierna hör deras potential för massiv politisk påverkan genom förmedling av propaganda och falska nyheter. USA under den flitigt twittrande Donald Trump är en häxkittel i sammanhanget, med Cambridge Analytica-skandalen som ett exempel. I oktober meddelade Facebook att man hade stängt fyra ”kampanjer” med ursprung i Ryssland och Iran, varav åtminstone en var ägnad att påverka det amerikanska presidentvalet 2020. Den verkade genom 50 Instagramkonton och ett Facebookkonto med en kvarts miljon följare, och hann publicera nära 75 000 inlägg. Den ryska ”trollfabriken” Internet Research Agency misstänks ligga bakom, med lång erfarenhet av försåtliga masskampanjer.

Andra exempel är den våldsamma förföljelsen av minoriteten rohingyer i Myanmar, som har eldats på av hatkampanjer på Facebook. Och valet av Jair Bolsanaro till Brasiliens president föregicks av massiv smutskastning av hans motståndare på sociala medier.

Att privatägda, extremt resursstarka aktörer styr opinioner och devalverar demokratin, att företag som Google och Facebook så till den grad har kommit att genomsyra våra liv, är något som de flesta tycks ta med ro. Våra sökningar, val, preferenser och surfvanor registreras och säljs i den anonyma och slutna ”uppmärksamhetsindustri” som på drygt ett decennium lyckats göra den smarta telefonen till en integrerad del av den moderna människan.

Det är vi som användare som är råvaran i denna industri, och det är svårt att peka på någon annan kulturförändring som har varit så snabb och genomgripande. Riktad men ovälkommen reklam kan synas relativt harmlös, men i en annan politisk kontext skulle detta finmaskiga nät som fångar upp information om medborgarna kunna bli en mardröm.

Internetstiftelsens intervjuundersökning ”Svenskarna och internet” innehåller en del förbryllande och motsägelsefulla uppgifter. 86 procent av den vuxna befolkningen har en smart telefon, och nästan hälften känner sig övervakade på internet. Ändå använder 65 procent dagligen sociala medier – men bara en fjärdedel upplever den tiden som meningsfull. Det säger möjligen något om mobiltelefonens förmåga att skapa beroende genom de signalsubstansstyrda belöningskickar som utlöses av nya uppdateringar och gillamarkeringar.

Möjligheten att reglera flödet för att i förväg granska uppladdat material är inget som de stora plattformarna överväger. Ständig påfyllning av nytt innehåll är vad som lockar besökare att ideligen återvända, vilket i sin tur är förutsättningen för att attrahera annonsörer. Och behovet av moderatorer förutspås växa rejält.

”Om man öppnar ett hål i internet”, säger en före detta moderator, ”så fylls det med skit.”