Artikelserie om övervakning i arbetslivet och maktens nya uttryck
Del 5: Om konsten att påverka teknik i rörelse
– av Maja Fjaestad
Framtidstekniken är aldrig neutral. Det är ett mänskligt drag att automatiskt tillskriva ny teknik positiva egenskaper: den teknik som känns ny, lovande och modern vill vi gärna också beskriva som automatiskt god, något som ska bringa positiva nyheter till mänskligheten.
Vi har sett det ske med kärnkraft, med nya transportslag, med digitalisering, med internet. Berättelsen om framtiden är kraftfull, och kan också handla om att föra fram ett narrativ där viss teknik framstår som oundviklig. Gemensamt för dessa framtider är att de handlar om makt, och om hur makt förskjuts av ny teknik.
Ofta leder tekniska genombrott till nya livsbetingelser, men knappast automatiskt. Tvärtom betonar modern teknikforskning viken av att se teknik som integrerad i en samhällelig helhet.
Historikern Melvin Kranzberg har formulerat något han kallade teknikhistoriens första lag: Teknik är varken god eller ond – men inte heller neutral. Med det menade han att värderingar, både medvetna och omedvetna, byggs in i teknik. Det gäller både när hushållsteknik designas med ett feminint formspråk och när ansiktsigenkänningsalgoritmer har svårt att identifiera icke-vita ansikten.
När och hur kan teknik påverkas?
Man pratar ibland om Collingridge-dilemmat som beskriver ett grundläggande problem i teknikpolitik: i ett tidigt skede av en tekniks utveckling är tekniken möjlig att styra, men då vet man ännu endast lite om dess framtida konsekvenser. När tekniken är brett implementerad vet vi vilka dess samhällskonsekvenser är, men den är svårare att förändra eller reglera. Poängen är att det är klokt att i ett tidigt skede undersöka och ifrågasätta en tekniks samhällspåverkan, och att agera för att utforma och använda teknik för samhällsnytta redan i detta stadium.
AI och det digitala imperativet
AI är en kraftfull framtidsbild – eller snarare är det en framtid som redan är här. Konsekvenserna av den nya tekniken är ännu svåra att förutse, och att AI laddas med de värderingar och maktbalanser som dagens samhälle präglas av ser vi gång på gång.
Beskrivningen av AI-framtiden som oundgänglig knyts ofta till en diskurs som ibland kallas ”det digitala imperativet” (Wormbs 2010) med innebörden att utvecklingen måste gå vidare – som att teknikutvecklingen drivs av sig själv, som av en naturlag, och innovation står över andra legitima intressen. Från olika håll lyfts i dessa sammanhang uppfattningen att reglering – som exempelvis omfattande säkerhetsskydd – hindrar innovation. Den debatten innehåller många felslut. Tvärtom innehåller teknikhistorien många exempel på hur reglering har gett incitament för innovation. Och det finns också legitima avvägningar – även ifall hastighetsbegränsningar skulle hindra utvecklingen av snabba motorer ser vi inte det i sig som ett övervägande argument för helt fri fart på våra vägar.
Privat och offentlig makt i det digitala samhället
Övervakning och kontroll utförs både av stater och av privata aktörer. Frågan om maktförskjutning i och med ny teknik är temat i boken The Tech Coup: How to Save Democracy from Silicon Valley.
Schaake pekar på hur teknikföretag utöver att utöva stor ekonomisk makt kliver in i roller som normalt sett utförs av demokratiskt valda organ: från cybersäkerhet till system som används för polisarbete, val och militär försvarspolitik. Hon pekar till exempel på den privata underrättelsesektorn som säljer spionprogram som ger möjligheten att hacka sig in i andra människors enheter och som upphandlas av säkerhetspolisen. De som har de ekonomiska resurserna kan alltså komma åt underrättelsetjänsternas möjligheter och hacka sig in i privata information från politiska motståndare, domare, journalister, kritiska medarbetare, konkurrenter eller andra. Befogenheter som tidigare var statens exklusiva domän finns idag i händerna på privata företag, men utan de kontroller och balanser som är eftersträvansvärda i ett rättssamhälle. När regeringar outsourcar fler och fler kritiska statliga funktioner till teknikföretag, undviker de också offentligt ansvar, och vi har också sett i svenska exempel hur offentlighetsprincipen rundas när privata företag utför statligt arbete och försvårar möjligheten för exempelvis medial granskning.
I vintras blossade en debatt upp om användning av Palantir – ett amerikanskt AI-bolag som utvecklar system för att samla in och analysera data om människor åt bland annat myndigheter och säkerhetsaktörer. Det har rapporterats att ICE använder Palantir för att söka upp migranter i USA, och den svenska diskussionen handlade om att försvarsmakten och polisen tittat på att använda verktyget. Samtidigt som ordningsmakten förstås ska ha tillbörliga verktyg måste staten kunna garantera att känslig data inte hamnar i kommersiella aktörers händer.
Övervakning som maktuttryck
Övervakning är en form av makt, och har använts av allehanda regimer och mäktiga organisationer under århundradena. Precis som Marietje Schaake visar i sin analys av hur stater gradvis överlåter centrala samhällsfunktioner till stora teknikföretag sker denna maktförskjutning i stegvis och utan tydliga beslut i andra sektorer. I arbetslivet innebär det att övervakning, styrning och bedömning flyttas in i tekniska system som varken är transparenta för arbetstagaren eller fullt ut ansvarsbärande för arbetsgivaren – med konsekvensen att grundläggande maktbalanser förändras i det tysta. Övervakning i arbetslivet är också ett maktuttryck.
På samma sätt som det finns en asymmetri mellan arbetstagare och arbetsgivare finns det också en asymmetri mellan den enskilda internet- eller enhetsanvändaren och teknikföretagen. Varken tillgång till data eller övervakning är frågor med enkla lösningar.
En ljus algoritmisk framtid – ifall vi skapar den så
Men den tekniska framtiden innehåller också en rad ljuspunkter och möjligheter till ökad demokratisering. Den transparens som finns i digitala system kan lika gärna sättas i den lilla människans tjänst. Precis som vi kräver juridisk tydlighet, ansvarsutkrävande och transparens i andra delar av samhället bör samma principer gälla när makt utövas genom digitala system – i arbetslivet såväl som i staten.
Vi kan misströsta över att den data som omger oss är full av bias men häri ligger också en möjlighet: att AI och algoritmer kan, rätt utformade, bidra till att reducera vissa former av bias genom att ersätta godtyckliga och relationsbaserade mänskliga bedömningar med transparenta kriterier. Algoritmiska system minska effekter av individuell partiskhet – vänskapsband, fördomar eller diskriminerande antaganden. Men det bygger på att vi fattar aktiva beslut om att de ska göra det – om vi vill att algoritmerna ska främja demokrati, mångfald och hållbarhet istället för att reproducera befintlig bias. Makten att lägga in krav om att aktivt motarbeta diskriminering i koden ligger hos oss som utformar och beställer algoritmer.
Utan riktning riskerar teknik att reduceras till ett självändamål, styrt av kortsiktiga preferenser snarare än av demokratiska och mänskliga mål. När vi däremot klargör vilka slutvärden vi vill förverkliga – som frihet, rättvisa, hållbarhet och människovärde – blir tekniken ett medel i ett politiskt projekt: ett verktyg för att forma det samhälle vi vill leva i. Vi som medborgare, arbetstagare och internetanvändare har mycket att lära sig av 1900-talets fackliga historia, när arbetarna organiserade sig i fackföreningar. Kanske behöver vi just organisera oss för att tekniken ska styras mot det samhälle vi vill ha.
Maja Fjaestad
adjungerad professor vid Luleå tekniska universitet och docent i teknikhistoria.
Litteratur:
Wormbs, Nina (2010).
”Det digitala imperativet”. I Jonas Andersson & Pelle Snickars (red.), Efter The Pirate Bay, Mediehistoriskt arkiv 19, s. 140–150.
Schaake, Marietje (2024).
The Tech Coup: How to Save Democracy from Silicon Valley.
Princeton: Princeton University Press.
Austad Asser, Elisabeth. (2025).
Teknologiens makt: Hvordan kunstig intelligens forfører, frister og utøver makt – og hva vi kan gjøre med det. Cappelen Damm
Kranzberg, Melvin (1986).
“Technology and History: ‘Kranzberg’s Laws.’” Technology and Culture 27, no. 3 (1986): 544–60. https://doi.org/10.2307/3105385.
Om artikelserien
Futurion har bett fem skribenter att dela aktuella perspektiv på övervakning och integritet i arbets- och samhällslivet. Syftet är att synliggöra maktens nya uttryck i en allt mer datadriven vardag där gränserna mellan kontroll, trygghet och frihet är under omvandling.