Fjärde delen i Spaningar från Silicon Valley
The Blind Spots
Algoritmernas blinda fläckar – när AI-revolutionen glömmer halva mänskligheten
AI beskrivs ofta som ett tekniskt problem: bättre data in, bättre beslut ut. Men i praktiken handlar det om något helt annat. När AI nu börjar styra allt från rekrytering till produktutveckling växer en obekväm insikt fram: systemen speglar inte bara världen som den är – de riskerar att förstärka vem som får plats i den. Och i vissa fall avgör de också vem som inte får det.
Att AI-system kan bli skeva är inget nytt. Forskning från bland annat Stanford och MIT har gång på gång visat samma sak: modellerna lär sig av den data – och de människor – som bygger dem. Och när både 
datan och teamen är snävt sammansatta, blir resultaten därefter. Det här är inte en teoretisk risk – utan något som redan fått konsekvenser. I den uppmärksammade “Gender Shades”-studien testades ansiktsigenkänningssystem från flera stora techbolag. Resultatet var slående: felmarginalen var upp till 34 procent för mörkhyade kvinnor – jämfört med under 1 procent för ljushyade män. Sådana brister har i verkligheten lett till att människor pekats ut som misstänkta.
I februari 2023 blev Porcha Woodruff, då höggravid i åttonde månaden, gripen av polis i sitt hem i Detroit. Anklagelsen gällde ett rån hon inte begått; algoritmen hade trampat helt fel. Fallet blev snabbt ett skräckexempel. Samma mönster går igen på arbetsmarknaden. Amazons rekryteringsverktyg
fick skrotas efter att den systematiskt sorterat bort kvinnliga kandidater, helt enkelt eftersom modellen tränats på historisk data från en mansdominerad bransch.
Samtidigt visar forskning från MIT att team med större mångfald inte bara är mer rättvisa – utan också bygger mer träffsäkra och robusta system. Fler perspektiv gör att blinda fläckar fångas upp innan de
hinner bli problem. Men, i praktiken är sådana team fortfarande undantag, inte regel.
Kort sagt: skev AI är inte en hypotetisk risk. Den är redan här.
Läs The Blind Spots »
Om serien ”Spaningar från Silicon Valley”
Den artificiella intelligensen har på kort tid revolutionerat våra liv, men digitaliseringen av vårt samhälle har pågått under en mycket längre tid än så. De kvinnor som har haft oumbärliga roller för digitaliseringen genom historien får inte den uppmärksamhet de förtjänar för sina insatser och i dag är det män som utvecklar och driver de radikala innovationerna inom exempelvis artificiell intelligens. För att förstå vilka problem det leder till och hur vi kan se till att undvika dem i framtiden, tog jag initiativet till antologin ”Felkod kvinna”.
Futurion har också uppmärksammat hur AI förändrar spelplanen för unga. Det handlar inte bara om teknik, utan om vem som får chansen att komma in, bygga erfarenhet och börja ett arbetsliv. Forskning från Örebro universitet bekräftar nu att unga tappar mark i AI-exponerade yrken, medan äldre gynnas. Samtidigt visar Futurions mätningar att många unga inte tror att politiken riktigt fattar vad som håller på att hända.
Tillsammans behöver vi ändra på det. Ett sätt är att spana med hjälp av journalisten Katarina Andersson, som är baserad i San Francisco – mitt i miljön där AI-utvecklingen, arbetslivstrenderna och de kulturella skiftena faktiskt sker.
Ann-Therése Enarsson, vd, Futurion
Om författaren
Katarina Andersson är frilansjournalist och har bevakat digitaliseringfrågor i många år. Hon har bland annat jobbat som techkorrespondent för Aftonbladet i San Francisco, producerat radioserier om samhällets digitalisering för Sveriges Radio och frontat techsajten Breakits podd och liveshow.
Mer i serien ”Spaningar från Silicon Valley”
Del 1: New Faces of AI-power »
Del 2: The Fixers »
Del 3: The Quitters »
Del 4: The Blind Spots »
