Ny studie från UCL avslöjar hur AI förstärker mänskliga fördomar och skapar ojämlikhet

StockholmForskare vid UCL har upptäckt att artificiell intelligens (AI) ofta speglar och förstärker mänskliga fördomar. Detta är betydelsefullt eftersom studien visar att användningen av sådan fördomsfull AI kan öka människors egna fördomar. Dessa fördomar förstärks genom cykler där små fördomar i den ursprungliga datan växer när människor interagerar med AI. Studien, som publicerats i Nature Human Behaviour, betonar hur AI har en stor påverkan på samhällstänkandet.

Deltagare i olika experiment uppvisade mer fördomar efter att ha använt AI. Forskare upptäckte denna trend genom sina studier.

• Deltagare var mer benägna att uppfatta ansikten som ledsna när de tränats med ett AI-system som förstärkte denna fördom.
• Det fanns en ökad tendens att överskatta mäns prestationer efter exponering för AI med könsfördomar.
• Exponering för AI-genererade bilder ökade sannolikheten för att associera vita män med högstatusyrken, särskilt inom områden som finansförvaltning.

Snedvridna data leder till snedvridna AI-system, vilket påverkar hur människor tänker och bidrar till ännu mer fördomar. Detta är ett problem inom många områden, som vid anställningar och vardagliga sociala interaktioner, där AI-förslag kan påverka människors beslut på ett orättvist sätt.

Läs också:

10 februari 2025 · 15:47

AI tar över: Automatiseringens påverkan på IT-jobb i USA

Människor tror ofta att AI är mer exakt än människor, vilket gör att de litar på resultatet utan att ifrågasätta det. Denna felplacerade tillit kan få fördomar att sprida sig ännu djupare i samhället. Till exempel, när AI felaktigt visar vissa grupper oftare i arbetsrelaterade bilder, kan det påverka hur folk uppfattar dessa yrken.

Forskningen visar att AI-system kan förbättra människors beslutsfattande när de är tillförlitliga och fria från partiskhet. Det är viktigt att utvecklare skapar balanserade algoritmer. Utvecklingen av AI-system bör koncentreras på att vara exakta och rättvisa för att bättre tillgodose samhällets behov.

AI kommer att spela en allt större roll i våra liv. Det är viktigt för dem som utvecklar AI att lösa problem med orättvisor så att tekniken bidrar till samhällets framsteg, istället för att hålla oss tillbaka. När AI blir allt vanligare bör vi vara medvetna om hur det påverkar våra uppfattningar och försöka minimera eventuella negativa effekter. Ansvar vilar både på de som skapar dessa system och på de användare som utnyttjar dem.