Nieuwe studie: AI versterkt menselijke vooroordelen en beïnvloedt maatschappelijke denkpatronen sterk

AmsterdamOnderzoekers van UCL hebben ontdekt dat kunstmatige intelligentie (AI)-systemen vaak menselijke vooroordelen weergeven en versterken. Dit is van belang omdat het onderzoek aantoont dat het gebruik van bevooroordeelde AI mensen nog meer bevooroordeeld kan maken. Deze vooroordelen groeien in cycli waarin kleine vooroordelen in de oorspronkelijke data worden vergroot wanneer mensen met AI communiceren. Het onderzoek, gepubliceerd in Nature Human Behaviour, benadrukt hoe AI de manier waarop de samenleving denkt aanzienlijk kan beïnvloeden.

Deelnemers aan verschillende experimenten vertoonden meer vooroordelen na het gebruik van AI. Onderzoekers ontdekten deze trend via hun studies.

• Deelnemers zagen gezichten vaker als verdrietig wanneer ze werden getraind met een AI-systeem dat deze bias versterkte.
• Er was een grotere neiging om de prestaties van mannen te overschatten na blootstelling aan gender-vooroordelen van AI.
• Blootstelling aan door AI gegenereerde afbeeldingen vergrootte de kans op het associëren van blanke mannen met hoog aangeschreven banen, vooral in beroepen zoals financieel management.

Vertekende gegevens leiden tot vertekende AI, wat de denkwijze van mensen beïnvloedt en nog meer vooringenomenheid veroorzaakt. Dit probleem doet zich voor in veel gebieden, zoals bij het aannemen van personeel en in dagelijkse sociale interacties, waar AI-voorspellingen op oneerlijke wijze beslissingen van mensen kunnen sturen.

Lees ook:

10 februari 2025 · 15:47

AI neemt de overhand: impact op IT-banen in de VS

Mensen denken vaak dat AI nauwkeuriger is dan mensen, waardoor ze de resultaten zonder vragen accepteren. Dit blinde vertrouwen kan ervoor zorgen dat vooroordelen dieper in de samenleving doordringen. Zo kan AI bijvoorbeeld onterecht bepaalde groepen vaker in werkgerelateerde afbeeldingen laten zien, wat de publieke perceptie van deze beroepen kan beïnvloeden.

Uit onderzoek blijkt dat AI-systemen menselijke besluitvorming kunnen verbeteren wanneer ze nauwkeurig en onbevooroordeeld zijn. Het is essentieel dat ontwikkelaars evenwichtige algoritmen creëren. Bij de ontwikkeling van AI-systemen moet de nadruk liggen op nauwkeurigheid en eerlijkheid om beter aan de behoeften van de samenleving te voldoen.

AI zal een grotere rol gaan spelen in ons dagelijks leven. Het is essentieel dat ontwikkelaars van AI systemen oneerlijkheid aanpakken, zodat AI bijdraagt aan maatschappelijke vooruitgang, in plaats van ons terug te zetten. Naarmate AI alledaagser wordt, moeten we letten op hoe het onze opvattingen beïnvloedt en proberen eventuele negatieve gevolgen te verminderen. Zowel de ontwerpers van deze systemen als de gebruikers moeten hier verantwoordelijkheid voor nemen.