KI verstärkt menschliche Vorurteile: Neue Studie zeigt gefährlichen Einfluss auf die Gesellschaft.

BerlinKI-Studie deckt Verstärkung menschlicher Vorurteile auf

Forschende der UCL haben herausgefunden, dass künstliche Intelligenz (KI) oft menschliche Vorurteile widerspiegelt und verstärkt. Dies ist bedeutsam, da die Studie zeigt, dass der Einsatz von voreingenommener KI Menschen noch voreingenommener machen kann. Diese Vorurteile verstärken sich in Zyklen, bei denen kleine Vorurteile in den ursprünglichen Daten durch die Interaktion mit KI größer werden. Die im Fachjournal Nature Human Behaviour veröffentlichte Studie hebt hervor, welchen großen Einfluss KI auf das gesellschaftliche Denken haben kann.

Teilnehmer in verschiedenen Experimenten zeigten nach der Nutzung von KI mehr Vorurteile. Forscher entdeckten diesen Trend durch ihre Studien.

• Teilnehmer neigten eher dazu, Gesichter als traurig wahrzunehmen, wenn sie auf ein KI-System geschult wurden, das diese Verzerrung verstärkte.
• Nach der Exposition gegenüber geschlechterverzerrter KI war eine erhöhte Tendenz zu beobachten, die Leistungen von Männern zu überschätzen.
• Die Nutzung KI-generierter Bilder führte dazu, dass weiße Männer häufiger mit hochrangigen Berufen, insbesondere im Bereich des Finanzmanagements, assoziiert wurden.

Voreingenommene Daten führen zu voreingenommener KI, was daraufhin die Denkweise der Menschen beeinflusst und zu noch mehr Voreingenommenheit führt. Dies ist ein Problem in vielen Bereichen, wie zum Beispiel bei der Einstellungsentscheidung oder im Alltag bei sozialen Interaktionen, wo KI-Empfehlungen die Entscheidungen der Menschen ungerecht beeinflussen könnten.

Lesen Sie auch:

3. Februar 2025 · 01:32

Bleivergiftung im antiken Griechenland: Einblicke in gesellschaftliche Veränderungen der Vergangenheit

Vertrauen in KI: Vorsicht vor versteckten Vorurteilen

Oftmals wird angenommen, dass Künstliche Intelligenz präziser ist als der Mensch, was dazu führt, dass ihre Ergebnisse ungeprüft akzeptiert werden. Dieses unkritische Vertrauen kann bestehende Vorurteile in der Gesellschaft vertiefen. Ein Beispiel: Wenn KI bestimmte Gruppen häufiger in beruflichen Kontexten darstellt, könnte dies die Wahrnehmung dieser Berufe bei den Menschen beeinflussen.

Untersuchungen zeigen, dass KI-Systeme die menschliche Entscheidungsfindung verbessern können, wenn sie präzise und unvoreingenommen sind. Daher ist es wichtig, dass Entwickler ausgewogene Algorithmen schaffen. Die Entwicklung von KI-Systemen sollte sich darauf konzentrieren, genau und fair zu sein, um den gesellschaftlichen Anforderungen besser gerecht zu werden.

Die Bedeutung von KI in unserem Leben wird zunehmen. Es ist entscheidend, dass diejenigen, die KI entwickeln, bestehende Ungerechtigkeiten beheben, damit KI uns als Gesellschaft voranbringt, anstatt uns zurückzuwerfen. Mit der zunehmenden Verbreitung von KI sollten wir darauf achten, wie sie unsere Ansichten beeinflusst, und versuchen, negative Auswirkungen zu minimieren. Sowohl die Entwickler dieser Systeme als auch die Nutzer müssen Verantwortung für diesen Prozess übernehmen.