Estudo da UCL revela: IA amplia preconceitos humanos e transforma comportamentos sociais

São PauloPesquisadores da UCL descobriram que sistemas de inteligência artificial (IA) frequentemente refletem e ampliam os preconceitos humanos. Isso é relevante porque o estudo mostra que o uso de IA com viés pode tornar as pessoas ainda mais tendenciosas. Esses preconceitos se intensificam em ciclos, onde pequenos vieses nos dados originais se tornam maiores à medida que as pessoas interagem com a IA. O estudo, publicado na Nature Human Behaviour, destaca o impacto significativo da IA na forma como a sociedade pensa.

Título: Aumento no Viés com o Uso de IA

Texto: Os participantes de diversos experimentos demonstraram um aumento no viés após utilizarem a inteligência artificial. Essa tendência foi identificada pelos pesquisadores em seus estudos.

Participantes foram mais propensos a perceber rostos como tristes quando treinados em um sistema de IA que amplificava esse viés. Houve uma tendência aumentada de superestimar o desempenho dos homens após a exposição a uma IA com viés de gênero. A exposição a imagens geradas por IA aumentou a probabilidade de associar homens brancos a empregos de alto status, especialmente em profissões como a gestão financeira.

Leia também:

8 de fevereiro de 2025 · 18:24

Gigantes da tecnologia em guerra: a batalha da IA começou

Dados tendenciosos geram IA tendenciosa, influenciando o pensamento das pessoas e perpetuando ainda mais o preconceito. Isso é problemático em diversas áreas, como na contratação de funcionários e nas interações sociais cotidianas, onde as sugestões da IA podem influenciar injustamente as decisões das pessoas.

A confiança excessiva nas capacidades da inteligência artificial leva as pessoas a aceitarem seus resultados sem questionar, acreditando que sejam mais precisos do que os alcançados por humanos. Essa confiança equivocada pode intensificar a propagação de preconceitos na sociedade. Por exemplo, se a IA apresenta determinadas imagens de grupos específicos relacionadas a empregos de forma errada, isso pode influenciar percepções acerca dessas profissões.

Pesquisas indicam que sistemas de IA podem aprimorar a tomada de decisões humanas quando são precisos e sem preconceitos. É crucial que os desenvolvedores criem algoritmos equilibrados. O desenvolvimento de IA deve priorizar a precisão e a equidade para atender melhor às necessidades da sociedade.

A importância da inteligência artificial (IA) em nossas vidas está crescendo. É crucial que aqueles que desenvolvem IA corrijam qualquer injustiça, permitindo que a tecnologia nos ajude a progredir como sociedade, em vez de nos atrasar. À medida que a IA se torna mais acessível, devemos observar como ela influencia nossas percepções e mitigar quaisquer impactos negativos. Tanto os criadores desses sistemas quanto os usuários precisam assumir a responsabilidade por isso.