Estudo propõe aumentar a transparência e combater o viés em inteligência artificial médica no Brasil

São PauloInovações em IA na medicina oferecem a possibilidade de melhorar diagnósticos e tratamentos. No entanto, novas evidências ressaltam um problema sério: sistemas de IA podem ser tendenciosos, levando a desigualdades nos resultados de saúde. Resolver esse problema é crucial para garantir que todos se beneficiem igualmente dessas tecnologias. Recentemente, recomendações importantes foram publicadas em The Lancet Digital Health e NEJM AI. Criadas por mais de 350 especialistas de 58 países como parte do projeto internacional STANDING Together, essas diretrizes visam melhorar a diversidade dos conjuntos de dados e identificar potenciais vieses.

O conselho destaca passos essenciais para garantir a justiça no uso de IA na área da saúde.

• Utilizar conjuntos de dados de saúde que incluam todas as demografias, abrangendo grupos minoritários e desfavorecidos.
• Incentivar os publicadores de dados a revelarem possíveis vieses e limitações em seus conjuntos.
• Oferecer ferramentas para que desenvolvedores avaliem a adequação dos dados para o desenvolvimento de IA.
• Descrever métodos para testar rigorosamente sistemas de IA quanto a vieses em diferentes segmentos populacionais.

Compreender que dados podem ter bias é apenas o primeiro passo. É necessário testar minuciosamente as tecnologias de IA para garantir que funcionem bem para diferentes grupos de pessoas. Isso exige uma mudança na forma como coletamos e analisamos os conjuntos de dados. Dr. Xiao Liu, que lidera o estudo, destaca que aprimorar os conjuntos de dados por si só não é suficiente. É preciso haver uma mudança fundamental na maneira como vemos e utilizamos os dados de saúde.

Leia também:

2 de fevereiro de 2025 · 20:32

A contaminação por chumbo na Grécia Antiga revela transições históricas e impactos sociais

A iniciativa destaca a importância da participação pública na criação de IA ética. Representantes de pacientes sugerem que incluir as opiniões do público pode tornar o processo de desenvolvimento mais inclusivo. Isso ajuda a conectar os cientistas com as pessoas impactadas pelas tecnologias de IA, reduzindo a possibilidade de negligenciar questões importantes ou causar danos não intencionais.

Grandes organizações de saúde e reguladores de diversos países estão destacando a necessidade urgente de enfrentar o viés da IA em nível global. Ao estabelecer normas desde já, eles objetivam resolver questões de desigualdade antes que as ferramentas de IA se tornem mais comuns nos sistemas de saúde. As diretrizes "STANDING Together" apresentam um plano para criar IA médica de maneira responsável e justa, garantindo que os benefícios da tecnologia sejam compartilhados de forma equitativa e construam confiança entre diferentes comunidades.