Recomendaciones para fortalecer la transparencia y combatir el sesgo en la IA médica

Tiempo de lectura: 2 minutos
Por Jamie Olivos
- en
Algoritmos de IA analizando datos médicos en una pantalla digital.

MadridLas innovaciones en inteligencia artificial médica abren posibilidades para mejorar diagnósticos y tratamientos. No obstante, nueva evidencia revela un problema grave: los sistemas de IA pueden presentar sesgos, lo que podría derivar en desigualdades en los resultados de salud. Abordar este problema es esencial para asegurar que todos se beneficien equitativamente de estas tecnologías. Recientemente, se publicaron recomendaciones clave en The Lancet Digital Health y NEJM AI. Elaboradas por más de 350 expertos de 58 países como parte de la iniciativa internacional STANDING Together, estas directrices buscan mejorar la diversidad de datos y detectar sesgos potenciales.

El consejo se centra en pasos clave para garantizar la equidad en el uso de IA en la atención médica.

  • Uso de conjuntos de datos de salud que incluyan a todas las demografías, particularmente a grupos minoritarios y desatendidos.
  • Fomentar que los editores de datos revelen los sesgos y limitaciones que puedan existir en los mismos.
  • Facilitar herramientas que permitan a los desarrolladores evaluar la idoneidad de los conjuntos de datos para el desarrollo de inteligencia artificial.
  • Describir métodos para probar rigurosamente los sistemas de inteligencia artificial en busca de sesgos en diferentes segmentos de la población.

Comprender que los datos pueden tener sesgos es solo el primer paso. Las tecnologías de IA deben ser probadas exhaustivamente para garantizar que funcionen bien para diferentes tipos de personas. Esto requiere cambiar la forma en que recopilamos y revisamos los conjuntos de datos. La Dra. Xiao Liu, que lidera el estudio, señala que mejorar simplemente los datos no es suficiente. Se necesita un cambio fundamental en la manera de interpretar y utilizar los datos de salud.

La iniciativa destaca la importancia de la participación pública en la creación de IA ética. Los representantes de los pacientes proponen que integrar las opiniones del público puede hacer que el proceso de desarrollo sea más inclusivo. Esto facilita la conexión entre los científicos y las personas afectadas por las tecnologías de IA, reduciendo la posibilidad de pasar por alto problemas importantes o causar daños no intencionados.

Principales organizaciones de salud y reguladores de diversos países destacan la necesidad urgente de abordar el sesgo de la inteligencia artificial a nivel mundial. Al establecer estándares ahora, buscan abordar problemas de disparidad antes de que las herramientas de IA se vuelvan más comunes en los sistemas de salud. Las directrices de STANDING Together ofrecen un plan para crear IA médica responsable y equitativa, garantizando que los beneficios de la tecnología se compartan de manera justa y fomenten la confianza entre diferentes comunidades.

El estudio se publica aquí:

http://dx.doi.org/10.1016/S2589-7500(24)00224-3

y su cita oficial - incluidos autores y revista - es

Joseph E Alderman, Joanne Palmer, Elinor Laws, Melissa D McCradden, Johan Ordish, Marzyeh Ghassemi, Stephen R Pfohl, Negar Rostamzadeh, Heather Cole-Lewis, Ben Glocker, Melanie Calvert, Tom J Pollard, Jaspret Gill, Jacqui Gath, Adewale Adebajo, Jude Beng, Cassandra H Leung, Stephanie Kuku, Lesley-Anne Farmer, Rubeta N Matin, Bilal A Mateen, Francis McKay, Katherine Heller, Alan Karthikesalingam, Darren Treanor, Maxine Mackintosh, Lauren Oakden-Rayner, Russell Pearson, Arjun K Manrai, Puja Myles, Judit Kumuthini, Zoher Kapacee, Neil J Sebire, Lama H Nazer, Jarrel Seah, Ashley Akbari, Lew Berman, Judy W Gichoya, Lorenzo Righetto, Diana Samuel, William Wasswa, Maria Charalambides, Anmol Arora, Sameer Pujari, Charlotte Summers, Elizabeth Sapey, Sharon Wilkinson, Vishal Thakker, Alastair Denniston, Xiaoxuan Liu. Tackling algorithmic bias and promoting transparency in health datasets: the STANDING Together consensus recommendations. The Lancet Digital Health, 2024; DOI: 10.1016/S2589-7500(24)00224-3

Inteligencia Artificial: Últimas noticias

Compartir este artículo

Comentarios (0)

Publicar un comentario
NewsWorld

NewsWorld.app es un sitio de noticias premium gratuito. Proporcionamos noticias independientes y de alta calidad sin cobrar por artículo y sin un modelo de suscripción. NewsWorld cree que las noticias generales, de negocios, económicas, tecnológicas y de entretenimiento deberían ser accesibles a un alto nivel de forma gratuita. Además, NewsWorld es increíblemente rápido y utiliza tecnología avanzada para presentar artículos de noticias en un formato altamente legible y atractivo para el consumidor.


© 2024 NewsWorld™. Todos los derechos reservados.