Nowe wytyczne przeciw uprzedzeniom w medycznej AI: klucz do uczciwej opieki zdrowotnej

WarsawInnowacje w medycynie oparte na sztucznej inteligencji otwierają nowe możliwości dla poprawy diagnostyki i terapii. Niemniej jednak, pojawiają się dowody wskazujące na poważny problem: systemy AI mogą być tendencyjne, co może prowadzić do nierównych wyników w opiece zdrowotnej. Rozwiązanie tego problemu jest kluczowe, aby wszyscy mogli w równym stopniu korzystać z tych technologii. Ostatnio opublikowano istotne zalecenia w The Lancet Digital Health oraz NEJM AI. Opracowane przez ponad 350 ekspertów z 58 krajów w ramach międzynarodowej inicjatywy STANDING Together, te wytyczne mają na celu zwiększenie różnorodności w zbiorach danych oraz identyfikację potencjalnych uprzedzeń.

Porady skupiają się na kluczowych krokach zapewniających sprawiedliwe wykorzystanie AI w opiece zdrowotnej.

• Wykorzystanie zbiorów danych medycznych, które uwzględniają wszystkie grupy demograficzne, w tym mniejszości i grupy niedostatecznie reprezentowane.
• Zachęcanie wydawców zbiorów danych do ujawniania uprzedzeń i ograniczeń zawartych w ich danych.
• Dostarczanie narzędzi dla deweloperów do oceny, czy zbiory danych są odpowiednie do rozwoju sztucznej inteligencji.
• Opisanie metod dokładnego testowania systemów AI pod kątem uprzedzeń w różnych segmentach populacji.

Zrozumienie, że dane mogą być stronnicze, to dopiero początek. Technologie AI muszą być dokładnie testowane, aby zapewnić ich skuteczność dla różnych grup ludzi. Oznacza to konieczność zmiany sposobu, w jaki zbieramy i analizujemy zbiory danych. Dr Xiao Liu, kierujący badaniami, podkreśla, że samo doskonalenie zbiorów danych to za mało. Potrzebna jest zasadnicza zmiana w postrzeganiu i wykorzystaniu danych dotyczących opieki zdrowotnej.

Zobacz również:

10 lutego 2025 · 15:47

AI przejmuje kontrolę: niszczycielski wpływ automatyzacji na amerykańskie miejsca pracy w IT

Inicjatywa podkreśla konieczność zaangażowania społeczeństwa w tworzenie etycznej sztucznej inteligencji. Przedstawiciele pacjentów sugerują, że uwzględnienie opinii publicznej może uczynić proces tworzenia bardziej inkluzjwnym. Dzięki temu naukowcy mogą nawiązać lepszy kontakt z osobami, na które wpływają technologie AI, co zmniejsza ryzyko pominięcia istotnych zagadnień lub niezamierzonych szkód.

Główne organizacje zdrowotne i regulatorzy z różnych krajów podkreślają pilną potrzebę przeciwdziałania globalnemu uprzedzeniu AI. Ustanawiając teraz standardy, chcą zająć się kwestiami nierówności, zanim narzędzia AI staną się powszechniejsze w systemach opieki zdrowotnej. Wytyczne STANDING Together stanowią plan tworzenia medycznej sztucznej inteligencji, która będzie odpowiedzialna i sprawiedliwa, co zapewni równe korzyści z technologii i zbuduje zaufanie wśród różnych społeczności.