AI w szpitalu: o tym muszą pamiętać dyrektorzy

Wdrażanie sztucznej inteligencji w szpitalach wiąże się nie tylko z możliwościami technologicznymi, lecz także z obowiązkami informacyjnymi, odpowiedzialnością za decyzje i koniecznością nadzorowania algorytmów. Jakie znaczenie mają AI Act, Kodeks Etyki Lekarskiej czy zasady FAVES i o czym powinni pamiętać zarządzający placówkami?

Sztuczna inteligencja coraz częściej wspiera procesy diagnostyczne, terapeutyczne i organizacyjne. Dla dyrektorów szpitali oznacza to konieczność ustalenia, gdzie i w jakim celu się ją wykorzystuje, kto odpowiada za poszczególne rozwiązania oraz jak kontrolować ich działanie.

AI Act przewiduje obowiązek informowania użytkownika o bezpośredniej interakcji ze sztuczną inteligencją, chyba że jest to oczywiste. W szpitalach ma to znaczenie m.in. przy wykorzystaniu chatbotów i voicebotów. Z kolei art. 12 Kodeksu Etyki Lekarskiej określa zasady korzystania z AI w praktyce klinicznej. Gdy algorytm samodzielnie wykonuje zadanie kliniczne i istotnie wpływa na diagnozę lub terapię, pacjent powinien zostać poinformowany i wyrazić zgodę. Przy narzędziach jedynie wspomagających pracę lekarza zgoda nie jest wymagana, choć zaleca się poinformowanie pacjenta.

Jak wyjaśnia Artur de Rosier, przewodniczący Komisji Etyki Lekarskiej w kadencji 2022-2026, zgoda nie musi być pisemna. Karol Stępniewski, wiceprezes Okręgowej Rady Lekarskiej w Warszawie, podkreśla, że ostateczna decyzja diagnostyczna i terapeutyczna zawsze pozostaje po stronie lekarza.

Co to oznacza dla zarządzających?

Przed wdrożeniem dyrektor powinien uwzględnić rolę algorytmu w procesie diagnostycznym lub terapeutycznym i ocenić ryzyko związane z jego zastosowaniem. Certyfikat i pozytywna walidacja nie gwarantują bowiem, że system będzie działał równie dobrze w każdym szpitalu. Dlatego konieczne jest również monitorowanie jego skuteczności po wdrożeniu, m.in. pod kątem pogorszenia jakości działania, czyli tzw. dryfu AI.

Zatem wdrożenie systemu nie kończy nadzoru nad nim. Algorytm może działać inaczej w zależności od populacji pacjentów, a jego skuteczność może z czasem spadać. Pomocne w ocenie modeli predykcyjnych są zasady FAVES: uczciwość, dopasowanie do kontekstu, weryfikowalność, skuteczność i bezpieczeństwo. Badanie 2 425 amerykańskich szpitali wykazało, że spośród placówek korzystających z modeli predykcyjnych 61% oceniało ich dokładność na własnych danych, a 44% sprawdzało lokalnie stronniczość.

– Kluczowe jest, aby nie zatracić relacji lekarz–pacjent – przypomina Karol Stępniewski.

Więcej o regulacjach, odpowiedzialności i ryzykach związanych ze sztuczną inteligencją w ochronie zdrowia można przeczytać w artykule „AI jako element procesu leczenia pod stałym nadzorem” w raporcie „Szpital przyszłości” przygotowanym przez Rynek Zdrowia i dlaSzpitali.pl. Znajdziesz (i pobierzesz) go tutaj.

Czytaj także: Jak szpitalne systemy mają wymieniać dane? CeZ pyta Cię o zdanie