Sztuczna inteligencja w medycynie. Jak zapewnić bezpieczeństwo danych?

Na jaki margines błędu możemy pozwolić sztucznej inteligencji (SI) w medycynie? Czy w ogóle możemy dopuszczać błędy? Co z obróbką naszych danych medycznych? Jan Zygmuntowski z Akademii Leona Koźmińskiego w Warszawie, który doktoryzuje się z łączenia zbiorów do trenowania SI tak, by uniknąć nadużyć, wyjaśnia, czemu pilnie potrzebujemy regulacji w tym obszarze.

Już dziś powoływane są fundacje z hasłem: „Oddaj nam swoje dane medyczne na cele naukowe”… Co pan o tym sądzi?

Z takim ruchem mamy już do czynienia również  w Polsce. Są gracze, którzy będą chcieli to wykorzystać, powiedzą: „Przekaż nam dane, my wiemy, co z nimi zrobić”. Albo: „Wszystko jest bezpieczne, bo możesz zobaczyć na blockchainie” (red: rejestrze zdecentralizowanych danych, które są bezpiecznie współużytkowane). Kolejne trudne słowo, kolejna trudna technologia – i wszystko wydaje się transparentne.

Tylko jak się człowiek temu przyjrzy, okazuje się, że blockchain to zmyłka. Nie wiadomo także, komu udostępnia się dane, a dokumenty dotyczące ich przekazania są podtykane np. ludziom leżącym w szpitalu, więc podpiszą wszystko, bo martwią się o swoje zdrowie.

Mamy więc nawarstwienie bardzo nieetycznych decyzji, które teoretycznie są legalne, bo są oparte o konstrukt prawny świadomej zgody, który nie był, jak widać, najmądrzejszy. Czy ktoś udziela świadomej zgody na używanie swoich danych, jeśli nie ma wiedzy, kto i w jakim celu używa tych danych? Moim zdaniem udzielanie świadomej zgody nie powinno polegać na przekazywaniu danych jakiejś fundacji kontrolowanej przez dwie, trzy osoby z zarządu, które mają swoje układy, tylko żeby ludzie bezpośrednio podejmowali decyzje, czyli głosowali nad przekazaniem danej firmie swoich danych na konkretne potrzeby.

To nie jest niemożliwe, choć brzmi zagmatwanie. Po pierwsze, skoro wszyscy możemy ściągnąć Internetowe Konto Pacjenta, to takie głosowania NFZ mógłby wprowadzić do tego konta. NHS (ang. National Health Service)  w Wielkiej Brytanii już to robi, powołując obywatelskie ławy przysięgłych, które dostają wnioski i losuje się przypadkowych pacjentów z różnych grup demograficznych: młodych, starszych, z różnym wykształceniem i pyta się ich, czy uważają, że te dane powinny być przekazane, czy chcą, żeby taka oto sztuczna inteligencja była trenowana. 

NHS nie jest jednak dobrym przykładem, bo sprzedawał dane Googlowi i Palantirowi, spółce spod znaku Elona Muska…

Ale na szczęście jest Finlandia, gdzie państwowa instytucja dysponuje danymi wszystkich Finów – 5,5 mln. Ta instytucja nie narusza prywatności, bo sama stworzyła bezpieczne środowisko programowania, dopuszcza do danych tylko na swoich zasadach, cyberbezpieczeństwo jest jej oczkiem w głowie, dopiero potem idą innowacje. Jeśli innowator – uczelnia – spełnia wszystkie warunki, dostaje dostęp.

To jest super, tylko brakuje czynnika ludzkiego. Moim zdaniem Polska musi znaleźć swoją drogę środka: zaangażować ludzi, mieć silne instytucje państwowe, które ten proces pociągną. Polaków jest prawie 40 milionów, to naprawdę łakomy kąsek. Bardzo musimy pewne sprawy przemyśleć. Przykładem dobrych praktyk w Polsce jest hasło „honorowy dawca danych”.

Jestem krwiodawcą, mój kolega jest innowatorem w  krwiodawstwie, dla nas było bardzo ważne, żeby mówić o dawaniu danych w celu tworzenia sztucznej inteligencji, by budować postęp społeczny. Nie chciałbym, żeby ludzie mieli poczucie, że oddawanie danych dla interesu publicznego jest złe. Nie jest, jest potrzebne. Ale…

Obawiam się tu, niestety, technologicznej szopki.

Z całą pewnością pod kątem suwerenności technologicznej Polska jest kolonią.

Czytaj też: Usługa e-zdrowie zostanie rozbudowana jeszcze w tym roku?