Centrum e-Zdrowia: Jak chronić dane pacjentów? Eksperci medyczni o realnych zagrożeniach i błędach AI

W świecie, w którym medycyna staje się medycyną danych, bezpieczeństwo informacji pacjentów i odpowiedzialne wykorzystanie sztucznej inteligencji stają się jednym z filarów nowoczesnej ochrony zdrowia. Podczas XVII Konferencja Bezpieczeństwo w Internecie organizowanej przez Centrum -e-Zdrowia Cez, specjaliści rozmawiali o tym, jak łączyć innowacje z realnymi potrzebami klinik, szpitali i pacjentów, oraz dlaczego AI powinna wspierać ludzi — a nie ich zastępować.

W wystąpieniu otwierającym sesję „Bezpieczne przetwarzanie danych w medycynie” w ramach wspomnianej konferencji Cez dyrektor Centrum e-Zdrowia, Adam Konka, podkreślił znaczenie cyfryzacji zdrowia i bezpieczeństwa danych medycznych dla państwa. Powiedział:

Podkreślił również konieczność współpracy legislacyjnej, aby umożliwić wdrażanie nowych technologii, oraz intensywny dialog z lekarzami i organizacjami pacjenckimi.

Prof. Grażyna Szpor, prawnik, profesor nauk społecznych, nauczyciel akademicki Uniwersytetu Kardynała Stefana Wyszyńskiego w Warszawie, przewodnicząca Komitetu Naukowo-Programowego konferencji Cez, przypomniała, że ochrona danych medycznych staje się warunkiem bezpieczeństwa pacjentów:

Jednocześnie zwróciła uwagę na potrzebę zmniejszenia niepewności związanej z wykorzystaniem sztucznej inteligencji w medycynie, która bywa albo demonizowana, albo idealizowana. Jak dodała, dojrzała debata wymaga unikania skrajności:

AI w medycynie jako narzędzie podejmowania decyzji

Moderator panelu, prof. Lucjan Wyrwicz z Kliniki Gastroenterologii Onkologicznej oraz Samodzielnej Pracowni Bioinformatyki i Biostatystyki Centrum Onkologii – Instytut im Marii Skłodowskiej-Curie w Warszawie, wyjaśnił różnicę między „miękkim” a „twardym” zastosowaniem AI. Podkreślił, że coraz więcej osób w medycynie zaczyna myśleć o wdrażaniu narzędzi AI, choć „często z obawą i niepewnością, jak będzie zmieniać się medycyna”. Wyjaśnił, że istotą sztucznej inteligencji jest podejmowanie decyzji tam, gdzie brakuje danych. Ujął to tak:

Aby oswoić to zjawisko, profesor sięgnął po przykład nawigacji samochodowej. W klasycznym GPS, to człowiek prowadzi auto, a technologia jedynie podpowiada drogę.

Jak wskazał, medycyna stoi właśnie wobec pytania, jak zachować bezpieczeństwo decyzji w takich sytuacjach:

Tak zdefiniowane wspomaganie decyzji - obok automatyzacji procesów - stanowi dziś fundament rozwoju sztucznej inteligencji w ochronie zdrowia.

Następnie zaprosił panelistów do oceny, jakie „miękkie” i „twarde” zastosowania AI funkcjonują już w ich ośrodkach.

Prof. Janina Stępińska, dyrektor Narodowego Instytutu Kardiologii, przewodnicząca Krajowej Rady do Spraw Kardiologii. zwróciła uwagę, że największy postęp w kardiologii dotyczy medycznych danych obrazowych:

Dodała też, że sztuczna inteligencja działa na danych typowych, przez co gorzej radzi sobie w przypadkach nieoczywistych:

Duży potencjał AI ekspertka widzi natomiast w organizacji pracy oddziałów, planowaniu zabiegów i kontroli jakości.

Poruszono również kwestię urządzeń pozostawianych pacjentom i zbierania parametrów poza szpitalem.

Wyjaśniono, dlaczego dane z urządzeń są tak ważne:

Wskazano, że systemy HIS (Hospital Information System, czyli Szpitalny System Informacyjny - kompleksowe oprogramowanie, które zarządza danymi i procesami w placówkach medycznych, od rejestracji pacjenta po rozliczenia) w wielu placówkach nie są gotowe na duże strumienie danych, a szpitale nadal uczą się organizacji własnych rejestrów:

Dzięki wykorzystaniu hurtowni danych medycznych możliwe stało się m.in. wykrywanie rzadkich chorób, analizowanie braków w dokumentacji czy monitorowanie pacjentów znajdujących się poza salą obserwacyjną.

Dariusz Szplit, kierownik Zespołu Oceny i Wdrożeń Technologii Medycznych Uniwersyteckiego Centrum Klinicznego w Gdańsku, przypomniał, że pojawia się też problem czasu pracy personelu:

To przykład realnego dylematu odpowiedzialności w systemie, w którym automatyzacja postępuje szybciej niż legislacja.

Dr n. farm. Piotr Merks, ekspert Zespołu ds. Opieki Farmaceutycznej przy Ministerstwie Zdrowia, przedstawił trzy obszary wykorzystania AI. Po pierwsze mamy farmację szpitalną, gdzie systemy oparte na kamerach kontrolują poprawność przygotowywania leków cytostatycznych:

Po drugie mamy farmację kliniczną, gdzie AI wspiera analizę farmakoterapii, ale wymaga nadzoru eksperta.

Po trzecie — apteki ogólnodostępne, gdzie AI wspiera adherence, ale również nie może działać bez udziału człowieka.

W sesji „Bezpieczne przetwarzanie danych w medycynie” podkreślano, że sztuczna inteligencja powinna przede wszystkim odciążać personel medyczny, a nie zastępować specjalistów. Prof. Lucjan Wyrwicz zwrócił uwagę:

W dyskusji podkreślano, że choć FDA zatwierdziła już około 1200 algorytmów medycznych, to 70% szpitali wdraża AI nie w diagnostyce, lecz w administracji, bo to tam tracone są największe zasoby czasu.

Paneliści przypominali też, że AI nie może pozostać „czarną skrzynką” - modele muszą być trenowane na aktualnej wiedzy naukowej, a ich działanie powinno być możliwe do zweryfikowania.

Jeden z ekspertów zwrócił uwagę, że medycyna opiera się na języku naturalnym — i to polskim. To czyni wdrażanie narzędzi AI trudniejszym:

Tym bardziej potrzebne są polskie modele językowe oraz narzędzia dopasowane do realiów klinicznych.

W odpowiedzi na pytanie prof. Wyrwicza paneliści wskazali, że szybkie do wdrożenia są:

– systemy do rozpoznawania mowy medycznej i automatycznego uzupełniania dokumentacji
– narzędzia do monitorowania parametrów klinicznych pacjentów
– rozwiązania do analizy stylu życia i predykcji ryzyk zdrowotnych
– modele wspierające profilaktykę
– technologie do porządkowania dokumentacji i wyszukiwania uchybień jakościowych

W dyskusji podkreślano też, że cyfryzacja zdrowia w Polsce jest odpowiedzią na deficyt kadr i rosnącą złożoność medycyny. Paneliści odwoływali się do metafory kucyków szetlandzkich – małych, ale niezwykle użytecznych:

Wszyscy eksperci zgodzili się, że bezpieczeństwo danych medycznych i odpowiedzialne wykorzystanie sztucznej inteligencji oznaczają jedno: człowiek musi pozostać w centrum procesów medycznych.

AI ma wspierać, przyspieszać i odciążać. Ale odpowiedzialność musi pozostać po stronie specjalisty.

W erze, w której dane medyczne stają się podstawą opieki zdrowotnej, to właśnie taka filozofia — łącząca technologię z wiedzą i doświadczeniem – daje największą szansę na rozwój bezpieczeństwa w ochronie zdrowia.