AI w medycynie budzi wątpliwości. Ekspertka ostrzega przed wprowadzaniem pacjentów w błąd

Nowa funkcja ChatGPT Health ma analizować wyniki badań krwi i dokumentację medyczną, ale nie powinna być traktowana jako narzędzie diagnostyczne. Jak podkreśla Ligia Kornowska, liderka koalicji AI w Zdrowiu, sztuczna inteligencja w medycynie nie może zastąpić konsultacji lekarskiej. Ekspertka ostrzega przed ryzykiem błędnych informacji i brakiem certyfikacji medycznej algorytmów AI.

Firma OpenAI zaprezentowała w styczniu nowy moduł ChatGPT Health, który ma wspierać użytkowników w poszukiwaniu informacji zdrowotnych. Funkcja będzie dostępna z poziomu paska bocznego chatbota i umożliwi analizę dokumentacji medycznej, w tym badań krwi, a także generowanie sugestii żywieniowych. Według OpenAI to odpowiedź na rosnące zainteresowanie tematyką zdrowia wśród użytkowników.

Z raportu OpenAI „AI as a Healthcare Ally” wynika, że ponad 40 milionów użytkowników dziennie zadaje ChatGPT pytania związane z opieką zdrowotną. Tematy medyczne stanowią ponad 5 proc. wszystkich wiadomości kierowanych do asystenta AI. Dane te pokazują, jak duży wpływ może mieć sztuczna inteligencja w zdrowiu na decyzje pacjentów.

Ligia Kornowska, liderka AI w Zdrowiu, zwraca uwagę, że algorytmy wpływające na decyzje diagnostyczno-lecznicze powinny spełniać wymogi wyrobów medycznych i regulacji dotyczących algorytmów wysokiego ryzyka.

Jak podkreśla Kornowska, ChatGPT Health nie jest certyfikowanym wyrobem medycznym.

Certyfikacja pozwala bowiem ocenić skuteczność, czułość i prawdopodobieństwo błędów algorytmu.

Zdaniem liderki AI w Zdrowiu, zakres stosowania ChatGPT w obszarze medycyny powinien być obecnie ograniczony do edukacji zdrowotnej. Każda odpowiedź generowana przez AI powinna być wyraźnie oznaczona jako wymagająca samodzielnej weryfikacji.

Ekspertka jednoznacznie zaznacza, że ChatGPT nie zastąpi konsultacji lekarskiej. AI może pomóc zrozumieć ogólne informacje, ale nie uwzględnia pełnego kontekstu klinicznego pacjenta.

OpenAI zaprezentowało także zestaw narzędzi OpenAI for Healthcare, skierowany do organizacji medycznych. Rozwiązania te mają wspierać pracę administracyjną, m.in. poprzez tworzenie podsumowań wypisów, zaleceń dla pacjentów i listów klinicznych.
Z narzędzi korzystają już m.in. AdventHealth i Boston Children’s Hospital w USA.

Ligia Kornowska zwraca uwagę, że ochrona danych osobowych w UE i USA regulowana jest inaczej. Korzystanie z narzędzi AI pochodzących z USA wymaga upewnienia się, że spełniają one wymogi RODO. Dotyczy to szczególnie wrażliwych danych medycznych pacjentów.

Na zagrożenia związane z AI zwrócił uwagę także brytyjski dziennik „The Guardian”. Styczniowe śledztwo wykazało, że podsumowania generowane przez AI w wyszukiwarce Google zawierały nieścisłe informacje zdrowotne, m.in. dotyczące badań czynności wątroby.
Według dziennika mogło to prowadzić do fałszywego poczucia zdrowia u osób poważnie chorych.

Kontrowersje wzbudza również wpływ chatbotów na zdrowie psychiczne. W USA doszło do pozwów przeciwko OpenAI po przypadkach samobójstw, w których rodziny twierdziły, że ChatGPT miał negatywny wpływ na użytkowników. Firma zadeklarowała wprowadzenie zabezpieczeń i podkreśliła: