Systemy AI analizują już zdjęcia rentgenowskie, monitorują parametry pacjentów w czasie rzeczywistym i wspierają lekarzy w diagnostyce. Pytanie nie brzmi już: „czy technologia zmieni medycynę?”. Brzmi: „na jakich warunkach i kto za to odpowiada?”

Diagnostyka, prewencja, personalizacja

Panel poświęcony AI i zdrowiu publicznemu otworzył przestrzeń do rozmowy, której w debacie publicznej wciąż zbyt mało: nie o tym, co jest możliwe technicznie, lecz o tym, co jest pożądane społecznie i bezpieczne etycznie.

Paneliści przedstawili przekonującą diagnozę możliwości. Systemy oparte na uczeniu maszynowym wykazują już wyniki porównywalne lub wyższe od lekarzy specjalistów w analizie wybranych obrazów medycznych, w tym radiologicznych i dermatologicznych. Algorytmy predykcyjne potrafią identyfikować pacjentów zagrożonych określonymi schorzeniami z wyprzedzeniem niemożliwym do osiągnięcia metodami konwencjonalnymi. Urządzenia monitorujące parametry życiowe w czasie rzeczywistym zmieniają opiekę nad pacjentami przewlekłymi.

Za tymi możliwościami kryje się fundamentalna zmiana: od medycyny reaktywnej do prewencyjnej. Od leczenia choroby do zarządzania zdrowiem. To zmiana nie tylko techniczna to zmiana modelu relacji między pacjentem a systemem opieki zdrowotnej.

Gdzie technologia zatrzymuje się przed ścianą

Dyskusja nie zatrzymała się jednak na katalogu możliwości. Paneliści wskazali wyraźnie na granice, których przekraczać nie należy i na warunki, bez których nawet najlepsza technologia nie spełni swojej roli.

Pierwsza kwestia to dane. Systemy AI uczą się na danych medycznych, a dane medyczne to jedne z najbardziej wrażliwych informacji, jakie człowiek generuje. Pytanie o to, kto ma dostęp do tych danych, w jaki sposób są chronione i kto kontroluje modele na nich zbudowane, jest pytaniem fundamentalnym, nie technicznym szczegółem do rozwiązania przez dział IT.

Druga kwestia to przejrzystość algorytmów. System, który wydaje rekomendację diagnostyczną lub terapeutyczną, powinien być w stanie tę rekomendację wyjaśnić w sposób zrozumiały dla lekarza i dla pacjenta. „Czarna skrzynka” w medycynie to nie ciekawostka filozoficzna. To realne ryzyko dla zdrowia i odpowiedzialności zawodowej.

Trzecia i być może najważniejsza kwestia to rola człowieka. Paneliści byli w tej kwestii zgodni: technologia ma wspierać, nie zastępować. Decyzja terapeutyczna nie może być delegowana do algorytmu musi pozostawać w rękach lekarza, który bierze za nią odpowiedzialność i który rozumie pacjenta jako całość, nie zbiór parametrów.

Zaufanie jako warunek wdrożenia

Wątek, który powracał w dyskusji kilkakrotnie, dotyczył zaufania. Nie w sensie naiwnym, ale jako precyzyjnego warunku skuteczności. Technologia, która nie cieszy się zaufaniem pacjentów, nie będzie stosowana. System AI, któremu nie ufają lekarze, nie będzie używany. Narzędzie diagnostyczne, które nie przeszło przejrzystej walidacji, nie powinno być stosowane.

Zaufanie nie jest dane raz na zawsze. Buduje się je przez transparentność, niezależną walidację, jasną komunikację o tym, co system potrafi, a czego nie potrafi i przez konsekwentne stawianie pacjenta w centrum procesu, nie na jego obrzeżach.

Rekomendacje

Z dyskusji wyłoniły się trzy kierunki działań niezbędnych dla odpowiedzialnego wdrożenia AI w systemach opieki zdrowotnej.

Konieczne jest wypracowanie standardów dotyczących wyjaśnialności systemów AI stosowanych w diagnostyce. Regulacje unijne (AI Act) dają ramy, ale ich implementacja w realiach polskiej opieki zdrowotnej wymaga konkretnych wytycznych operacyjnych.

Niezbędne jest systematyczne kształcenie personelu medycznego w zakresie kompetencji cyfrowych, nie jako wiedzy dodatkowej, ale elementu standardowej edukacji. Lekarz, który nie rozumie jak działa system AI wspomagający jego pracę, nie może świadomie oceniać jego rekomendacji. Wreszcie wymogiem etycznym i prawnym jest zbudowanie systemu nadzoru nad danymi medycznymi wykorzystywanymi do trenowania modeli. Dane pacjentów są zasobem publicznym o ogromnym potencjale badawczym i jednocześnie szczególnie chronionym dobrem osobistym. Obie te prawdy muszą współistnieć w ramach spójnych regulacji.

Artykuł powstał na podstawie debat panelowych VII edycji Our Future Forum. Pełne relacje ze wszystkich sesji dostępne są na kanale YouTube coopernicus.