Raport o AI w ochronie zdrowia a zgoda pacjenta i odpowiedzialność szpitala

Użyteczność AI według badanych jest realna, ale nieregularna

W ciągu ostatnich trzech miesięcy z narzędzi AI korzystało 61% badanych lekarzy, najczęściej sporadycznie, bo 42% używało ich w mniej niż połowie przypadków. Badanie Instytutu Badań Pollster objęło 288 lekarzy i lekarzy dentystów. Rekrutacja była celowa i dobrowolna, więc wyniki opisują uczestników badania i nie pozwalają mówić o całym zawodzie. Badani lekarze w 66% zgadzają się, że AI może pomóc lekarzowi poświęcić więcej czasu pacjentowi, a w 62% oczekują mniejszego obciążenia pracą. Model, w którym AI przygotowuje wstępną analizę, a lekarz ją weryfikuje i decyduje, ocenia pozytywnie 60% badanych lekarzy i 54% badanych pacjentów. Za nieakceptowalne badani uznają konkretne zastosowania, najczęściej triaż pacjentów na SOR (lekarze, 44%) i wsparcie farmakoterapii (pacjenci, 36%). Jednocześnie 66% badanych lekarzy nie znało żadnego z dwunastu wyspecjalizowanych narzędzi AI z listy badania.

Michał Gontkiewicz, przewodniczący Zespołu ds. e-Zdrowia przy Naczelnej Izbie Lekarskiej, wiąże to z wejściem AI do gabinetów przez ogólnodostępne czatboty, nie przez certyfikowane wyroby medyczne.

Bezpieczeństwo wymaga ochrony danych o zdrowiu, informacji dla pacjenta i nadzoru lekarza

Wśród najważniejszych obaw badani lekarze najczęściej wskazywali błędy lub nieprawidłowe rekomendacje AI (58%) i odpowiedzialność za błędy (52%). Naruszenie bezpieczeństwa danych pacjentów wskazało 28% badanych lekarzy i 18% pacjentów. Dane dotyczące zdrowia należą do kategorii, których przetwarzanie art. 9 ust. 1 RODO zabrania, chyba że zachodzi przesłanka z art. 9 ust. 2 RODO. Gontkiewicz ostrzega też, że wklejenie fragmentu dokumentacji do publicznego modelu jest potencjalnym naruszeniem tajemnicy lekarskiej i RODO, zwykle nieświadomym.

Informowania o użyciu AI i zgody pacjenta oczekuje 57% badanych pacjentów. Wśród badanych lekarzy 35% uzależnia sposób postępowania od rodzaju zastosowania, a 19% w ogóle nie widzi potrzeby informowania. Pacjent ma prawo do informacji o proponowanych oraz możliwych metodach diagnostycznych i leczniczych (art. 9 ust. 2 ustawy o prawach pacjenta) i do wyrażenia zgody po uzyskaniu tej informacji (art. 16 tej ustawy). Algorytm, który współkształtuje rozpoznanie lub terapię, należy uznać za część metody, o której pacjent ma prawo wiedzieć. Rozróżnienie zastosowań jest prawnie trafne, bo AI administracyjna podlega przepisom o ochronie danych, ale nie wymaga zgody na leczenie. Zgodę pacjenta i odpowiedzialność za błąd skomentowałem w pełnej wersji raportu na s. 32, a skrócona wersja jest dostępna publicznie.

Odpowiedzialność za błąd i terminy AI Act

Za błąd związany z użyciem narzędzia AI powinien według badanych odpowiadać najczęściej lekarz w zakresie ostatecznej decyzji klinicznej (51% lekarzy i 47% pacjentów). Badani pacjenci częściej niż badani lekarze wskazują podmiot leczniczy, który wdrożył narzędzie (34% wobec 25%). Lekarz odpowiada za szkodę wyrządzoną z własnej winy (art. 415 k.c.) i ma obowiązek wykonywać zawód z należytą starannością (art. 4 ustawy o zawodach lekarza i lekarza dentysty). Podmiot leczniczy, który na własny rachunek powierza czynność lekarzowi podległemu swojemu kierownictwu i wskazówkom, odpowiada za szkodę z winy lekarza przy tej czynności (art. 430 k.c.), a za własną winę przy wyborze i wdrożeniu narzędzia z art. 415 k.c. albo, jeśli jest osobą prawną, za winę organu (art. 416 k.c.).

Dyrektywa (UE) 2024/2853 o produktach wadliwych stosuje się do produktów wprowadzonych do obrotu lub oddanych do użytku po 9 grudnia 2026 r., a produkt obejmuje oprogramowanie. AI Act stosuje się do dostawców i podmiotów stosujących systemy AI i nie tworzy wymogu zgody w relacji lekarza z pacjentem. Po nowelizacji rozporządzeniem (UE) 2026/1744 wymogi dla systemów wysokiego ryzyka z załącznika III, który obejmuje systemy oceny stanu zdrowia pacjentów w nagłych wypadkach, obowiązują od 2 grudnia 2027 r., z obowiązkiem informowania pacjenta (art. 26 ust. 11). Dla systemów sklasyfikowanych według art. 6 ust. 1 i załącznika I, który wymienia rozporządzenie (UE) 2017/745 o wyrobach medycznych, termin to 2 sierpnia 2028 r.

Co zarząd podmiotu leczniczego i jego prawnik ustalają przed wdrożeniem

Przed wdrożeniem narzędzia AI zarząd i prawnik ustalają:

• czy narzędzie jest systemem wysokiego ryzyka z załącznika I albo III AI Act, bo od tego zależy termin wymogów,
• jakie dane o zdrowiu trafiają do narzędzia i z jakiej przesłanki art. 9 ust. 2 RODO korzysta podmiot leczniczy,
• kiedy pacjent dostaje informację i kiedy prosi się go o zgodę, osobno dla zastosowań administracyjnych i klinicznych,
• kto sprawdza wynik algorytmu, bo bezkrytyczne przyjęcie wyniku narusza należytą staranność lekarza,
• jak szkoli się personel, skoro podmioty stosujące mają wspierać kompetencje personelu (art. 4 ust. 1 AI Act), a 61% badanych lekarzy nie słyszało o AI Act.