Szybki rozwój sztucznej inteligencji w medycynie budzi obawy ekspertów
Sztuczna inteligencja w medycynie rozwija się w szybkim tempie, ale eksperci wskazują na brak odpowiednich zabezpieczeń i ryzyko związane z jej wdrażaniem.
Sztuczna inteligencja (AI) w opiece zdrowotnej rozwija się w niespotykanym dotąd tempie, jednak eksperci ostrzegają, że innowacje wyprzedzają zabezpieczenia. Badacze z Uniwersytetu Flindersa podkreślają, że mimo rosnących możliwości systemów AI, ich bezpieczeństwo i niezawodność w rzeczywistych warunkach pozostają niepewne.
W komentarzu zespół zwraca uwagę na rosnącą przepaść między postępem technologicznym a ramami potrzebnymi do bezpiecznego wdrażania AI w praktyce klinicznej. Autorzy wskazują, że dobre wyniki w kontrolowanych badaniach nie przekładają się automatycznie na bezpieczne lub skuteczne zastosowanie w szpitalach i klinikach. Mimo tych obaw, badacze dostrzegają znaczący potencjał AI w wspieraniu profesjonalistów medycznych, zwłaszcza w sytuacjach wysokiego ciśnienia, gdzie efektywność i wsparcie w podejmowaniu decyzji są kluczowe.
Rozumowanie kliniczne
Ostatnie osiągnięcia w dziedzinie AI przesunęły pole badań poza proste systemy pytanie-odpowiedź. Nowe modele są coraz bardziej zdolne do rozumowania przez scenariusze kliniczne krok po kroku, naśladując aspekty ludzkiego myślenia diagnostycznego. Jak zauważa Erik Cornelisse, doktorant na Uniwersytecie Flindersa, to oznacza istotny zwrot w rozwoju. „Przechodzimy od podstawowych narzędzi do systemów, które mogą wykazywać formy rozumowania klinicznego, przynajmniej w scenariuszach opartych na tekście,” wyjaśnia.
Niektóre z tych systemów wykazały poziom wydajności porównywalny, a nawet przewyższający doświadczonych klinicystów w testach na zorganizowanych przypadkach diagnostycznych. To wzbudziło optymizm co do ich potencjalnej roli w wspieraniu podejmowania decyzji medycznych. Jednak badacze podkreślają, że takie wyniki opierają się głównie na kontrolowanych środowiskach i nie odzwierciedlają pełnej złożoności rzeczywistej opieki zdrowotnej.
Ograniczenia AI w praktyce klinicznej
Podejmowanie decyzji w opiece zdrowotnej wymaga znacznie więcej niż tylko interpretacji danych czy rozwiązywania teoretycznych przypadków. Wymaga to fizycznego badania, interakcji z pacjentem, zrozumienia kontekstu oraz odpowiedzialności etycznej. Elementy, których obecne systemy AI nie są w stanie zreplikować. „Decyzje w opiece zdrowotnej są złożone, mają wysoką stawkę i są głęboko ludzkie,” mówi Cornelisse. „Sama dokładność, szczególnie w zadaniach opartych na tekście, nie wystarcza, aby zapewnić bezpieczeństwo pacjentów.”
Autor senior Ash Hopkins dodaje, że nowoczesna medycyna opiera się na osądzie, odpowiedzialności i nadzorze zawodowym. Choć AI może wspierać analizę informacji, nie może zastąpić szerszej roli klinicystów. Ta luka podkreśla ryzyko przeszacowania gotowości narzędzi AI do rutynowego użycia. Bez odpowiedniej walidacji i integracji, nawet bardzo dokładne systemy mogą prowadzić do niezamierzonych konsekwencji.
Ryzyko przedwczesnego wdrożenia
Komentarz wskazuje również na znane ryzyka związane z niedostatecznie ocenionymi systemami AI. Należą do nich stronniczość algorytmiczna, nierówny dostęp do opieki oraz potencjalne szkody dla pacjentów. Jeśli modele AI są trenowane na niekompletnych lub nieprzedstawicielskich zbiorach danych, mogą wzmacniać istniejące nierówności zamiast je redukować.
„Historia pokazuje, że algorytmy mogą tak samo łatwo wzmacniać problemy, jak je rozwiązywać,” ostrzega Cornelisse. To podkreśla potrzebę rygorystycznego testowania i ciągłego monitorowania przed i w trakcie wdrożenia. Badacze podkreślają, że systemy opieki zdrowotnej muszą unikać przyjmowania AI tylko dlatego, że dobrze wypada w warunkach eksperymentalnych. Zamiast tego, rzeczywiste wyniki, takie jak poprawa zdrowia pacjentów i bezpieczeństwa, powinny być głównym wskaźnikiem.
Odpowiedzialne i regulowane użycie AI
Patrząc w przyszłość, zespół z Flindersa wzywa do silniejszego zarządzania i jaśniejszych standardów dla medycznej AI. Argumentują, że systemy AI powinny być poddawane standardom porównywalnym do tych stosowanych wobec profesjonalistów medycznych. „Nie pozwalamy lekarzom praktykować bez nadzoru i oceny,” mówi Cornelisse. „AI powinno spełniać podobne oczekiwania.” Komentarz został niedawno opublikowany w czasopiśmie Science.
Już trwają wysiłki wśród decydentów, badaczy i interesariuszy branżowych, aby zdefiniować prawne, etyczne i zawodowe odpowiedzialności dla AI w opiece zdrowotnej. Jednak badacze podkreślają, że ostrożna, krok po kroku integracja w procesy kliniczne jest niezbędna. Według Hopkinsa, ostatecznym celem nie jest szybkie wdrożenie AI, ale wdrożenie go odpowiedzialnie. „Pacjenci zasługują na technologię, która poprawia opiekę w rzeczywistych warunkach, a nie tylko na systemy, które dobrze wypadają w badaniach,” mówi.
Jeśli AI zostanie wdrożona w przemyślany sposób, ma potencjał, aby poprawić podejmowanie decyzji klinicznych, zwiększyć efektywność i wspierać bardziej sprawiedliwą opiekę. Jednak osiągnięcie tego wymaga równowagi między innowacją a nadzorem. W miarę jak systemy opieki zdrowotnej kontynuują badania nad możliwościami sztucznej inteligencji, przesłanie z Uniwersytetu Flindersa jest jasne: postęp musi iść w parze z odpowiedzialnością. Tylko poprzez staranne projektowanie, rygorystyczną ewaluację i silne zarządzanie AI może stać się naprawdę bezpiecznym i skutecznym narzędziem w nowoczesnej medycynie.
Wdrożenie AI w opiece zdrowotnej
W zeszłym roku TU Delft zostało poproszone o doradzenie WHO w kwestii, że tylko około 2% innowacji AI jest faktycznie wykorzystywanych. Bariery obejmują słabe dopasowanie do praktyki klinicznej, obawy etyczne i stronniczość algorytmiczną. Wraz z partnerami takimi jak Erasmus MC i SAS, TU Delft opracowuje ramy dla odpowiedzialnego użycia AI w opiece zdrowotnej. Są one testowane w praktyce klinicznej, na przykład w projektach, które wykorzystują AI do określenia bezpiecznego czasu wypisu ze szpitala.
Źródło: https://www.icthealth.org/news/medical-ai-races-ahead-of-safety-experts-warn
Źródło: www.icthealth.org