Szpital blokuje narzędzie AI z powodu obaw o dane pacjentów
Amerykańska organizacja zdrowotna zablokowała dostęp do narzędzia AI po tym, jak lekarz wprowadził dane z ponad 100 rekordów pacjentów.
Amerykańska organizacja zdrowotna zablokowała dostęp do narzędzia AI wspierającego decyzje kliniczne po odkryciu, że lekarz wprowadził informacje z ponad 100 rekordów pacjentów do platformy. Podczas gdy niektóre szpitale ograniczają dostęp do takich aplikacji, inne integrują je z elektronicznymi rekordami zdrowia (EHR). Przeciwstawne podejścia podkreślają wyzwania, przed którymi stoją organizacje zdrowotne w zakresie równoważenia przyjęcia AI, prywatności pacjentów i bezpieczeństwa klinicznego.
W Monument Health, działającym w Południowej Dakocie i Wyoming, użycie OpenEvidence wzbudziło obawy dotyczące przetwarzania wrażliwych informacji pacjentów. Jak podaje STAT, dyrektor ds. informacji organizacji, Patrick Woodard, spotkał się z protestami po ograniczeniu dostępu do platformy.
Decyzja ta nastąpiła po odkryciu, że lekarz użył OpenEvidence do wspierania decyzji klinicznych, wykorzystując informacje z ponad 100 rekordów pacjentów. Incydent ten ilustruje szersze wyzwanie dla organizacji zdrowotnych. Klinicyści mogą niezależnie przyjmować aplikacje AI do wsparcia swojej codziennej pracy, podczas gdy szpitale muszą zapewnić, że przetwarzanie informacji pacjentów jest zgodne z obowiązującymi wymaganiami dotyczącymi prywatności, bezpieczeństwa i zarządzania klinicznego.
Rosnące wykorzystanie AI w klinice
OpenEvidence to platforma zasilana AI, zaprojektowana do pozyskiwania i syntezowania dowodów medycznych w odpowiedzi na pytania kliniczne. W przeciwieństwie do ogólnych chatbotów, aplikacja ta skierowana jest do profesjonalistów medycznych poszukujących informacji wspierających podejmowanie decyzji klinicznych. Badanie opublikowane w JAMA zbadało 271 milionów zapytań przesłanych do OpenEvidence przez 952,008 amerykańskich klinicystów w okresie od stycznia 2024 do czerwca 2026. Użytkownikami było 556,200 lekarzy. Wśród lekarzy pytania dotyczące leczenia i zarządzania pacjentem stanowiły 33,1% zapytań, w porównaniu do 13,9% dotyczących diagnozy.
Te wyniki dostarczają wglądu w to, jak klinicyści korzystają z technologii. Jednak badanie nie ustaliło, czy odpowiedzi generowane przez AI były dokładne, jak często klinicyści działali na podstawie rekomendacji ani czy ich wykorzystanie poprawiło wyniki pacjentów. Proporcja zapytań związanych z leczeniem pokazuje jednak, że klinicyści konsultują się z platformą w sprawach bezpośrednio związanych z zarządzaniem pacjentem.
Różne podejścia
Podczas gdy Monument Health ograniczył dostęp do OpenEvidence, inne amerykańskie organizacje zdrowotne zdecydowały się na integrację platformy z ich systemami informacji klinicznej. W październiku Northwestern Medicine ogłosił integrację z systemem elektronicznych rekordów zdrowia Epic, umożliwiając uprawnionym zespołom klinicznym dostęp do OpenEvidence w ramach istniejących procesów roboczych. NYU Langone Health ogłosiło następnie podobną integrację, mającą na celu połączenie dostępu do dowodów medycznych z odpowiednim kontekstem pacjenta.
Takie integracje oferują organizacjom zdrowotnym możliwości zarządzania dostępem i ustanawiania kontroli w ramach istniejących procesów klinicznych. Jednak integracja aplikacji AI z EHR nie gwarantuje automatycznie jej bezpieczeństwa klinicznego ani nie zapewnia, że informacje pacjentów są odpowiednio chronione. Szpitale muszą nadal ocenić, jak przetwarzane są informacje, jakie dane są udostępniane zewnętrznym systemom i jakie zabezpieczenia są stosowane.
Prywatność i odpowiedzialność kliniczna
Wykorzystanie informacji pacjentów w aplikacjach AI rodzi pytania dotyczące prywatności, bezpieczeństwa danych i odpowiedzialności organizacyjnej. W Stanach Zjednoczonych zgodność z ustawą o przenośności i odpowiedzialności ubezpieczeniowej (HIPAA) jest istotnym zagadnieniem. Jednak zapewnienia dostawcy AI dotyczące zgodności z HIPAA nie oznaczają automatycznie, że poszczególni klinicyści są uprawnieni do przesyłania chronionych informacji pacjentów.
Organizacje zdrowotne muszą ocenić umowy kontraktowe, środki bezpieczeństwa i warunki operacyjne regulujące każdą aplikację. Ryzyka kliniczne wymagają osobnego rozważenia. Odpowiedzi generowane przez AI mogą zawierać nieścisłości, pomijać istotne informacje lub dostarczać rekomendacje, które są nieodpowiednie dla konkretnego pacjenta.
W związku z tym organizacje muszą ustalić, jak ocenia się wyniki AI, jak klinicyści mogą weryfikować podstawowe dowody i kto pozostaje odpowiedzialny za decyzje podejmowane przy użyciu technologii.
Zarządzanie musi nadążać za przyjęciem
Wyzwania te nie ograniczają się do Stanów Zjednoczonych. Europejskie organizacje zdrowotne muszą ocenić przetwarzanie osobowych informacji zdrowotnych zgodnie z Ogólnym rozporządzeniem o ochronie danych (RODO). W zależności od zamierzonego użycia i cech aplikacji AI, mogą również obowiązywać przepisy dotyczące wyrobów medycznych oraz wymagania wynikające z Europejskiej ustawy o AI.
Ograniczenie dostępu do narzędzia AI może rozwiązać natychmiastowe obawy dotyczące nieautoryzowanego przetwarzania danych, ale niekoniecznie zmniejsza zapotrzebowanie klinicystów na szybki dostęp do dowodów medycznych. Z drugiej strony, udostępnienie aplikacji poprzez zatwierdzony system kliniczny nie eliminuje potrzeby niezależnej oceny, jasnych odpowiedzialności i ciągłego nadzoru.
Przeciwstawne podejścia przyjęte przez amerykańskie szpitale podkreślają znaczenie zaangażowania profesjonalistów zdrowotnych, specjalistów ds. bezpieczeństwa informacji i zespołów zarządzania klinicznego w decyzje dotyczące wdrażania AI. W miarę jak narzędzia AI stają się coraz powszechniej stosowane w praktyce klinicznej, organizacje zdrowotne stoją przed zadaniem ustalenia warunków, na jakich te technologie mogą być używane odpowiedzialnie. Wymaga to uwagi nie tylko na możliwości technologii, ale także na prywatność pacjentów, walidację kliniczną i odpowiedzialność.
Źródło: https://www.icthealth.org/news/hospital-blocks-ai-tool-over-patient-data-concerns
Źródło: www.icthealth.org