Szpital blokuje narzędzie AI z powodu obaw o dane pacjentów
Amerykańska organizacja zdrowotna zablokowała dostęp do narzędzia AI po tym, jak lekarz wprowadził dane z ponad 100 rekordów pacjentów.
Amerykańska organizacja zdrowotna zablokowała dostęp do narzędzia AI wspierającego decyzje kliniczne po odkryciu, że lekarz wprowadził informacje z ponad 100 rekordów pacjentów do platformy. Podczas gdy niektóre szpitale ograniczają dostęp do takich aplikacji, inne integrują je z elektronicznymi rekordami zdrowia (EHR). Różne podejścia podkreślają wyzwania, przed którymi stoją organizacje zdrowotne w zakresie przyjęcia AI, prywatności pacjentów i bezpieczeństwa klinicznego.
W Monument Health, działającym w Południowej Dakocie i Wyoming, użycie OpenEvidence wzbudziło obawy dotyczące przetwarzania wrażliwych informacji pacjentów. Jak podaje STAT, dyrektor ds. informacji organizacji, Patrick Woodard, spotkał się z protestami po ograniczeniu dostępu do platformy.
Decyzja ta zapadła po odkryciu, że lekarz użył OpenEvidence do wspierania decyzji klinicznych, wykorzystując informacje z ponad 100 rekordów pacjentów. Incydent ten ilustruje szersze wyzwanie dla organizacji zdrowotnych. Klinicyści mogą niezależnie przyjmować aplikacje AI w celu wsparcia swojej codziennej pracy, podczas gdy szpitale muszą zapewnić, że przetwarzanie informacji pacjentów jest zgodne z obowiązującymi wymaganiami dotyczącymi prywatności, bezpieczeństwa i zarządzania klinicznego.
Rosnące wykorzystanie AI w klinice
OpenEvidence to platforma zasilana AI, zaprojektowana do pozyskiwania i syntezowania dowodów medycznych w odpowiedzi na pytania kliniczne. W przeciwieństwie do ogólnych chatbotów, aplikacja ta jest skierowana do profesjonalistów medycznych poszukujących informacji wspierających podejmowanie decyzji klinicznych. Badanie opublikowane w JAMA zbadało 271 milionów zapytań przesłanych do OpenEvidence przez 952 008 amerykańskich klinicystów w okresie od stycznia 2024 do czerwca 2026. Użytkownikami było 556 200 lekarzy. Wśród lekarzy pytania dotyczące leczenia i zarządzania pacjentami stanowiły 33,1% zapytań, w porównaniu do 13,9% dotyczących diagnozy.
Te wyniki dostarczają wglądu w to, jak klinicyści korzystają z technologii. Badanie nie ustaliło jednak, czy odpowiedzi generowane przez AI były dokładne, jak często klinicyści działali na podstawie rekomendacji, ani czy ich użycie poprawiło wyniki pacjentów. Proporcja zapytań związanych z leczeniem pokazuje jednak, że klinicyści konsultują platformę w kwestiach bezpośrednio związanych z zarządzaniem pacjentami.
Różne podejścia
Podczas gdy Monument Health ograniczył dostęp do OpenEvidence, inne amerykańskie organizacje zdrowotne zdecydowały się na integrację platformy z systemami informacji klinicznej. W październiku Northwestern Medicine ogłosił integrację z systemem elektronicznych rekordów zdrowia Epic, umożliwiając autoryzowanym zespołom klinicznym dostęp do OpenEvidence w ramach istniejących procesów pracy. NYU Langone Health ogłosiło podobną integrację, mającą na celu połączenie dostępu do dowodów medycznych z odpowiednim kontekstem pacjenta.
Takie integracje oferują organizacjom zdrowotnym możliwości zarządzania dostępem i ustanawiania kontroli w ramach istniejących procesów klinicznych. Jednak integracja aplikacji AI z EHR nie gwarantuje automatycznie jej bezpieczeństwa klinicznego ani nie zapewnia odpowiedniej ochrony informacji pacjentów. Szpitale muszą nadal oceniać, jak przetwarzane są informacje, jakie dane są udostępniane zewnętrznym systemom i jakie zabezpieczenia są stosowane.
Prywatność i odpowiedzialność kliniczna
Użycie informacji pacjentów w aplikacjach AI rodzi pytania dotyczące prywatności, bezpieczeństwa danych i odpowiedzialności organizacyjnej. W Stanach Zjednoczonych zgodność z ustawą o przenośności i odpowiedzialności ubezpieczeniowej (HIPAA) jest istotnym zagadnieniem. Jednak zapewnienia dostawcy AI o zgodności z HIPAA nie oznaczają automatycznie, że poszczególni klinicyści są uprawnieni do przesyłania chronionych informacji pacjentów.
Organizacje zdrowotne muszą ocenić umowy kontraktowe, środki bezpieczeństwa i warunki operacyjne regulujące każdą aplikację. Ryzyka kliniczne wymagają osobnego rozważenia. Odpowiedzi generowane przez AI mogą zawierać nieścisłości, pomijać istotne informacje lub dostarczać rekomendacje, które są nieodpowiednie dla konkretnego pacjenta.
W związku z tym organizacje muszą ustalić, jak ocenia się wyniki AI, jak klinicyści mogą weryfikować podstawowe dowody oraz kto pozostaje odpowiedzialny za decyzje podejmowane z wykorzystaniem technologii.
Zarządzanie musi nadążać za przyjęciem
Wyzwania te nie ograniczają się do Stanów Zjednoczonych. Europejskie organizacje zdrowotne muszą ocenić przetwarzanie osobowych informacji zdrowotnych zgodnie z Ogólnym Rozporządzeniem o Ochronie Danych (GDPR). W zależności od zamierzonego użycia i cech aplikacji AI mogą również obowiązywać przepisy dotyczące wyrobów medycznych oraz wymagania wynikające z Europejskiej Ustawy o AI.
Ograniczenie dostępu do narzędzia AI może rozwiązać natychmiastowe obawy dotyczące nieautoryzowanego przetwarzania danych, ale niekoniecznie zmniejsza zapotrzebowanie klinicystów na szybki dostęp do dowodów medycznych. Z drugiej strony, udostępnienie aplikacji poprzez zatwierdzony system kliniczny nie eliminuje potrzeby niezależnej oceny, jasnych odpowiedzialności i ciągłego nadzoru.
Różne podejścia przyjęte przez amerykańskie szpitale podkreślają znaczenie zaangażowania profesjonalistów medycznych, specjalistów ds. bezpieczeństwa informacji oraz zespołów zarządzania klinicznego w decyzje dotyczące wdrażania AI. W miarę jak narzędzia AI stają się coraz powszechniej stosowane w praktyce klinicznej, organizacje zdrowotne muszą ustalić warunki, na jakich te technologie mogą być używane odpowiedzialnie. Wymaga to uwagi nie tylko na możliwości technologii, ale także na prywatność pacjentów, walidację kliniczną i odpowiedzialność.
Źródło: https://www.icthealth.org/news/hospital-blocks-ai-tool-over-patient-data-concerns
Źródło: www.icthealth.org