Jak świat reguluje sztuczną inteligencję w ochronie zdrowia i dlaczego jest to skomplikowane
Regulacje dotyczące sztucznej inteligencji w ochronie zdrowia są dostosowywane do dynamicznych zmian w technologii oraz potrzeb bezpieczeństwa pacjentów.
W miarę jak sztuczna inteligencja (AI) staje się integralną częścią opieki zdrowotnej, regulacje ewoluują, aby zapewnić bezpieczeństwo, skuteczność, ochronę danych i odpowiedzialność. W takich regionach jak Europa, Stany Zjednoczone, Australia i Chiny, AI jest głównie regulowana w ramach istniejących przepisów dotyczących wyrobów medycznych. Te ramy dostarczają struktury, ale tylko częściowo odpowiadają na dynamiczny charakter uczenia maszynowego i generatywnej AI.
Równowaga między innowacją a regulacją
Regulacja AI w ochronie zdrowia kształtowana jest przez napięcie między umożliwieniem innowacji a zapewnieniem bezpieczeństwa, co bezpośrednio wpływa na projektowanie ram regulacyjnych w różnych regionach. Napięcie to wynika z konkretnych ryzyk, takich jak stronnicze decyzje kliniczne wynikające z nieprzedstawiających danych, ograniczona przejrzystość modeli „czarnej skrzynki”, podatności na cyberataki, niejasna odpowiedzialność w przypadku błędów oraz zdolność systemów do ewolucji bez nadzoru. W rezultacie regulatorzy muszą nieustannie balansować potrzebę szybkiego wdrażania z wymogiem ochrony bezpieczeństwa pacjentów.
W Stanach Zjednoczonych ten balans odzwierciedla elastyczny, iteracyjny model regulacyjny. Administracja Żywności i Leków (FDA) buduje swoją ramę od 2019 roku, opierając się na wytycznych dotyczących Oprogramowania jako Wyrobu Medycznego (SaMD), Planie Działań AI/ML oraz Dobrych Praktykach Uczenia Maszynowego. Wprowadzenie Planów Kontroli Zmian Z góry (PCCP) adresuje kluczowe ryzyko AI: niekontrolowaną ewolucję po wdrożeniu. Wymagając od deweloperów zdefiniowania z góry, jak systemy mogą być aktualizowane, regulatorzy umożliwiają ciągłe doskonalenie przy zachowaniu nadzoru.
Chiny stosują bardziej kontrolowane podejście. Krajowa Administracja Produktów Medycznych (NMPA) klasyfikuje większość urządzeń medycznych AI jako Klasa III, najwyższą kategorię ryzyka, co odzwierciedla obawy dotyczące bezpieczeństwa, jakości danych i niezawodności systemu. Jednocześnie Chiny rozwijają AI w swoim systemie ochrony zdrowia poprzez krajowe strategie, w tym szerokie wdrażanie diagnostyki wspomaganej AI. Regulacje i polityka przemysłowa są ściśle powiązane, łącząc surowy nadzór z szybkim wdrażaniem.
Unia Europejska koncentruje się na łagodzeniu ryzyk systemowych poprzez kompleksowe ustawodawstwo. Zgodnie z Rozporządzeniem w sprawie Wyrobów Medycznych (MDR), AI traktowana jest jako wyrób medyczny, co wymaga dowodów klinicznych i oceny zgodności. Akt AI wprowadza dodatkową warstwę, klasyfikując medyczną AI jako wysokiego ryzyka i wprowadzając wymagania dotyczące przejrzystości, nadzoru ludzkiego i zarządzania ryzykiem w całym cyklu życia. Ta struktura bezpośrednio adresuje ryzyka takie jak nieprzejrzystość, stronniczość i brak odpowiedzialności.
Inne regiony stosują różne warianty tego balansu. Japonia zajmuje się ryzykiem niekontrolowanych aktualizacji systemów poprzez Protokół Zarządzania Zmianami Po Zatwierdzeniu (PACMP), umożliwiając zdefiniowane zmiany pod nadzorem regulacyjnym. Australia stosuje model niezwiązany z technologią, koncentrując się na zamierzonym użyciu i klasyfikacji ryzyka, jednocześnie aktualizując wytyczne, aby odpowiedzieć na wyzwania związane z oprogramowaniem.
Wszystkie jurysdykcje wykazują surowsze regulacje w ochronie zdrowia w porównaniu do innych sektorów, co odzwierciedla bezpośredni wpływ AI na diagnozowanie, leczenie i wyniki pacjentów. Ramy regulacyjne mają na celu łagodzenie ryzyk klinicznych, technicznych i etycznych, jednocześnie pozwalając na kontrolowaną innowację w określonych granicach.
Regulacja oparta na ryzyku jako globalny standard
Charakterystyczną cechą zarządzania AI w ochronie zdrowia jest stosowanie systemów klasyfikacji opartych na ryzyku. W Kanadzie narzędzia wspierane przez AI są regulowane na podstawie Ustawy o Żywności i Lekach oraz Regulacji dotyczących Wyrobów Medycznych. Urządzenia klasyfikowane są od Klasy I (niskie ryzyko) do Klasy IV (najwyższe ryzyko). Urządzenia o wyższym ryzyku wymagają licencjonowania oraz złożenia szczegółowej dokumentacji, w tym dowodów klinicznych, walidacji oprogramowania i planów zarządzania ryzykiem.
W Stanach Zjednoczonych stosuje się system klasyfikacji trzech poziomów (Klasa I–III). Większość urządzeń AI klasyfikowana jest jako Klasa II i zatwierdzana przez ścieżkę 510(k), co wskazuje na umiarkowane ryzyko. Ta ścieżka opiera się na wykazaniu istotnej równoważności z istniejącym urządzeniem. Urządzenia o wysokim ryzyku wymagają Zatwierdzenia Przedrynkowego (PMA), co wiąże się z bardziej szczegółowymi dowodami i dłuższymi czasami przeglądu.
Unia Europejska stosuje czteropoziomowy system klasyfikacji w ramach MDR (Klasa I, IIa, IIb, III), w połączeniu z kategoriami ryzyka Aktu AI (nieakceptowalne, wysokie, ograniczone, minimalne). Medyczna AI jest wyraźnie klasyfikowana jako wysokiego ryzyka, co uruchamia surowe wymagania regulacyjne, w tym oceny zgodności, dokumentację techniczną i bieżące monitorowanie.
Japonia działa w systemie czteroklasowym (Klasa I–IV), przy czym wiele aplikacji AI, takich jak narzędzia do diagnostyki obrazowej, klasyfikowanych jest jako Klasa III lub IV. Australia stosuje system trzech klas (Klasa I–III), podczas gdy Indie stosują klasy A do D zgodnie z Zasadami dotyczących Wyrobów Medycznych (2017).
Chiny również stosują system Klasa I–III, ale z charakterystycznym wzorem: większość urządzeń medycznych AI przypisuje się do Klasy III. Odzwierciedla to ostrożne podejście regulacyjne wobec nowych technologii.
Wszystkie jurysdykcje klasyfikacja określa poziom nadzoru. Urządzenia o wyższym ryzyku wymagają obszernej dokumentacji, w tym danych dotyczących bezpieczeństwa i wydajności, walidacji klinicznej, weryfikacji oprogramowania oraz systemów zarządzania jakością.
Ta konwergencja w kierunku klasyfikacji opartej na ryzyku odzwierciedla wspólną zasadę regulacyjną: poziom nadzoru powinien odpowiadać potencjalnemu wpływowi na zdrowie pacjentów.
Ścieżki zatwierdzania i kontrola cyklu życia
Ścieżki zatwierdzania dla urządzeń medycznych AI opierają się na istniejących procesach regulacyjnych, z rosnącym naciskiem na zarządzanie cyklem życia.
W Stanach Zjednoczonych ścieżka 510(k) jest główną drogą dla urządzeń AI, z czasem przeglądu wynoszącym zazwyczaj około sześciu miesięcy. Urządzenia o wysokim ryzyku wymagające Zatwierdzenia Przedrynkowego mogą wymagać od jednego do dwóch lat. FDA promuje również nadzór cyklu życia poprzez PCCP, umożliwiając kontrolowane aktualizacje algorytmów bez konieczności pełnego ponownego zatwierdzenia.
Kanada stosuje podobne ramy czasowe, z okresami przeglądu wynoszącymi około 75 do 120 dni dla urządzeń Klasy II–IV. Wytyczne Health Canada z 2026 roku dotyczące Urządzeń Medycznych Wspieranych Uczeniem Maszynowym kładą nacisk na zarządzanie cyklem życia, w tym na to, jak algorytmy są aktualizowane, walidowane i monitorowane w czasie.
Japonia wprowadziła Protokół Zarządzania Zmianami Po Zatwierdzeniu (PACMP) w 2020 roku, stając się jednym z pierwszych regionów, które formalnie zajęły się adaptacyjną AI. PACMP pozwala na zdefiniowane aktualizacje w kontrolowanym ramach, zmniejszając obciążenie regulacyjne przy zachowaniu bezpieczeństwa.
W Unii Europejskiej urządzenia muszą uzyskać oznakowanie CE zgodnie z MDR. Dla urządzeń Klasy II i III wiąże się to z oceną przez Organy Notyfikowane. Systemy AI muszą również spełniać wymagania Aktu AI, w tym systemy zarządzania ryzykiem, obowiązki przejrzystości i mechanizmy nadzoru ludzkiego. Połączenie MDR i Aktu AI tworzy podwójną warstwę regulacyjną.
Australia wymaga wpisu do Australijskiego Rejestru Wyrobów Terapeutycznych (ARTG). Czas zatwierdzenia różni się w zależności od klasy ryzyka, przy czym urządzenia o niższym ryzyku często przetwarzane są w ciągu 30 do 60 dni. Urządzenia o wyższym ryzyku wymagają zewnętrznej oceny zgodności.
Chiny wymagają rejestracji dla urządzeń Klasy II i III przez NMPA, z czasami przeglądu wynoszącymi zazwyczaj od 8 do 12 miesięcy. Wytyczne regulacyjne wydane w latach 2019-2022 określają szczegółowe wymagania dotyczące walidacji algorytmu, jakości danych i zarządzania cyklem życia.
Indie wymagają licencjonowania dla urządzeń o wyższym ryzyku (Klasa C i D), z czasami zatwierdzenia wynoszącymi zazwyczaj od 90 do 120 dni. Ostatnie inicjatywy, takie jak Strategia AI w Ochronie Zdrowia (SAHI) i platforma benchmarkingowa BODH, wspierają walidację i wdrażanie systemów AI.
We wszystkich regionach kontrola cyklu życia staje się centralnym punktem regulacyjnym. Mechanizmy takie jak PCCP i PACMP odpowiadają na wyzwanie adaptacyjnej AI, gdzie systemy ewoluują na podstawie nowych danych. Regulatorzy coraz częściej wymagają zdefiniowanych protokołów aktualizacji, ciągłej walidacji i monitorowania wydajności w rzeczywistych warunkach.
Zarządzanie danymi, monitorowanie i egzekwowanie
Zarządzanie danymi jest fundamentalnym elementem regulacji AI w ochronie zdrowia, ponieważ systemy AI zależą od danych w dużej skali do szkolenia i działania.
W Unii Europejskiej Ogólne Rozporządzenie o Ochronie Danych (GDPR) ustanawia surowe zasady przetwarzania danych osobowych, w tym danych zdrowotnych. Europejska Przestrzeń Danych Zdrowotnych (EHDS) ma na celu umożliwienie transgranicznego udostępniania danych do badań i rozwoju AI, jednocześnie zachowując zabezpieczenia dotyczące prywatności i bezpieczeństwa.
Stany Zjednoczone stosują Ustawę o Przenośności i Odpowiedzialności Ubezpieczenia Zdrowotnego (HIPAA), która reguluje użycie i ujawnianie informacji zdrowotnych w kontekście klinicznym. Kanada korzysta z Ustawy o Ochronie Informacji Osobowych i Dokumentach Elektronicznych (PIPEDA), uzupełnionej przez przepisy prowincjonalne.
Japonia egzekwuje Ustawę o Ochronie Informacji Osobowych (APPI), która reguluje wykorzystanie danych, zgodę i transgraniczne transfery. Chiny stosują Ustawę o Ochronie Informacji Osobowych (PIPL) oraz Ustawę o Bezpieczeństwie Danych, które nakładają surowe wymagania dotyczące przetwarzania i przechowywania danych.
Indie obecnie opierają się na przepisach zawartych w Ustawie o Technologiach Informacyjnych i opracowują kompleksowy system ochrony danych. Krajowa Misja Zdrowia Cyfrowego wspiera interoperacyjność i infrastrukturę cyfrową.
Monitorowanie po wprowadzeniu na rynek jest obowiązkowe we wszystkich jurysdykcjach. Producenci muszą zgłaszać niepożądane zdarzenia i utrzymywać systemy zarządzania jakością. Organy regulacyjne, takie jak FDA, NMPA, PMDA, TGA i krajowe organy europejskie przeprowadzają inspekcje i egzekwują zgodność.
Systemy monitorowania obejmują bazy danych do zgłaszania niepożądanych zdarzeń, okresowe wymagania dotyczące ponownej oceny oraz audyty systemów jakości. W Japonii urządzenia o wyższym ryzyku wymagają ponownej oceny w ciągu trzech do pięciu lat po zatwierdzeniu. W Stanach Zjednoczonych niepożądane zdarzenia zgłaszane są za pośrednictwem bazy danych MAUDE.
Ramowe zasady odpowiedzialności opierają się na istniejących przepisach dotyczących odpowiedzialności za produkt i zaniedbania. Producenci są odpowiedzialni za zapewnienie bezpieczeństwa i wydajności. W Unii Europejskiej zaktualizowana Dyrektywa o Odpowiedzialności za Produkt wzmacnia odpowiedzialność za wadliwe produkty, w tym systemy AI.
Skalowalność czy bezpieczeństwo? To dylemat
Obecny krajobraz zarządzania AI w ochronie zdrowia jest szeroko dokumentowany w ostatnich analizach międzynarodowych, w tym w raporcie AI Governance in Health: Global Landscape autorstwa HealthAI oraz raporcie OECD „Scaling Artificial Intelligence in Health”. Dostarczają one szczegółowego porównania podejść regulacyjnych i podkreślają kluczowe trendy strukturalne.
Wskazują, że AI jest już szeroko stosowana w systemach ochrony zdrowia, szczególnie w funkcjach administracyjnych i konkretnych zastosowaniach klinicznych, takich jak obrazowanie. Jednocześnie wdrażanie na dużą skalę pozostaje ograniczone. Zgodnie z danymi OECD, podczas gdy AI jest wykorzystywana w procesach administracyjnych we wszystkich krajach członkowskich, adopcja na poziomie krajowym dla zastosowań klinicznych, takich jak obrazowanie medyczne, pozostaje niska.
Raporty identyfikują zarządzanie jako główny czynnik ograniczający. Fragmentaryczne ramy regulacyjne, niewystarczająca infrastruktura danych i luki w nadzorze cyklu życia ograniczają skalowalność. Podkreślają również znaczenie skoordynowanych podejść politycznych, w tym współpracy między regulatorami, dostawcami usług zdrowotnych i interesariuszami przemysłowymi.
We wszystkich analizowanych regionach występuje konwergencja w kierunku regulacji opartej na ryzyku, wykorzystania ustalonych ram wyrobów medycznych oraz rosnącego nacisku na zarządzanie cyklem życia. Różnice pozostają w surowości regulacji, czasach zatwierdzania, modelach zarządzania danymi i priorytetach strategicznych. Te różnice odzwierciedlają szersze konteksty ekonomiczne, prawne i polityczne kształtujące sposób, w jaki AI jest integrowana w systemy ochrony zdrowia.
Jednocześnie regulacje koncentrują się głównie na oficjalnie zatwierdzonych narzędziach medycznych AI, mimo że szybkość rozwoju AI sprawia, że ciągły nadzór staje się coraz bardziej wyzwaniem. Rosnący udział wykorzystania AI w ochronie zdrowia odbywa się poza tymi ramami, poprzez narzędzia konsumenckie, takie jak chatboty i ogólne systemy AI używane bezpośrednio przez pacjentów oraz, coraz częściej, przez profesjonalistów ochrony zdrowia. Ta „cieniowa AI” działa poza formalnymi granicami regulacyjnymi, wpływając na decyzje zdrowotne, triage i przepływy kliniczne bez przechodzenia przez tę samą walidację czy nadzór. Z powodu jej skali, dostępności i szybkiej ewolucji, ten segment pozostaje trudny do monitorowania i regulowania w ramach istniejących struktur.
Źródło: https://www.icthealth.org/news/how-the-world-regulates-ai-in-health-and-why-its-complex
Źródło: www.icthealth.org