Nowe zmiany w unijnym akcie AI: opóźnienia, ale nie uproszczenia
Unijny akt AI miał chronić obywateli przed ryzykiem sztucznej inteligencji, ale krytycy wskazują na opóźnienia w wprowadzaniu narzędzi medycznych AI.
Unijny akt AI został zaprojektowany w celu ochrony Europejczyków przed ryzykiem związanym z sztuczną inteligencją. Krytycy twierdzą, że spowalnia on wprowadzanie narzędzi medycznych AI, wprowadzając niepewność w sektorze ochrony zdrowia oraz wywierając presję na przemysł medyczny w Europie. Bruksela postanowiła opóźnić kluczowe przepisy w ramach pakietu AI Omnibus, jednak zmiany są dalekie od oczekiwanego resetu regulacyjnego przez wiele firm.
Ochrona obywateli przed AI, ale i przed jej korzyściami
7 maja negocjatorzy z prezydencji Rady i Parlamentu Europejskiego osiągnęli wstępne porozumienie dotyczące zmian w akcie AI jako części szerszego pakietu uproszczeń „Omnibus VII”, znanego jako AI Omnibus. Inicjatywa ma na celu złagodzenie części regulacji dotyczących AI w UE poprzez opóźnienie obowiązków dla systemów wysokiego ryzyka, w tym tych stosowanych w ochronie zdrowia, zmniejszenie obciążeń związanych z przestrzeganiem przepisów oraz wprowadzenie ukierunkowanych uproszczeń dla firm rozwijających AI, szczególnie dla mniejszych przedsiębiorstw.
„Porozumienie w sprawie aktu AI znacząco wspiera nasze firmy, zmniejszając powtarzające się koszty administracyjne” – powiedziała Marilena Raouna, wiceminister ds. europejskich Republiki Cypru.
Bruksela uznała, że chociaż akt AI został stworzony z dobrymi intencjami, niektóre przepisy mogą skutecznie stłumić innowacje w ochronie zdrowia, na które czekają lekarze i pacjenci. Jednym z pierwszych przykładów jest OpenEvidence, platforma generatywnej AI zaprojektowana do wspierania podejmowania decyzji klinicznych. Mimo że 42% lekarzy w Stanach Zjednoczonych korzysta z tej platformy, jest ona niedostępna w Europie od kwietnia 2026 roku. Zgodnie z aktem AI, taki system klasyfikowany jest jako wysokiego ryzyka, co nakłada obowiązki, których firma nie jest w stanie realistycznie spełnić.
Akt AI reguluje systemy AI na podstawie poziomu ryzyka. Najsurowsze wymagania dotyczą tzw. systemów wysokiego ryzyka, w tym tych stosowanych w ochronie zdrowia. Te przepisy miały pierwotnie wejść w życie w sierpniu 2026 roku. Ramy te miały na celu zapewnienie silniejszych zabezpieczeń poprzez wymagania dotyczące przejrzystości, dokumentacji i zarządzania ryzykiem. Jednak deweloperzy AI i firmy medyczne ostrzegali, że zasady mogą stłumić rozwój algorytmów tworzonych w Europie i usunąć potencjalnie cenne narzędzia z rynku. Akt AI miał chronić obywateli przed szkodliwymi skutkami AI, ale krytycy twierdzą, że zaczyna również chronić ich przed jej korzyściami.
Krytyka koncentruje się na rozbudowanych wymaganiach dokumentacyjnych, niejasnych definicjach systemów wysokiego ryzyka, nakładających się regulacjach sektorowych, takich jak akt AI i regulacja dotycząca wyrobów medycznych, braku standardów technicznych oraz rosnącej odpowiedzialności prawnej związanej z szybko rozwijającymi się modelami AI. OpenEvidence nie jest jedynym przykładem. Inne dotknięte technologie to ChatGPT dla klinicystów, asystenci AI zaprojektowani do analizy danych medycznych oraz algorytmy predykcyjne. Również AI, które automatycznie generują dokumentację kliniczną podczas wizyt pacjentów, są dotknięte – chociaż takie narzędzia mogłyby kwalifikować się jako niskiego ryzyka, wielu dostawców ochrony zdrowia woli unikać niepewności regulacyjnej i całkowicie opóźniać wdrożenie.
AI Omnibus może rozczarować innowatorów
Nowy pakiet Omnibus łagodzi część tych presji. Najważniejsza zmiana dotyczy systemów wysokiego ryzyka. Zamiast sierpnia 2026 roku, niektóre przepisy będą teraz obowiązywać od grudnia 2027 roku. Dla systemów AI, które są już regulowane jako wyroby medyczne zgodnie z regulacją dotyczącą wyrobów medycznych, w tym narzędzi radiologicznych, oprogramowania diagnostycznego i systemów wsparcia decyzji krytycznych, termin został przesunięty do sierpnia 2028 roku.
AI Omnibus upraszcza również niektóre obowiązki, wprowadza wyjątki dla małych i średnich przedsiębiorstw, zmniejsza niepewność wynikającą z nakładających się regulacji oraz łagodzi wymagania dla systemów wspierających podejmowanie decyzji, a nie podejmujących decyzje autonomicznie.
Oficjalnie Komisja Europejska twierdzi, że zmiany te są konieczne, aby uniknąć niepewności prawnej i ponieważ standardy techniczne nie są jeszcze w pełni opracowane. Jednak szersza rzeczywistość jest taka, że akt AI próbował regulować technologię rozwijającą się tak szybko, że zasady wprowadzone dzisiaj mogą stać się nieaktualne jutro. Modele generatywne AI są wyraźnym przykładem. Ich wyniki są często trudne do wyjaśnienia, a ich zachowanie może ewoluować w sposób ciągły poprzez aktualizacje i adaptację. Systemy oparte na agentach już się pojawiają, podczas gdy AI jest integrowana z systemami elektronicznej dokumentacji medycznej, zacierając granice między aplikacjami wysokiego i niskiego ryzyka.
AI Omnibus jest częścią szerszej strategii Digital Omnibus, która ma na celu zmniejszenie biurokracji cyfrowej w całej Europie. W ochronie zdrowia ogromna liczba regulacji dotyczących technologii cyfrowych może zniechęcać nawet najbardziej zdeterminowanych innowatorów. Oprócz aktu AI, firmy muszą również poruszać się w ramach regulacji dotyczącej wyrobów medycznych, ogólnego rozporządzenia o ochronie danych, aktu o danych, NIS2 oraz ram dotyczących europejskiej przestrzeni danych zdrowotnych.
Komisja Europejska coraz bardziej dostrzega, że akt AI może spowolnić rozwój systemów generatywnej AI w ochronie zdrowia i wypchnąć startupy oraz firmy medyczne poza Unię Europejską. Jednak ci, którzy mają nadzieję na znaczną liberalizację, mogą być rozczarowani. Filozofia aktu AI pozostaje w dużej mierze nienaruszona. Ustawodawstwo nadal opiera się na klasyfikacji ryzyka, nadal wymaga obowiązków przejrzystości dla modeli AI, nadal tworzy rozbudowane wymagania dokumentacyjne i nadal wymaga nadzoru ludzkiego, nawet w sytuacjach, gdy systemy AI mogą przewyższać operatorów ludzkich.
Europejscy lekarze sceptyczni wobec deregulacji
Propozycje złagodzenia regulacji w ramach Digital Omnibus już spotkały się z krytyką ze strony Stałej Komisji Lekarzy Europejskich (CPME). W opublikowanym w kwietniu dokumencie pozycjonującym organizacja wezwała do ostrożnego podejścia do AI w medycynie. CPME argumentuje, że niektóre proponowane zmiany mogą osłabić ochronę prywatności i ułatwić przetwarzanie wrażliwych danych pacjentów na potrzeby rozwoju AI.
Organizacja szczególnie obawia się prób rozszerzenia wykorzystania danych pacjentów w formie zanonimizowanej lub pseudonimizowanej do szkolenia AI. CPME ostrzega, że osłabienie ochrony danych osobowych może podważyć zaufanie pacjentów i poufność medyczną, które pozostają kluczowe dla systemów ochrony zdrowia w Europie.
Zwolennicy deregulacji argumentują, że Europa ryzykuje pozostanie w tyle za Stanami Zjednoczonymi i Chinami, jeśli firmy będą nadal zmagać się z nadmiernymi obciążeniami związanymi z przestrzeganiem przepisów. Krytycy obecnego systemu twierdzą, że kontynent nie może jednocześnie domagać się przywództwa w dziedzinie AI, nakładając regulacyjne obowiązki, których mniejsze firmy nie są w stanie realistycznie spełnić.
Dyskusja na temat AI Omnibus odzwierciedla szersze napięcia w polityce ochrony zdrowia w Europie. Decydenci próbują jednocześnie zrównoważyć innowacje, bezpieczeństwo pacjentów, prywatność i konkurencyjność. Czy UE będzie w stanie osiągnąć wszystkie cztery cele jednocześnie, pozostaje otwartym pytaniem.
Wstępne porozumienie osiągnięte w maju wymaga jeszcze formalnej akceptacji zarówno Rady, jak i Parlamentu Europejskiego. Następnie przejdzie przegląd prawny i językowy, zanim legislacja zostanie oficjalnie przyjęta przez te dwie instytucje w nadchodzących tygodniach.
Źródło: https://www.icthealth.org/news/the-eu-ai-omnibus-cuts-deadlines-but-not-bureaucracy
Źródło: www.icthealth.org