Deepfake'owe obrazy rentgenowskie wprowadzają w błąd lekarzy i systemy AI
Międzynarodowe badania ujawniają, że deepfake'owe obrazy rentgenowskie mogą zagrażać bezpieczeństwu procesów medycznych.
Badania międzynarodowe wykazały, że zarówno radiolodzy, jak i zaawansowane modele AI mają trudności z odróżnieniem obrazów rentgenowskich generowanych przez AI od prawdziwych. Naukowcy ostrzegają, że te tzw. deepfake'i stanowią poważne zagrożenie dla wiarygodności obrazowania medycznego oraz bezpieczeństwa procesów zdrowotnych.
Deepfake'i to obrazy generowane lub manipulowane za pomocą AI, które są praktycznie nieodróżnialne od rzeczywistych. W badaniu 17 radiologów z sześciu krajów oceniło łącznie 264 obrazy rentgenowskie, z czego połowa była sztucznie wygenerowana. Gdy nie wiedzieli, że deepfake'i są wśród nich, tylko 41 procent rozpoznało je spontanicznie. Po wyraźnym ostrzeżeniu średnia dokładność wzrosła do 75 procent, z istotnymi różnicami między poszczególnymi oceniającymi.
Cztery multimodalne modele AI, w tym GPT-4o, GPT-5, Gemini i Llama, również wykazały niespójne wyniki, z dokładnością detekcji w zakresie od 52 do 89 procent. Co ciekawe, nawet model, który generował obrazy, nie był w stanie poprawnie zidentyfikować wszystkich deepfake'ów. Badanie zostało niedawno opublikowane w czasopiśmie Radiology.
Ryzyko dla diagnostyki i cyberbezpieczeństwa
Według badaczy, ten rozwój stwarza nowe luki. Na przykład, zmanipulowane obrazy mogą być wykorzystywane w oszustwach lub roszczeniach prawnych, takich jak przedstawienie nieistniejącego złamania jako prawdziwego. Dodatkowo istnieje ryzyko, że złośliwi aktorzy mogą wprowadzać syntetyczne obrazy do systemów szpitalnych, co może mieć konsekwencje dla diagnoz i bezpieczeństwa pacjentów.
Badanie pokazuje również, że doświadczenie nie jest gwarancją sukcesu: liczba lat pracy wśród radiologów nie miała wyraźnego wpływu na ich zdolność do rozpoznawania deepfake'ów. Jednak specjaliści w dziedzinie układu mięśniowo-szkieletowego byli nieco lepsi w wykrywaniu nieprawidłowości.
„Zbyt doskonałe” obrazy jako sygnał ostrzegawczy
Według badaczy, obrazy rentgenowskie deepfake często wykazują subtelne cechy, takie jak nienaturalnie gładkie struktury kostne, symetryczne pola płuc lub „zbyt schludne” złamania. Jednak te sygnały są trudne do rozpoznania w praktyce.
Aby zapobiec nadużyciom, badacze postulują wprowadzenie środków technicznych i organizacyjnych. Należą do nich cyfrowe znaki wodne i podpisy kryptograficzne dodawane bezpośrednio w momencie tworzenia obrazów. Szkolenie pracowników służby zdrowia oraz rozwijanie narzędzi detekcyjnych są również niezbędne.
Według badaczy, to dopiero początek: kolejnym krokiem będzie pojawienie się deepfake'owych obrazów 3D, takich jak skany CT i MRI. Z tego powodu argumentują, że kluczowe jest inwestowanie w detekcję i świadomość w sektorze ochrony zdrowia.
Propozycja legislacyjna
Deepfake'i to rosnące zjawisko, także w sektorze ochrony zdrowia. Dotyczy to szczególnie wykorzystania głosów i wizerunków (znanych) profesjonalistów medycznych, które są nadużywane do szerzenia fałszywych informacji lub nieprawidłowych informacji medycznych. Częściowo z tego powodu Holandia intensywnie pracuje nad nowym projektem ustawy, który ma lepiej regulować wykorzystanie deepfake'ów.
Proponowana ustawa wyraźnie przyznaje ludziom prawo do autoryzacji lub zakazu wykorzystywania ich głosu i wizerunku, dając tym samym profesjonalistom medycznym większą kontrolę nad ich cyfrową tożsamością. Dodatkowo nowa ustawa ułatwi podejmowanie działań prawnych przeciwko deepfake'om, zarówno w sądach cywilnych, jak i karnych. W ten sposób propozycja przyczynia się do walki z dezinformacją medyczną i utrzymania zaufania do systemu ochrony zdrowia.
Źródło: https://www.icthealth.org/news/deepfake-x-ray-images-mislead-doctors-and-ai-systems
Źródło: www.icthealth.org