medCLOUD › Aktualności

Eksperci ostrzegają: AI może osłabić umiejętności kliniczne nowych lekarzy

Eksperci wskazują, że nadmierne poleganie na AI w medycynie może osłabić krytyczne myślenie przyszłych lekarzy, co wymaga rewizji programów nauczania.

Generatywna AI szybko wkracza do edukacji medycznej i szkoleń klinicznych. Jednak bez jasnych polityk instytucjonalnych i regulacyjnych, silne uzależnienie od tych narzędzi może osłabić umiejętności krytycznego myślenia nowych i przyszłych lekarzy, ostrzegają eksperci w artykule opublikowanym w BMJ Evidence Based Medicine.

Autorzy podkreślają rosnące napięcie: podczas gdy AI może przyspieszyć naukę i podejmowanie decyzji, technologia niesie ze sobą istotne ryzyka, szczególnie dla studentów i młodszych klinicystów, którzy wciąż rozwijają podstawowe umiejętności kliniczne.

Ryzyka związane z niekontrolowanym wprowadzeniem AI

Zespół badawczy Uniwersytetu Missouri wskazuje na kilka obaw, które stają się coraz bardziej istotne w miarę włączania AI do rutynowej pracy medycznej:

Przemyślenie edukacji medycznej w erze AI

Aby przeciwdziałać tym ryzykom, autorzy postulują znaczne przekształcenie ocen i programów nauczania w medycynie. Zamiast oceniać tylko końcowe wyniki, nauczyciele powinni oceniać proces rozumowania, zakładając, że uczniowie będą korzystać z narzędzi AI.

Zalecają również tworzenie ocen bez użycia AI, w tym nadzorowanych egzaminów praktycznych i ocen osobistych, które koncentrują się na komunikacji przyłóżkowej, badaniach fizycznych, pracy zespołowej i profesjonalnym osądzie, kompetencjach, które nie mogą być zlecone algorytmom.

Umiejętność korzystania z AI powinna być traktowana jako kluczowa kompetencja. Przyszli klinicyści muszą rozumieć, jak działa AI, gdzie pasuje w procesach klinicznych oraz jak oceniać jej wydajność, ograniczenia i potencjalne uprzedzenia.

Jednym z efektywnych podejść jest integracja ćwiczeń krytycznego myślenia, w których uczniowie muszą oceniać odpowiedzi AI zawierające zarówno poprawne, jak i celowo wadliwe elementy, akceptując, modyfikując lub odrzucając je na podstawie podstawowych dowodów.

Apel o regulacyjne wytyczne

Autorzy argumentują, że edukatorzy nie mogą samodzielnie zarządzać tymi wyzwaniami. Regulatorzy, stowarzyszenia zawodowe i organy akredytacyjne powinny wydawać jasne i regularnie aktualizowane wytyczne dotyczące roli AI w edukacji i szkoleniu medycznym.

Ich wniosek jest jasny: podczas gdy generatywna AI oferuje znaczące korzyści, niesie również realne ryzyko dla uczniów medycyny. Bez proaktywnego zarządzania, AI może prowadzić do nadmiernego polegania, wzmacniać uprzedzenia i zakłócać rozwój kluczowych umiejętności rozumowania klinicznego. Programy medyczne muszą pozostać czujne, nieustannie dostosowywać swoje strategie szkoleniowe i zapewnić, że AI wzmacnia, a nie osłabia, następną generację profesjonalistów w dziedzinie zdrowia.

GenAI w kształtowaniu praktyki klinicznej

W zeszłym miesiącu opublikowano przegląd w Nature Medicine, który stwierdził, że generatywna AI zaczyna kształtować praktykę kliniczną. Głównie jako asystent, a nie autonomiczny decydent. Nowoczesne modele transformacyjne, takie jak GPT-5, Gemini 2.5 Pro i DeepSeek-R1, potrafią rozwiązywać problemy kliniczne, wyszukiwać wytyczne, pisać notatki, a nawet generować kod do testowania hipotez. Kluczowe jest to, że te systemy mogą być trenowane na mniejszych, specyficznych dla dziedziny zbiorach danych, co pozwala szpitalom budować dostosowane modele bez ogromnych kosztów obliczeniowych.

Autorzy podkreślają potencjał współpracy AI, opisując „triadę lekarz-pacjent-AI”, w której AI oferuje oparte na dowodach spostrzeżenia, podczas gdy klinicyści utrzymują osąd i empatię. Wczesne badania pokazują, że zespoły ludzkie i AI przewyższają wyniki osiągane przez każdą z tych grup osobno w zadaniach triage i diagnostycznych.

Modele generatywne tworzą również syntetyczne dane medyczne, rekordy pacjentów, laboratoria lub obrazy, wspierając edukację i rozwój algorytmów przy jednoczesnym zachowaniu prywatności. Jednak syntetyczne zbiory danych niosą ryzyko, w tym nadmierne dopasowanie i przypadkową reidentyfikację, co wymaga ścisłej walidacji i zrównoważonego wykorzystania danych rzeczywistych i sztucznych.

AI już ułatwia obciążenia kliniczne: sporządzanie notatek, podsumowywanie wykresów i redukcję czasu dokumentacji o ponad 70% w pilotażowych projektach. Wspiera również edukację medyczną poprzez adaptacyjne nauczanie i realistyczne symulacje. Mimo to, halucynacje, uprzedzenia i błędy dokumentacji pozostają problemami.

Przegląd wezwał do przeprowadzenia rygorystycznych badań klinicznych, przejrzystej oceny, ciągłego monitorowania „dryfu wydajności” oraz szkolenia klinicystów w zakresie bezpiecznego korzystania z AI. Przy przemyślanym zarządzaniu, generatywna AI może poprawić dostarczanie opieki, przyspieszyć badania i poszerzyć globalny dostęp do wiedzy.

Źródło: https://www.icthealth.org/news/experts-warn-ai-may-undermine-new-doctors-clinical-reasoning

Źródło: www.icthealth.org

Cyberbezpieczeństwo w medycynie – monitoring SOC · Pakiety ochrony od 990 zł · Bezpłatna konsultacja