Eksperci ostrzegają: AI może osłabić umiejętności kliniczne nowych lekarzy
Eksperci wskazują, że nadmierne poleganie na AI w medycynie może osłabić krytyczne myślenie przyszłych lekarzy, co wymaga rewizji programów nauczania.
Generatywna AI szybko wkracza do edukacji medycznej i szkoleń klinicznych. Jednak bez jasnych polityk instytucjonalnych i regulacyjnych, silne uzależnienie od tych narzędzi może osłabić umiejętności krytycznego myślenia nowych i przyszłych lekarzy, ostrzegają eksperci w artykule opublikowanym w BMJ Evidence Based Medicine.
Autorzy podkreślają rosnące napięcie: podczas gdy AI może przyspieszyć naukę i podejmowanie decyzji, technologia niesie ze sobą istotne ryzyka, szczególnie dla studentów i młodszych klinicystów, którzy wciąż rozwijają podstawowe umiejętności kliniczne.
Ryzyka związane z niekontrolowanym wprowadzeniem AI
Zespół badawczy Uniwersytetu Missouri wskazuje na kilka obaw, które stają się coraz bardziej istotne w miarę włączania AI do rutynowej pracy medycznej:
- Bias automatyzacji; rosnąca tendencja do bezkrytycznego zaufania informacjom generowanym przez AI.
- Przenoszenie myślenia; outsourcing rozumowania, oceny dowodów i syntezy klinicznej do systemów AI, co osłabia pamięć i umiejętności analityczne uczniów.
- Utrata umiejętności; zmniejszenie rozwoju kluczowych kompetencji wśród studentów i młodych klinicystów, którzy mogą nie mieć wiedzy, aby kwestionować wyniki AI.
- Reinforcement bias; wprowadzanie nierówności z uprzedzonych danych szkoleniowych do wytycznych klinicznych.
- Halucynacje; wiarygodnie napisane, ale nieprawdziwe lub wymyślone informacje.
- Ryzyka związane z prywatnością i bezpieczeństwem; szczególnie problematyczne w opiece zdrowotnej, gdzie zaangażowane są wrażliwe dane pacjentów.
Przemyślenie edukacji medycznej w erze AI
Aby przeciwdziałać tym ryzykom, autorzy postulują znaczne przekształcenie ocen i programów nauczania w medycynie. Zamiast oceniać tylko końcowe wyniki, nauczyciele powinni oceniać proces rozumowania, zakładając, że uczniowie będą korzystać z narzędzi AI.
Zalecają również tworzenie ocen bez użycia AI, w tym nadzorowanych egzaminów praktycznych i ocen osobistych, które koncentrują się na komunikacji przyłóżkowej, badaniach fizycznych, pracy zespołowej i profesjonalnym osądzie, kompetencjach, które nie mogą być zlecone algorytmom.
Umiejętność korzystania z AI powinna być traktowana jako kluczowa kompetencja. Przyszli klinicyści muszą rozumieć, jak działa AI, gdzie pasuje w procesach klinicznych oraz jak oceniać jej wydajność, ograniczenia i potencjalne uprzedzenia.
Jednym z efektywnych podejść jest integracja ćwiczeń krytycznego myślenia, w których uczniowie muszą oceniać odpowiedzi AI zawierające zarówno poprawne, jak i celowo wadliwe elementy, akceptując, modyfikując lub odrzucając je na podstawie podstawowych dowodów.
Apel o regulacyjne wytyczne
Autorzy argumentują, że edukatorzy nie mogą samodzielnie zarządzać tymi wyzwaniami. Regulatorzy, stowarzyszenia zawodowe i organy akredytacyjne powinny wydawać jasne i regularnie aktualizowane wytyczne dotyczące roli AI w edukacji i szkoleniu medycznym.
Ich wniosek jest jasny: podczas gdy generatywna AI oferuje znaczące korzyści, niesie również realne ryzyko dla uczniów medycyny. Bez proaktywnego zarządzania, AI może prowadzić do nadmiernego polegania, wzmacniać uprzedzenia i zakłócać rozwój kluczowych umiejętności rozumowania klinicznego. Programy medyczne muszą pozostać czujne, nieustannie dostosowywać swoje strategie szkoleniowe i zapewnić, że AI wzmacnia, a nie osłabia, następną generację profesjonalistów w dziedzinie zdrowia.
GenAI w kształtowaniu praktyki klinicznej
W zeszłym miesiącu opublikowano przegląd w Nature Medicine, który stwierdził, że generatywna AI zaczyna kształtować praktykę kliniczną. Głównie jako asystent, a nie autonomiczny decydent. Nowoczesne modele transformacyjne, takie jak GPT-5, Gemini 2.5 Pro i DeepSeek-R1, potrafią rozwiązywać problemy kliniczne, wyszukiwać wytyczne, pisać notatki, a nawet generować kod do testowania hipotez. Kluczowe jest to, że te systemy mogą być trenowane na mniejszych, specyficznych dla dziedziny zbiorach danych, co pozwala szpitalom budować dostosowane modele bez ogromnych kosztów obliczeniowych.
Autorzy podkreślają potencjał współpracy AI, opisując „triadę lekarz-pacjent-AI”, w której AI oferuje oparte na dowodach spostrzeżenia, podczas gdy klinicyści utrzymują osąd i empatię. Wczesne badania pokazują, że zespoły ludzkie i AI przewyższają wyniki osiągane przez każdą z tych grup osobno w zadaniach triage i diagnostycznych.
Modele generatywne tworzą również syntetyczne dane medyczne, rekordy pacjentów, laboratoria lub obrazy, wspierając edukację i rozwój algorytmów przy jednoczesnym zachowaniu prywatności. Jednak syntetyczne zbiory danych niosą ryzyko, w tym nadmierne dopasowanie i przypadkową reidentyfikację, co wymaga ścisłej walidacji i zrównoważonego wykorzystania danych rzeczywistych i sztucznych.
AI już ułatwia obciążenia kliniczne: sporządzanie notatek, podsumowywanie wykresów i redukcję czasu dokumentacji o ponad 70% w pilotażowych projektach. Wspiera również edukację medyczną poprzez adaptacyjne nauczanie i realistyczne symulacje. Mimo to, halucynacje, uprzedzenia i błędy dokumentacji pozostają problemami.
Przegląd wezwał do przeprowadzenia rygorystycznych badań klinicznych, przejrzystej oceny, ciągłego monitorowania „dryfu wydajności” oraz szkolenia klinicystów w zakresie bezpiecznego korzystania z AI. Przy przemyślanym zarządzaniu, generatywna AI może poprawić dostarczanie opieki, przyspieszyć badania i poszerzyć globalny dostęp do wiedzy.
Źródło: https://www.icthealth.org/news/experts-warn-ai-may-undermine-new-doctors-clinical-reasoning
Źródło: www.icthealth.org