Blir legenes kompetanse redusert av KI?
I helsevesenet så er det oss mennesker som skal ha ansvaret når KI brukes. Men hvordan sikrer vi at mennesket fortsatt har kunnskapen som trengs for å gjøre selvstendige faglige vurderinger av forslagene KI gir oss?
I snart ti år har jeg, som KI-forsker og medisinsk fysiker, snakket om hva KI kan gjøre for oss i helse. Teknologien kan bidra til bedre diagnostikk, mer målrettet behandling og mer tid til pasientene. Og selv om jeg fortsatt tror at helsevesenet er det området hvor KI kan gjøre aller mest godt, er jeg samtidig blitt mer opptatt av et annet spørsmål: Hva gjør KI med oss mennesker?
Se for deg at du er pasient. Legen din har brukt en KI-modell til å vurdere hva som feiler deg. Før du får behandling, kontrollerer legen KI-forslaget. Det er faglig velformulert og ser betryggende ut. Men tryggheten avhenger av hva denne kontrollen faktisk innebærer. Kan legen din forklare hvorfor KI- forslaget passer akkurat deg? Og kan legen oppdage dersom KI-systemet har tatt feil? For å kunne kontrollere et svar må man kunne mer enn å kjenne igjen en overbevisende forklaring. Den kompetansen tar tid å utvikle, og et helt liv å opprettholde.
Her ligger et paradoks vi må ta på alvor. Vi forventer at mennesker skal kontrollere KI, samtidig som bruken kan redusere treningen som gjør oss i stand til å utføre denne kontrollen.
Mennesket avgjør
Når KI blir en større del av arbeidshverdagen, må vi være bevisste på hvordan teknologien påvirker vår egen kompetanse. Og i denne diskusjonen om KI og læring er det tre begreper som får stadig større oppmerksomhet: deskilling, neverskilling og misskilling. Disse beskriver risikoen for at vi mister ferdigheter vi allerede har, aldri utvikler ferdighetene vi trenger, eller lærer noe feil. Når vi tar i bruk KI i helsevesenet, må vi derfor tenke godt gjennom hvordan helsepersonell skal vedlikeholde og utvikle den livsviktige kompetansen sin.
Deskilling oppstår når ferdigheter vi allerede har, svekkes fordi vi bruker dem mindre. En erfaren fagperson kan gradvis overlate mer av vurderingen til et system. Da blir spørsmålet hva som skjer med evnen til å gjøre arbeidet selv. En studie fra fire polske endoskopisentre gav oss nylig et varsko. Forskerne sammenlignet legenes evne til selvstendig vurdering av koloskopier, før og etter at legene fikk tilgang til KI-støtte i praksisen sin. Andelen undersøkelser der de fant adenomer falt fra 28,4 til 22,4 prosent, etter å ha brukt KI-støtte i kun 3 måneder. Dette resultatet gir grunn til å undersøkehvordan prestasjonen uten KI-støtte utvikler seg når denne teknologien blir en del av arbeidsdagen vår (1).
Neverskilling handler om ferdighetene vi ikke får utviklet. Dette kan føre til at medisin- og sykepleierstudenter ikke får den kompetansen de trenger når de en dag skal møte pasientene. Her mangler det studier fra helsevesenet, men en undersøkelse fra matematikkundervisning i Tyrkia viser hvorfor bekymringen er relevant. Elever med tilgang til chatGPT presterte bedre mens de hadde hjelp, men dårligere enn kontrollgruppen da de senere måtte løse oppgaver på egen hånd. Studien viste at bedre prestasjon med KI kan skjule svakere selvstendig læring (2).
Misskilling beskriver det som skje når brukere ukritisk godtar feil eller skjevheter fra KI-modeller og tolker det som fakta. En KI-modell kan gi en svært overbevisende forklaring, selv når den bygger på feil premisser. Hvis brukeren stoler for mye på KI-forklaringen, blir feilen med videre i beslutningsprosessen. I en studie fra Tyskland undersøkte forskere hvordan radiologer lot seg påvirke av KI-forslag. Her vurderte 27 radiologer mammogram sammen med KI-støtte. I studien var det bevisst lagt inn enkelte feilaktige forslag, og resultatet viste at radiologene lot seg villede. De minst erfarne fulgte oftere forslag som feilaktig vurderte funn som mer mistenkelige. De mest erfarne var bedre til å stå imot, men lot seg også påvirke. Erfaring ga altså en viss beskyttelse, men var ingen garanti for å gjennomskue feilaktige råd (3)
Hvordan vi tar i bruk KI er avgjørende
Disse tre begrepene beskriver forskjellige utfordringer som krever forskjellige svar. Vi må vedlikeholde viktig kompetanse, gi studenter og helsepersonell mulighet til å utvikle selvstendige ferdigheter og lære dem å gjennomskue feilaktige KI-forklaringer før disse blir en del av deres egen forståelse. KI-verktøyene er dessuten ulike, og vi kan ikke uten videre overføre erfaringer fra én oppgave til en annen. For helsevesenet blir spørsmålet derfor større enn hvor presist KI-systemet svarer. Vi må også undersøke hvordan samspillet påvirker fagpersonen over tid.
Hvordan vi tar i bruk KI er derfor avgjørende. Vi må vurdere både hva teknologien kan hjelpe oss med, og hvordan den former kompetansen vi trenger for å oppnå det beste samspillet mellom mennesket og maskinen. Det krever at læring og faglig utvikling blir en del av innføringen fra starten, og at vi har et bevisst forhold til hva det faktisk gjør med oss som fagpersoner.
Så hva kan vi gjøre for å imøtekomme disse utfordringene? Første bud må være å diskutere mulige løsninger på tvers av helseforetakene og utdanningsinstitusjonene, og jeg har identifisert tre utgangspunkter for denne diskusjonen.
Vi bør ta inn dedikerte vurderinger for den KI-relaterte kompetanserisikoen i læringsprosessen. I utvalgte undervisningssituasjoner kan f.eks. studenten formulere sin vurdering før et KI-forslag vises. Forskjellene kan brukes i veiledning. Hva overså studenten? Hva overså systemet? Hvilke opplysninger ville endret konklusjonen? Slik kan KI gi materiale til faglig refleksjon og tilbakemelding.
Vi bør øve på situasjonene der KI-støtten svikter. I simulering kan helsepersonell møte overbevisende feilforslag og oppgaver der KI er utilgjengelig. Treningen må tilpasses den konkrete oppgaven og det fagpersonen må kunne oppdage og håndtere selv. Slike tiltak må designes slik at de kan prøves ut og evalueres fortløpende.
Vi Vi må ha gode prosesser for å måle hva som skjer med kompetansen. Når vi vurderer et KI- verktøy, bør vi undersøke hvilke feil brukerne oppdager, hvordan de begrunner vurderingene sine, og hva de mestrer med og uten støtte over tid. Det er viktig å skille mellom erfarne fagpersoner og dem som fortsatt er under utdanning og opplæring. De kan få samme svar fra systemet, men ha svært forskjellige forutsetninger for å vurdere det.
Jeg er overbevist om at KI vil gi oss et bedre helsevesen, og engasjementet mitt for å realisere dette står fast. Men for å lykkes må vi investere like målrettet i menneskene som skal bruke teknologien som i teknologien selv. Det betyr å sette av tid til læring, veiledning og selvstendige vurderinger, også når kravene til effektivitet øker.
For pasienten handler dette om å kunne stole på at legen både forstår forslaget fra KI og kan oppdage når det er feil. Den tryggheten må vi bygge gjennom måten vi utdanner helsepersonell og organiserer arbeidet på. Hvis mennesket skal ha det siste ordet, må vi sørge for at det fortsatt har kunnskapen som gir ordet verdi.
1. Budzyń K mfl. (2025). Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy: a multicentre, observational study. The Lancet Gastroenterology &Hepatology, 10(10), 896–903. https://doi.org/10.1016/S2468-1253(25)00133-5
2. Bastani H mfl. (2025). Generative AI without guardrails can harm learning: Evidence from high school mathematics. Proceedings of the National Academy of Sciences, 122(26), e2422633122. https://doi.org/10.1073/pnas.2422633122
3. Dratsch T mfl. (2023). Automation Bias in Mammography: The Impact of Artificial Intelligence BI- RADS Suggestions on Reader Performance. Radiology. https://doi.org/10.1148/radiol.222176