Er kunstig intelligens gunstig intelligens for pasientene?

Sveinung Tornås og Hilde Lovett spør om kunstig intelligens er gunstig intelligens for helsepersonell.

Men vil kunstig intelligens (KI) være gunstig for alle pasienter, eller vil pasienter med best evne til å bruke KI komme først i køen?

I tråd med stortingsmeldingen om allmennlegetjenesten kapittel 5.3.1 (1) bruker stadig flere fastleger KI verktøy som hjelpemiddel. Språkmodeller kan raskt oppsummere transkriberte konsultasjoner. På den måten får legen korte sammendrag av en 10–15 minutters konsultasjon, som enkelt kan limes inn i pasientjournalen, og brukes som grunnlag for en henvisning.

Regional koordinerende enhet/Regional vurderingsenhet i HSØ (RKE) mottok nylig en henvisning til spesialisert rehabilitering som var ren kopi av en dialog mellom fastlegen og et KI verktøy. Hele dialogen var gjengitt ord for ord, med «Du sa» og ChatGPT sa».

Instruksen fra legen var «Skriv en henvisning til RKE for tverrfaglig rehabiliteringsopphold», basert på tekstsammendraget (TS) av konsultasjonen. Et tekstsammendrag som også var laget av KI.

I dag blir mange henvisninger helt eller delvis laget ved hjelp av kunstig intelligens. Det spesielle i dette tilfellet var at legen ikke prøvde å skjule bruken av et KI-verktøy.

Er dr. KI trent for å beskrive nytten av behandlingen pasienten ønsker?

Det var en godt strukturert henvisning hvor både sykehistorie, aktuelle problemstilling og mål for den tverrfaglige rehabiliteringen var godt beskrevet. Vurderende lege innvilget pasienten rett til videre tverrfaglig rehabilitering i spesialisthelsetjenesten, uten bruk av KI. Det kan imidlertid ikke utelukkes at pasienten hadde bedt om bistand fra en eller annen KI-venn, med ønske om å lage en best mulig beskrivelse av sin tilstand for å oppnå ønsket behandling. For noen generasjoner siden var det vanlig å ikke «plage legen unødig». I dag er det nok mer vanlig å dra på litt ekstra for å få den behandlingen man har lest – og hørt så mye bra om, og som man vel har rett på?

KI-vennen hjelper mer enn gjerne med å formulere beskrivelser som vektlegger medisinske problemstillinger, og mål for behandlingen som er i tråd med både faglige og prioriteringsrelaterte kriterier. Alle kriteriene ligger beskrevet på nett og KI vennen har tilgang på verdens raskeste søkemotorer.

Digital helsekompetanse er vesentlig

I stortingsmeldingen om allmennlegetjenesten beskrives i kapittel 5.1.4 (1) blant annet behovet for å bygge Helsekompetanse og digital kompetanse. Her beskrives at ressurssterke og høyt utdannede personer ofte har høyest forventninger til, og mest bruk av helsetjenester. Det pekes på at Helsekompetanse er avgjørende for at befolkningen kan gjøre gode helsevalg, og kan virke dempende på den enkeltes behov for helse- og omsorgstjeneste (1). I Norge har vi en helselovgining som blant annet skal ivareta sikkerhet og kvalitet ved helsehjelp, lik tilgang på helse- og omsorgstjenester og generelle pasientrettigheter (2). KI-verktøyene lærer seg imidlertid raskt hvilke formuleringer som vil kunne utløse en pasientrettighet.

Strukturerte spørsmål som beslutningsstøtte for pasienter og helsepersonell

Bruk av KI ved digital triagering av pasienter til legevakten i Indre Namdal reduserte unødig press på legevakten (3). Pasientene, som svarte på et sett innledende spørsmål, ble veiledet til hvilke symptomer som må behandles raskt (gul respons) og hvilke som kan vente til ledig konsultasjon hos egen fastlege (grønn respons). Kanskje vil nettopp strukturerte spørsmål som inngang til kontakt med fastlegen, eksempelvis via Helsenorge, forebygge at pasienten bestiller en legetime basert på en «KI venn» som er trent på å please?

KI verktøyene har også utviklet en formidabel evne til billeddiagnostikk. Svar på både medisinsk betegnelse, og behandling for utslettet du har sendt bilde av, kommer etter få sekunder.

Som helsepersonell må en være bevisst på at de aller fleste KI modeller er trent på de pasientene og den delen av befolkningen det finnes flest av, så maskinene forstår nok best både helsen til – og ønskene Ola Nordmann har for videre behandling. Det er en potensiell risiko for at enkelte pasientgrupper, basert på kjønn og etnisitet, kan bli diskriminert (4). Dersom man som pasient mener at man ikke får oppfylt sine pasientrettigheter i spesialisthelsetjenesten, kan man i dag enkelt klage via Helsenorge, ved bruk av fritekst. Igjen vil de som evner å argumentere i henhold til fag og jus vinne frem.

Kunstig intelligens kan åpne dører og skape pusterom (5) – men også skape nye skiller. De som mestrer språket og finner de rette ordene, kan lettere få hjelp. Nettopp derfor må vi som helsepersonell ikke la teknologien bli filteret, men verktøyet: Vi må stille de spørsmålene som gir pasientene og helsepersonell mulighet til å velge klokt – uavhengig av formuleringsevnen til valgte KI-venn.

Ingen oppgitte interessekonflikter

Kilder:

1 Meld. St. 23 (2024–2025) - regjeringen.no (kap5)

2 Rettigheter i personvern- og helselovgivning - Helsedirektoratet

3 Digital triagering – erfaringer fra Indre Namdal

4 Ahus, sluttrapport: Hjerterom for etisk AI | Datatilsynet

5 Fastlegen om bruk av kunstig intelligens: – Fått mer tid til å puste | Tidsskrift for Den norske legeforening

Referanser

Algoritmer, kunstig intelligens og diskriminering: En analyse av likestillings- og diskrimineringslovens muligheter og begrensninger

Forskrift om prioritering av helsetjenester, rett til nødvendig helsehjelp fra spesialisthelsetjenesten og rett til behandling i utlandet (prioriteringsforskriften) - Lovdata

Innbyggerundersøkelsen om digitalisering i helse- og omsorgstjenesten 2024: bruk av, holdninger til og tilfredshet med digitale helsetjenester - Helsedirektoratet

Kunstig intelligens redder liv, AI er legenes nye superkrefter, Barua, Ishita, 2023