Kunstig intelligens styrker pasientsikkerheten

Takk for at du starter denne viktige diskusjonen, Damoun Nassehi. Men som kliniker med 20 års erfaring fra både primær- og spesialisthelsetjenesten og som bydelsoverlege i Oslo kommune – er jeg helt uenig med deg. Det er ikke bruken av kunstig intelligens (KI) som utgjør den største risikoen for pasientsikkerheten. Det er å unnlate å ta den i bruk.

Hvem trippelsjekker dagens notater?

Du skriver at det ikke finnes regulatoriske mekanismer for å evaluere og kvalitetssikre bruken av KI til journalskriving, og påpeker at ingen trippelsjekker journalnotatene. Men da vil jeg stille et enkelt spørsmål: Hvem er det egentlig som trippelsjekker dagens journalnotater? Alle som har tatt sine lange vakter med sykehusfrakk og pipende calling i lomma vet svaret på det. Ingen.

Da jeg jobbet på sykehus var notatene generert med tradisjonell talegjenkjenning, så fulle av feil at de ble grunnlaget for en egen form for intern humor. Surrealistiske utsagn i pasientjournalen var hverdagskost, og feilene ble ofte aldri rettet opp. «Pasienten hadde smerter i kona» – slike feil står fortsatt urørt i journalene. Også manuelt skrevne notater er altfor ofte mangelfulle, intetsigende eller direkte feil – og altfor mange ganger blir notatene aldri skrevet. Dette er ikke unntak, men et systematisk problem i helsetjenesten.

Et paradigmeskifte

KI representerer et dramatisk løft i kvalitet. For første gang kan alle leger levere journalnotater som faktisk er presise, strukturerte og likeverdige – uansett tidspress eller skriveevner. Og notatene kommer til og med i journalen samme dag! Veldig ofte opplevde jeg at viktige notater fra innleggelse, operasjon eller tilsyn fra en annen avdeling sto uskrevet i journalen i dagevis, - en alvorlig trussel mot pasientsikkerheten. Vi snakker nå om muligheten for å bedre dokumentasjonen, sende målrettede henvisninger, sterkere rettssikkerhet og tryggere oppfølging.

Pasientene er de reelle vinnerne her. Leger som bruker KI til journalføring, forteller at pasientene opplever både bedre kommunikasjon og oppfølging. Dette skyldes både at de får øyekontakt med behandleren og fordi mer av undersøkelse, funn og vurderinger uttrykkes muntlig i større grad enn før. Bruk av KI-verktøy bidrar også til mer likebehandling. Pasienter som for eksempel henvises til psykiatrisk poliklinikk av sin fastlege, vil nå ha mer lik sjanse til å bli vurdert på likt og riktig nivå. Frem til nå har du vært helt avhengig av at din lege har evner og tid til å skrive en god henvisning, som svarer ut det psykiatrisk poliklinikk trenger å vite for å vurdere om du har rett til oppfølging.

At noen leger frykter å «miste egen skrivestil» eller den refleksjonen man gjør gjennom notatskrivingen er forståelig – men for pasientene er det tross alt mye viktigere å bli sett, forstått og behandlet raskt og riktig. Og å reflektere sammen med pasienten under konsultasjonen fremfor under skrivingen, gir kanskje en vel så god klinisk vurdering og opplevelse for pasienten. 

Feil kan ikke reguleres bort – men de kan håndteres

Damoun skriver at vi uten CE-merking og krav til åpenhet rundt hvordan KI løsninger er bygget, risikerer at «systemene sniker seg inn som standardverktøy uten at pasientsikkerheten er tilstrekkelig ivaretatt.»

Ja, det stemmer at store språkmodeller kan hallusinere og gjøre feil. Men det betyr ikke at det er farlig å bruke de eller at vi skal vente på modeller som aldri gjør feil. Hva som kommer ut av en språkmodell er også avhengig av hva vi gir den som grunnlag, og her ligger noe av nøkkelen: Vi må lære oss å bruke språkmodellteknologi på en klok måte for å få løsningene til å fungere på sitt aller beste. Dette er ikke noe som kan reguleres eller CE-merkes bort. På samme måte som med tradisjonell talegjenkjenning og manuelt skrevne notater, er det alltid klinikeren som sitter med ansvaret for å kontrollere innholdet. Forskjellen er at KI gir et langt bedre utgangspunkt, med totalt sett mye færre feil enn det vi leger produserer selv, dokumenterer flere viktige poeng og med en langt bedre og systematisk struktur.

Jeg har som prosjektleder for det legeforenings-støttede prosjektet, AIFAL prosjekt (AI for allmennleger), vært med å utvikle et enkelt gratis læringsverktøy om KI for helsepersonell. Denne type verktøy er med på å gi leger som tar i bruk nye KI-verktøy, basiskunnskap om hvordan løsningene fungerer under panseret. På den måten blir vi bedre rustet til å oppdage feil og bruke verktøyene trygt og ansvarlig.

Etisk uforsvarlig

Damoun skriver i sin kronikk: «Vi kan ikke ofre pasientsikkerheten på effektiviseringens alter». Etter mitt syn er det er helt omvendt, det er kunstig intelligens som nå gjør at vi slipper å ofre hverken vårt dyrebare helsepersonell eller pasientsikkerheten på alteret.

Norge ligger i dag langt bak mange andre land i å ta i bruk ny teknologi. Frykt og overregulering gjør at vi nå også risikerer å tape kappløpet om KI i helsetjenesten. Og da må vi stille oss selv et ubehagelig spørsmål: Hvordan kan vi egentlig forsvare å ikke ta teknologien i bruk? Er det etisk forsvarlig å unnlate eller å utsette å bruke en teknologi som kan styrke pasientsikkerheten, lette hverdagen for helsepersonell og gi pasientene bedre behandling enn den vi kan tilby i dag.

KI gir håp for et hardt presset norsk helsevesen

Jeg har respekt for skepsis, og for den utryggheten nye arbeidsverktøy kan medføre. Men i mine 20 år som lege har jeg aldri vært mer optimistisk. Jeg ser et reelt håp – for pasientene som kan få bedre oppfølging, og for kolleger som kan stå i jobben uten at det koster dem privatliv, helse eller livsglede.

For meg handler dette også om bærekraft. Vi står midt i en bemanningskrise og en eldrebølge, mens helsevesenet allerede går på høygir. Å unnlate å ta i bruk KI betyr å overlate morgendagens pasienter til et system uten kapasitet til å ta imot dem. KI er ikke en trussel mot pasientsikkerheten – den er en forutsetning for å bevare et trygt og rettferdig helsevesen.

Derfor vil jeg bruke min stemme til å vise at nøkkelen ligger i kompetanse, ikke mer regulering – og at KI kan tas i bruk i stor skala, på en trygg og ansvarlig måte allerede nå. Ikke på tross av pasientsikkerheten, men nettopp for å styrke den.

Kronikkforfatteren er daglig leder i Medbric, som leverer løsninger for kunstig intelligens til norsk helsevesen. Utover dette er det ikke oppgitt interessekonflikter. 

Flertall for å vurdere helseforetaksmodellen

Hvordan unngå konflikter ved sammenslåing?