Kunstig intelligens i helsetjenesten – en stille revolusjon?

Kronikk: Line Linstad, phd.-student ved UiT og Nasjonalt senter for e-helseforskning
Line Silsand, phd. seniorforsker ved Nasjonalt senter for e-helseforskning
Truls Tunby Kristiansen, phd. forsker ved Nasjonalt senter for e-helseforskning
Stine Nalum Næss, phd. medisinsk fysiker ved Sykehuset i Vestfold HF og forsker ved Nasjonalt senter for e-helseforskning
Anne Granstrøm Ekeland, phd. professor ved Nasjonalt senter for e-helseforskning

KORONAPANDEMIEN HAR lært oss hvor viktig det er å ha solide godkjenningsprosesser før vaksiner og andre legemidler tas i bruk. Vi vil rette søkelyset mot kunstig intelligens (KI) og diskutere hvorfor vi bør ta lignende grep for å sikre trygg klinisk bruk av KI.

Pandemien har gjort oss alle til spesialister på godkjenning, eller mer presist, metodevurdering av vaksiner. Kappløpet om å ta i bruk vaksiner, stjeler overskriftene i nyhetsbildet, og det er første gang i historien at allmennheten har visst så mye om Norges nesten hundre år gamle historie om godkjenning av legemidler.

Vi har sett hvor mange steg en vaksine må gjennom før den kan settes i armen på oss, og vi har forstått hvorfor det må være slik. Ifølge Folkehelseinstituttet (FHI) ønsker rundt 90 prosent av Norges befolkning å ta koronavaksine. Et svimlende høyt tall sammenlignet med andre land i verden. Dette synliggjør at folkeopplysningen virker – og at vi har tillit til myndighetene.

STILLE REVOLUSJON? Det mange kanskje ikke vet, er at det skjer en stille revolusjon når det gjelder bruk av KI i helsetjenesten. Utviklingen i bildediagnostikk bidrar til betydelig årlig økning i antallet undersøkelser, og radiologenes kapasitet er nær bristepunktet. KI skal være et virkemiddel for å avhjelpe denne situasjonen ved å øke automatiseringen i billeddiagnostikk. Teknologien skal blant annet hjelpe legene å tolke bilder og prioritere hvilke pasienter som bør komme først i køen for behandling.

Denne hjelpen kan ha direkte effekt på overlevelse og livskvalitet for pasienter. Hvordan kan vi være sikre på at KI leverer det vi ønsker?

GRUNDIG VURDERING. Bør ikke KI vurderes på samme måte som vaksiner og andre legemidler? Studier viser at algoritmer ikke er objektive. Skjevheter i data de er trent på, videreføres. Hvordan kan vi vite at KI, som støtter legene på en automatisert måte, tilfredsstiller samme sikkerhetskrav som andre behandlingsformer? KI som hjelpemiddel påvirker både prioriteringer og overlevelse akkurat som vaksiner: Hvem får komme først i behandlingskøen og hvilken behandling får du?

Nasjonalt senter for e-helseforskning gjennomfører sammen med Helsedirektoratet, Vestre Viken HF og Sykehuset i Vestfold, et følgeforskingsprosjekt som undersøker betingelser for vellykket bruk av KI. For oss står det klart at KI må vurderes like nøyaktig som vaksiner.

SYSTEMET – OG DEBATTEN? I dag mangler et nasjonalt system for en godkjenningsordning av KI og en debatt om KIs konsekvenser for utviklingen av dagens og fremtidens helsetjeneste. Det er bekymringer ute i fagfeltet, som vi deler. Kan vi stole på at teknologien er god nok, og hvordan vurderes den? Når KI innen bildediagnostikk gis rollen å markere akutt sykdom i bilder, må radiologene kunne stole på at den nye hjelperen markerer de riktige undersøkelsene. Er det da godt nok at kunstig intelligens er trent opp til å tolke bilder fra andre helsesystemer i andre land, en annen genetisk pasientpopulasjon – eller bilder tatt med annet radiologisk utstyr enn der løsningen skal brukes?

Klinikerne tviler på at dette vil være godt nok, og de ser for seg at de må dobbeltsjekke. Da uteblir kanskje gevinsten – inntil løsningen blir intelligent nok.

HVA MÅ VI VITE? Må vi vite alt om hvordan KI-løsningene fungerer i helsesektoren? Vi som befolkning, og de som setter vaksinene, vet ikke alt om innholdet i vaksinene. Men, når de som godkjenner vaksinene har dokumentasjon på innholdet, stoler vi på at vurderingen som er gjort er god nok.

Hva må vi så vite om «innholdet» i KI-løsningen? Teknologi i helsevesenet som elektroniske pasientjournalsystemer eller e-resept, er tradisjonelt ikke vurdert dithen at det direkte påvirker pasienten eller behandlingen slik som eksempelvis vaksiner. Dermed er det ikke krav om kliniske studier av journalsystemer før klinisk drift, slik kravet er for legemidler.

Når KI skal bli en del av behandlingen, er nettopp et av målene at den skal gi beslutningsstøtte om hvilke pasienter som skal prioriteres. Videre vil KI påvirke beslutninger om prioritering av pasienter, og foreslå hvilken behandling pasienten skal få. Da beveger vi oss mot teknologi som kan ha stor innvirkning på grunnstenen i helsetjenesten: prioritering. Tilsvarende som med vaksiner må det vurderes om KI bidrar til rettferdig prioritering av hvem som får tjenester når. Skal unge og friske prioriteres før, eller etter eldre og syke?

ÅPENT SYSTEM – JA TAKK! Industrien som selger KI til norske sykehus, er global. Derfor reguleres den av både nasjonale og internasjonale regler. Behovet for grundig kvalitetssikring forsterkes også av at EU har endret regelverket - som omfatter Norge. Endringen gjør at KI nå defineres som medisinsk utstyr. Dette innebærer at KI som gir råd og veiledning, og som påvirker klinikernes vurderinger og prioriteringer, skal vurderes og godkjennes under kontrollert bruk i kliniske settinger for å kunne godkjennes akkurat som vaksiner.

Basert på argumentasjonen over mener vi at vi bør omgjøre den stille revolusjonen til større åpenhet og debatt om KI på lik linje med vaksiner. Tematikken fortjener like stor oppmerksomhet som vaksiner fordi KI vil få stor effekt på innbyggernes helse, og tilliten til helsetjenesten. Vi må ha et åpent nasjonalt beslutningssystem der industri, forskning og beslutningstakere er koblet sammen. Beslutningene bør baseres på forskningsresultater som er basert på tverrfaglig kunnskap. Vi trenger studier fra praktisk bruk som viser betingelsene for at bruk av KI skal bli vellykket, studier som viser tilsiktede og utilsiktede effekter samt gevinstene, og som også gir oss ny kunnskap om hvordan KI påvirker prioritering og styring av helsetjenesten.

Ingen oppgitte interessekonflikter

Dagens Medisin, fra Kronikk og debattseksjonen i 14-utgaven