Nyheter for deg som jobber i helsevesenet

 
  • Abonnere
  • Annonsere
  • Kontakt oss
  • Nyhetsbrev
  • RSS
  • Facebook
  • Twitter
  • Ledig jobb
  • Logg inn

RISIKO FOR DISKRIMINERING: Bruk av kunstig intelligens utgjør en helt reell fare for at noen får en dårligere tjeneste enn andre. Et eksempel er hudsykdommer, der løsningene som er utviklet for ofte består av et flertall pasienter med hvit hud.

Foto: Elnur / Shutterstock / NTB

Dette er trendene for kunstig intelligens i Helse-Norge

Teknologirådet har pekt ut seks trender for hvordan kunstig intelligens vil endre Helse-Norge de kommende årene. Noen av dem er allerede i bruk. Andre er ennå på tegnebrettet. Alle medfører en viss risiko.

Publisert: 2022-06-21 — 11.16

FAKTA:

  • Teknologirådets mandat er å gi Stortinget og øvrige myndigheter nyskapende og begrunnede innspill om ny teknologi, og sette muligheter og utfordringer ved ny teknologi på dagsordenen.
  • Teknologirådet er formelt uavhengig, og bestemmer selv fritt hvilke prosjekter som skal gjennomføres.
  • Ekspertgruppen bak rapporten «Kunstig intelligens i klinikken – seks trender for fremtidens helsetjeneste» har bestått av Helga M. Brøgger, lege, leder av Norsk radiologisk forening, Erik Fosse, avdelingsoverlege ved Intervensjonssenteret, Oslo Universitetssykehus, Steinar Madsen, medisinsk fagdirektør ved Statens Legemiddelverk, Damoun Nassehi, fastlege, forsker ved Universitetet i Stavanger og medlem av Teknologirådet og Michael Riegler, Chief Resarch Scientist i SimulaMet og førsteamanuensis ved UiT.

Heldigital førstelinje, digitale assistenter, diagnose og behandling som smelter sammen, overvåkning av egen helse, utstyr som forbedrer seg selv og skreddersydd forebygging. Det er de seks trendene som en ekspertgruppe satt ned av Teknologirådet ar pekt ut som trender i helsevesenet de neste ti årene. (Se listen nederst i denne saken)

Prosjektleder er Anne Siri Koksrud Bekkelund. Hun håper rapporten vil bidra til en diskusjon om hva slags helsetjeneste vi vil ha i fremtiden.

– Utviklingen av nye algoritmer gjør at kunstig intelligens (KI) kan gjøre ting man ikke trodde var mulig. Det kan gi oss bedre, mer tilgjengelige og mer persontilpassede helsetjenester. Vi står også overfor store utfordringer i helsetjenesten fordi vi får færre i arbeidsfør alder og flere eldre, og bør begynne å tenke på hvordan vi kan effektivisere behandlingen. Vi trenger å snakke om hvordan vi kan utnytte de store mulighetene ved kunstig intelligens, uten å ødelegge noe annet på veien, sier hun til Dagens Medisin.

 

Ingen oppskrift

Prosjektlederen understreker at rapporten ikke kommer med noen «oppskrift» på hvordan dette skal gjøres.

– Men vi gir noen svar på hva som skal til. Et eksempel som alle trekker frem er datatilgang, som er en forutsetning for å få verktøyene tilpasset befolkningen. Men hva er det som mangler? Er det politikk, penger, juridiske avklaringer eller datatilgang? Vi tror det er lettere å få i gang samtalen når man ser mulighetene kunstig intelligens åpner for.

Parallelt raser debatten om hvorvidt man bør «kjøre på» eller «bremse og vente» med å innføre nye teknologiske hjelpemidler i helsevesenet.  

– Her er det ulike synspunkter også innad i ekspertgruppen, sier Bekkelund. 

Bekkelund trekker særlig frem utstyr som forbedrer seg selv som et punkt som ligger lenger fremme enn de andre:

– Teknologien er der, for eksempel er det ingen som stiller spørsmål ved at Netflix oppdaterer seg selv jevnlig. Forskjellen er at en Netflix-oppdatering ikke har livskritisk betydning. Der er krevende å gi fra seg kontrollen når du ikke holdes oppdatert på hva som skjer for hver oppdatering. Derfor er denne trenden ennå på forskningsstadiet, forklarer hun.

 

Aksept for feil

Rapporten som nå er publisert er resultatet av et arbeid som har modnet over år. Og selv om den lister opp muligheter som Helse-Norge higer etter, er klinisk bruk av KI ikke fritt for risiko.

– Mye er «alle» enige om, som at vi trenger et mer effektivt helsevesen med mer persontilpasset behandling. På noen områder må vi finne ut hvordan vi får det til uten å diskriminere ulike grupper. På andre områder må vi ta bevisste valg på hvor mye feil vi kan akseptere, sier Bekkelund.

Hun viser til en heldigital førstelinjetjeneste som var tatt i bruk i regionen Jämtland og Härjedalen i Sverige som eksempel:

Hun viser til et prøveprosjekt som testet ut en heldigital førstelinjetjeneste i Sverige

– Der hadde den kunstige intelligensen gått glipp av et pågående hjerteinfarkt, noe som førte til at det tok to dager før pasienten tok kontakt med legevakta og fikk behandling. Dette førte til tjenesten ble stengt på dagen, fordi denne typen feil var noe de ikke kunne akseptere.

– Det er viktig å være oppmerksom på at KI også vil gjøre feil, men på andre måter enn et menneske. Det å ha en diskusjon om hvilke feil som er akseptable, hvorvidt kravene til en KI skal være strengere enn for menneskelige feil, eller om det er nok at gjennomsnittet er bedre, er noe vi må tenke gjennom før vi innfører denne typen tjenester.

 

Risiko for diskriminering

Bruk av kunstig intelligens kan føre til diskriminering mellom pasientgrupper.

– Bruk av KI utgjør en helt reell fare for at noen får en dårligere tjeneste enn andre. Et eksempel er hudsykdommer, der løsningene som er utviklet for ofte består av et flertall pasienter med hvit hud. Så lenge verktøyene brukes i tillegg til annen diagnostikk og behandling er det ikke nødvendigvis et problem, men over tid risikerer man at ny teknologi som virker effektiv, vil nedprioritere personer som KI-en ikke treffer like godt. En annen parallell er kvinnehelse. Derfor er det viktig at man er bevisst på at denne risikoen finnes når man implementerer teknologien og tester den ut på den faktiske delen av befolkningen den skal brukes på.

Les også: Dagens diskriminerende undervisning er et gufs fra fortiden

– Overføringsverdien er lavere enn man tror. Den kan til og med være lavere fra ett sykehus til et annet på grunn av lokale risikofaktorer. Men igjen, den må testes der den skal brukes og man må kjenne til dataene og svakhetene, sier Bekkelund.

 

Vi trenger helsepersonell som kan teknologi og teknologer som kjenner prosessene i helsevesenet.
Anne Siri Koksrud Bekkelund

Mer tekno i helse – mer helse i tekno

Helseteknologi pekes på som én av løsningene på ressursmangelen i norske kommuner og sykehus.

– Hvordan vurderer dere dagens «utvalg» av helsepersonell opp mot disse nye trendene?

– Alle grupper i helsetjenesten som skal være i befatning med verktøy som bruker KI må ha opplæring i det og det bør få en større plass i utdanningene.

Ekspertgruppen har i rapporten ikke tatt stilling til om det er behov for egne spesialister i kunstig intelligens.

– Men vi trenger helsepersonell som kan teknologi og teknologer som kjenner prosessene i helsevesenet.

 

Helseangst og overbehandling

Bruk av digitale hjelpemidler kan også virke mot sin hensikt og føre til mer press på allerede pressede helsetjenester.

Risikoen for overbehandling ved at teknologien selv sender folk til legen er også omtalt i rapporten.

– Det at mange i dag overvåker seg selv via en Apple Watch eller en annen form for smartklokke, kan i seg selv trigge helseangst og/eller overbehandling. Når man tar i bruk nye systemer er det jo ofte slik at de heller sier i fra en gang for mye enn en gang for lite. Derfor må man finne en balanse mellom hva vi kan akseptere av falske positiver eller negativer. Dette må vektes fra system til system.

Anne Siri Koksrud Bekkelund understreker at det er forskjell mellom en Apple Watch og overvåkningsutstyr som deles ut at helsepersonell.

– Med god informasjon i forkant, kan denne typen verktøy også ha motsatt effekt; at mer nøytral informasjon om egen kropp har en beroligende effekt som kanskje gjør at utslagene på sensoren ikke nødvendigvis er så store at man trenger å ringe til legen.  

Bekkelund mener også det er viktig å jobbe med hvordan man organiserer seg i helsevesenet for å kunne dra nytte av de mulighetene KI åpner for:

– Noen eksperimenterer allerede med nye organiseringsformer, for eksempel jobber radiologer og kirurger i samme team ved Intervensjonssenteret ved OUS. 

Anne Siri Koksrud Bekkelund leder Teknologirådets prosjekter om fremtidens arbeidsliv, kunstig intelligens i helse og strategisk fremtidsanalyse.

Foto: Teknologirådet

 

Har mistet et viktig bidrag

I desember i fjor besluttet Direktoratet for e-helse å sette utviklingen av Helseanalyseplattformen på pause. Bakgrunnen var i hovedsak juridiske utfordringer som følge av Schrems II-dommen, som gjør det vanskelig å lagre data på amerikanske skyløsninger.

Her kan du lese mer om Schrems II-dommen.

– Hvilke konsekvenser får problemene med Helseanalyseplattformen for dette arbeidet?

– Vi hadde et håp om at Helseanalyseplattformen skulle være et viktig bidrag. Nå får vi ikke det. Den ville heller ikke løst alt. Mange løsninger med kunstig intelligens trenger andre typer data enn registerdata, som for eksempel løpende målinger av puls eller hjerterytme. Det er vanskelig å gi et godt svar på hvor mye lenger vi hadde kommet med HAP, men det ville selvsagt vært et viktig bidrag.

 

Modnet over år

Rapporten er et resultat av et arbeid som har modnet i flere år og tar utgangspunkt i flere rapporter om helseteknologi og helsedata og KI generelt.

– Vi hadde såpass mange eksempler på KI innen klinisk helse. I denne rapporten har vi tatt utgangspunkt i pasientreisen og konsekvenser for helsetjenesten.

Ekspertgruppen er satt sammen av spesialister med praktisk/klinisk erfaring og personer med teknologibakgrunn.

– Hvorfor er det ingen som representerer brukerne?

– I denne fasen av arbeidet har vi ikke inkludert brukerrepresentanter, men dette er noe vi vurderer fra fase til fase i hvert prosjekt. Brukerperspektivet bør helt klart tas initiativ til i fremtiden.

Rapporten vil overleveres til helse- og omsorgskomiteen på Stortinget, så vel som Helse- og omsorgsdepartementet, Helsedirektoratet og Direktoratet for e-helse.

– Vi håper alle tar seg tid til å lese den, avrunder Bekkelund.

 

Seks trender for kunstig intelligens i helse:

1: Førstelinjen blir digital

Kunstig intelligente datasystemer kan snakke pasientens språk, og svare raskt og treffsikkert når folk tar kontakt. Digitale førstelinjer kan gi bedre helsehjelp over hele landet, og bidra til at helsepersonell kan bruke mindre tid på telefon og mer på behandling.

Eksempel:
I begynnelsen av koronapandemien ble nødnummeret blokkert av bekymrede innringere. HelseNorges Koronasjekk er en enkel chatbot som har gjort informasjon lettere tilgjengelig for folk, og avlastet helsepersonell.

2: Helsepersonell får digitale assistenter

Digitale helseassistenter kan hjelpe helsepersonell med å stille diagnose, velge behandling, overvåke pasienten og varsle om komplikasjoner. Ved hjelp av maskinlæring kan de analysere medisinsk litteratur, tolke bilder og andre data, og pløye gjennom tusenvis av pasientjournaler. Det kan bli nøkkelen til behandling som er bedre tilpasset hver enkelt, og mindre avhengig av legens erfaring.

Eksempel:
Ved sykehuset i Ålesund har de tatt i bruk et system som automatisk kan tegne opp hjerte, lunger og andre organer på et digitalt CT-bilde. Før brukte spesialister med lang erfaring mange timer på det. Nå kan de heller konsentrere seg om å bruke bildene for å hjelpe pasienten.

3: Diagnose og behandling smelter sammen

Kunstig intelligens bidrar til at pasienten kan bli utredet, få diagnose og behandling – ved ett og samme legebesøk.

Eksempel:
En ny teknikk gir bilder av vevsprøver av hjernen nesten umiddelbart, og ved hjelp av maskinlæring kan analysetiden reduseres fra minst en halvtime til to–tre minutter. Kirurgene kan dermed umiddelbart operere ut en ondartet svulst i hjernen, og ha kraniet åpent i vesentlig kortere tid, noe som reduserer risikoen ved operasjonen.

4: Alle kan overvåke sin egen helse

Klokker og armbånd med sensorer kan registrere alt fra hjerterytme til stemmeleie. Kunstig intelligens tolker dataene, og gir løpende informasjon om brukernes fysiske og psykiske helse. Det gjør det lettere å følge opp pasientene hjemme, man kan oppdage sykdom tidligere, og komme raskere i gang med behandling.

Eksempel:
Ti prosent av norske kommuner brukte digital hjemmeoppfølging under koronapandemien. I Larvik fulgte de opp pasienter i risikogrupper med digitalt termometer og pulsoksymeter. Målingene ble automatisk overvåket, og hvis systemet oppdaget noe alvorlig, ble helsepersonell koblet inn.

5: Utstyr forbedrer seg selv kontinuerlig

Med kunstig intelligens kan programvaren i medisinsk utstyr lære kontinuerlig fra alle nye data, og forbedre og oppdatere seg løpende. Utviklingen kan føre til en raskere forbedring av helsehjelp, ettersom man ikke trenger å bytte ut det fysiske utstyret for å få tilgang til forbedringer. Dette kan være spesielt nyttig i helsesituasjoner som endrer seg raskt, som under koronapandemien, eller for å avdekke mønstre som endres gjennom sesonger eller fra år til år.

Eksempel:
En algoritme som baserer seg på hjerterytmedata for å finne avvik kan forbedres ved å gjøre den kontinuerlig lærende. Da kan den i større grad ta høyde for sesongvariasjoner, variasjoner mellom pasienter eller variasjoner mellom klinikker.

6: Forebygging blir skreddersøm

Ved hjelp av maskinlæring kan helsetjenesten bli bedre til å finne personer med økt risiko for sykdom, og kunstig intelligens kan revolusjonere screening-programmene. Maskinlæring øker også mulighetene for å finne ut hvilke forebyggende tiltak som faktisk har effekt, og kan brukes for å tilpasse anbefalinger til hver enkelt.

Eksempel:
Algoritmer kan velge ut hvilke personer som skal prioriteres til brystkreft-screening, slik at sannsynligheten for å finne dem som har kreft, øker.

Nyhetsbrev
Følg med på siste nytt fra Dagens Medisin ved å abonnere på vårt gratis nyhetsbrev og følge oss i sosiale medier.
Del:

Kommentarer

OBS! Du må logge inn for å kommentere

Bli medlem

Nyheter fra startsiden

Se opptak fra Post-ESMO-seminaret her!

Nyhetsbrev

Vil du abonnere på vårt nyhetsbrev?

Klikk her!