Hvordan kan kunstig intelligens brukes rettferdig i helsetjenesten?

Kronikk: Kristine Bærøe, professor i medisinsk etikk og vitenskapsfilosofi ved Institutt for global helse og samfunnsmedisin, Universitetet i Bergen (UiB)

I ET MEDISINSK etisk perspektiv er det knyttet både forventinger og bekymringer til hvordan kunstig intelligens (KI) kan forvandle helsetjenesten. Bruk av KI, eksempelvis i bildediagnostikk og i vurdering av individuelt tilpassede behandlingsalternativer, kan bidra til å fremme helse.

Dette er selvsagt bra. Samtidig er det mange og komplekse etiske problemstillinger i feltet. Disse strekker seg langt utover bekymringer rundt «kald teknologi» som erstatning for menneskelige «varme hender».

RETTFERDIGHET? La meg her trekke frem én etisk problemstilling som truer velferdsstatens premisser. «Kan medisinske algoritmer være rettferdige?» spurte vi i en nylig publikasjon. Ett av problemene vi diskuterte i artikkelen, handler om rettferdige konsekvenser ved bruk av KI i helsetjenesten.

Maskinlæring (ML) betegner algoritmer som kan forbedre sin egen prestasjon uavhengig av KI-utviklere. Ved å trene seg på store mengder pasientinformasjon, gjenkjenner disse KI-systemene mønstre i dataene. Slike mønstre kan så brukes til for eksempel å identifisere behandlingen som forventes å være optimal for den enkelte pasient.

ETIKK. KI-systemer lærer på bakgrunn av dataene de fores med. Et velkjent problem er at slike datasett representerer skjevheter i forhold til den virkeligheten de beskriver. Andre skjevheter oppstår når KI-systemene utvikles og evalueres. Slike skjevheter kan gi utslag som er etisk og politisk problematiske. Et eksempel på dette er KI som feilaktig vurderer en innsatt til å ha høy gjentakelsesfare, slik at vedkommende får avslått søknad om prøveløslatelse.

I helsetjenesten vil rettferdig bruk av ML-baserte behandlingsanbefalinger innebære at enhver pasient har like muligheter til å få presise ML-anbefalinger. Dette forutsetter igjen at helsetjenesten har data som dekker behov og interesser til alle dem helsetjenesten har ansvar for.

Til tross for ambisjoner om «lik tilgang til helsetjenester av god kvalitet» her til lands, har ikke alle i praksis like muligheter til å nyttiggjøre seg av helsesystemet.

ULIK TILGANG. Pasienter går gjennom flere ulike faser på veien mot å oppnå vellykket behandling. Analytisk sett kan disse deles inn som følger:

• erkjennelse av at man har et helsehjelpsbehov,
• motivasjon til å be om hjelp, å søke og oppnå hjelp, tilbud om hjelp, gjennomføring av velegnet behandling, og til slutt oppnådd helseforbedring.

Ulike sosiale og økonomiske forhold, ferdigheter og kompetanse påvirker mulighetene den enkelte pasient har til å komme seg gjennom disse fasene. For å sikre reell, lik tilgang for alle, må helsesystemet imøtekomme den enkeltes særskilte sosioøkonomiske behov og ferdigheter langs denne veien.

Skjer ikke dette, har befolkningen ulik tilgang. Ulik tilgang medfører helseulikhet. Helseulikhet vi kan unngå med politiske og sosiale tiltak, er urettferdig.

UFULLSTENDIG GRUNNLAG. Når tilgangen er ulik, får også algoritmene et skjevt og ufullstendig datagrunnlag å trene på. Behandlingsanbefalingene vil primært være tilpasset pasienter som deler karakteristikker med dem som historisk sett har kunnet nyttiggjøre seg av helsetjenesten. Bruk av KI kan i så måte bidra til å opprettholde, kanskje også forsterke, helseulikhet i befolkningen.

Solidaritet handler om likebehandling, men også bruk av ekstra ressurser til dem som trenger det mest. Det handler om å se behovene til dem som ellers blir oversett i makthavernes blindsoner. Og om å sørge for at ingen blir hengende etter mens andre drar ifra.

KOORDINERING. Skal KI opprettholde velferdsstatens solidaritet og likeverdideal, trenger vi rettferdig og koordinert bruk av KI-teknologi. Innen helse bør KI da i første omgang utvikles mot å fremme reell likhet i tilgang til helsetjenesten.

Uten koordinert styring av kunstig intelligens står velferdsstatens idealer i helsefeltet i fare for å bli skylt på sjøen av sterke økonomiske og teknologiske idealer – som også er i sving rundt denne teknologien.

Dagens Medisin, fra Kronikk- og debattseksjonen i 01-utgaven