Skal vi ha en proaktiv eller reaktiv holdning til kunstig intelligens?

Uten debatt eller forståelse for hvilke krav som gjelder – og hvordan overholdelse av kravene kan verifiseres – blir det lite implementering av kunstig intelligens i norsk helsetjeneste.

Publisert

Denne artikkelen er mer enn to år gammel.

Mathias Hauglid

Innlegg: Mathias Hauglid, doktorgradsstipendiat ved Det juridiske fakultet, UiT Norges arktiske universitet

I DAGENS MEDISIN 14. oktober 2021 svarer avdelingslederne Lars Houge og Oskar Strand i Siemens Healthineers på en kronikk fra ph.d.-student Line Linstad og hennes forskerkolleger ved Nasjonalt senter for e-helseforskning 16. september 2021.

Forskernes innlegg fremhevet behovet for en godkjenningsordning for kunstig intelligens (KI). Houge og Strand mener at bekymringene som forskerne legger til grunn, er å «begynne i feil ende». De etterlyser i stedet det de omtaler som en «proaktiv» tilnærming til KI.

REAKTIV HOLDNING. Jeg vil også ta til orde for en proaktiv tilnærming, men jeg har en ganske annen forståelse av begrepet. Mens Houge og Strand er opptatt av at testing og kvalitetssikring av KI ikke er den største utfordringen med KI-bruk akkurat nå, vil det å være proaktiv, vanligvis bety å være føre-var – ved å «forutse begivenheter eller problemer snarere enn å bare reagere når de er oppstått» (kilde: Det norske akademis ordbok).

Innlegget fra Linstad og medforfattere er et godt eksempel på en proaktiv tilnærming. De stiller betimelige spørsmål som det er helt nødvendig å finne løsninger på, for at KI skal kunne implementeres til det beste for pasientene og samfunnet. Tilsvaret fra Houge og Strand er et eksempel på det motsatte – en reaktiv holdning.

De som påstår at eksisterende godkjenningsordninger for medisinsk utstyr er godt tilpasset KI, vil møte hevede øyenbryn fra FDA og EU

INDUSTRIENS INTERESSE? Jeg verken håper eller tror at tilsvaret fra Houge og Strand er representativt for den private leverandørindustrien. Industrien bør nettopp ha interesse av at det utvikles prosesser som gjør det mulig å verifisere at KI-systemer oppfyller minimumskrav for tilgang til markedet. En reaktiv holdning er en sikker måte for å vanskeliggjøre implementeringen av KI i norsk helsetjeneste.

Heldigvis står arbeidet med å utvikle krav og godkjenningsordninger for KI, høyt på agendaen hos viktige aktører som Food and Drug Administration (FDA) i USA og – av større betydning i vår del av verden – EU. Den som påstår at eksisterende godkjenningsordninger for medisinsk utstyr er godt tilpasset KI, vil møte hevede øyenbryn hos disse institusjonene.

RETTSLIG RAMMEVERK. EU-kommisjonen foreslo den 21. april 2021 et rettslig rammeverk for KI. Forslaget innebærer at KI-systemer, avhengig av bruksområde og risikoklasse, skal oppfylle en rekke nye krav. Disse kravene kommer på toppen av kravene som allerede følger av medisinsk utstyrsforordningen, og de reiser spørsmål om hvordan den fremtidige godkjenningsordningen skal se ut: Hvordan skal man gå frem? Hvem skal stå for vurderingene? Hvordan kan det sikres at de som står for vurderingene, har den nødvendige kompetansen og forståelsen?

Nytteverdien av kunstig intelligens (KI) i helsetjenesten er åpenbar. Hvem vil ikke ha raskere, rimelige, persontilpassede og presise løsninger i alle ledd av helsetjenesten? Det er nettopp for å komme nærmere implementering av et bredt spekter av KI-baserte løsninger, at det er viktig å diskutere hvordan ulike KI-systemer kan godkjennes for klinisk bruk.

Det handler ikke om hvorvidt man risikerer å «begynne i feil ende». Det handler om å ha to tanker i hodet samtidig.

Tilleggsinformasjon: Forfatteren oppgir ingen oppgitte interessekonflikter, men opplyser at han bistilling som rådgiver ved Senter for pasientnær kunstig intelligens og som varamedlem i REK KULMU (klinisk utprøving av medisinsk utstyr).


Dagens Medisin
, fra Kronikk og debattseksjonen i 18-utgaven

Powered by Labrador CMS