Bruk av kunstig intelligens til journalskriving – behov for felles regulering

I en serie innlegg i Dagens medisin (Når kunstig intelligens skriver journal – og ingen trippelsjekker, Trygg journal med kunstig intelligens og Kunstig intelligens styrker pasientsikkerheten) er ulike aspekter ved innføring av kunstig intelligens, med fokus på tale-til-notat løsninger, drøftet. Vi deler mange av vurderingene, men ønsker å utdype forhold vi mener er viktig for forsvarlig bruk, kvalifisering av KI-programvare som medisinsk utstyr og åpenhet ved bruk av tale-til-notat-løsninger. KI-systemer som brukes i helse- og omsorgstjenesten, vil ofte omfattes av definisjonen av medisinsk utstyr og tilhørende kravene i norsk lov og forskrift. Det kan være mer krevende å avgjøre om tale-til-notat-løsninger skal regnes som medisinsk utstyr. Denne typen programvare transkriberer samtalen mellom lege og pasient i sanntid, analyserer transkripsjonen og lager så et utkast til journalnotat ved bruk av KI. Tale-til-notat er i bruk i fastlegetjenestene, og er nå på full fart inn i spesialisthelsetjenesten.

Det kan være utfordrende å avgjøre når programvaren går fra å være et dokumentasjonsverktøy til å omfattes av regelverket for medisinsk utstyr. Dersom programvaren gir beslutningsstøtte ved diagnostikk, eller foreslår videre behandling, er det liten tvil om at systemet regnes som medisinsk utstyr og må være CE-merket.

Kvalifisering av tale-til-notat som medisinsk utstyr

Norge har, i likhet med resten av EU, implementert forordningen for medisinsk utstyr (MDR).

Før sommeren tok Norge, gjennom Direktoratet for medisinske produkter (DMP), som første medlemsland opp problemstillingen om tale-til-notat skal reguleres som medisinsk utstyr i EU. DMP mottar mange henvendelser fra både offentlige og private virksomheter som er usikre på dette temaet, og det er viktig å få en avklaring. Hovedspørsmålet er om transkribering av tale til tekst og generering av utkast til journalnotat kvalifiserer som medisinsk utstyr. Saken er ikke avgjort ennå. Dersom det oppnås tilstrekkelig enighet mellom medlemslandene, vil EU-kommisjonen publisere konklusjonen i Manualen for grensetilfeller og klassifisering under MDR og IVDR. DMP vil også informere om resultatet på sine nettsider og i nyhetsbrev.

Hvis en løsning eller programvare defineres som medisinsk utstyr, må den CE-merkes. Produsenten må dokumentere at programvaren oppfyller alle krav til sikkerhet og ytelse i henhold til MDR før løsningen kan tilbys på markedet. Kravene skal sikre at utstyret er trygt og fungerer som tiltenkt, og ivaretar pasientsikkerheten.

Forsvarlighetskravet gjelder

Når nye løsninger skal tas i bruk i helsetjenesten, er det viktig å gjøre grundige vurderinger i forkant. Helsetjenestene har ansvar for at systemene de bruker i pasientbehandling oppfyller kravene til forsvarlighet og pasientsikkerhet. De må løpende vurdere hvilket utstyr de skal anskaffe til hvilket formål, og legge til rette for forsvarlig bruk. Vurderingen må gjøres individuelt og konkret for hvert enkelt produkt. Dette gjelder også tale-til-notat-løsninger, der produsenten må vurdere hele programvaren, inkludert alle moduler, opp mot regelverket.

En tale-til-notat-løsning vil kunne effektivisere arbeidshverdagen, men det vil fortsatt være helsepersonellet som skal signere teksten som vil stå ansvarlig for innholdet. Det kan være krevende for helsepersonell å kvalitetssikre dokumentasjon som er KI-generert, når de ikke kjenner hvilke utvalg og vurderinger løsningen legger til grunn. Dette kan utfordre pasientsikkerheten.

Det er verdt å merke seg at hvis KI-programvaren ikke klassifiseres som medisinsk utstyr, omfattes den likevel av grunnleggende helserettslige krav når den brukes i helsetjenesten. Virksomheten har ansvar for internkontroll og systematisk arbeid for å ivareta pasientsikkerheten. I dette ligger også ansvar for å avdekke og følge opp risiko for svikt ved innføring og bruk av teknologiske løsninger.

Krav om åpenhet

Når det gjelder oppfordringen om åpenhet kan vi støtte oss på EUs KI-forordning, som etter planen skal innføres i norsk rett. Forordningen stiller strenge krav til blant annet datakvalitet, dokumentasjon av språkmodeller og menneskelig overblikk for KI-systemer som regnes som høy-risikosystemer, inkludert KI-programvare som klassifiseres som medisinsk utstyr. Den krever også åpenhet om kvaliteten og treningsdataene som benyttes i KI-modeller med allmenne formål.

Artikkelforfatterne representerer Direktoratet for medisinske produkter, fag- og tilsynsmyndighet for medisinsk utstyr; Helsedirektoratet, ansvarlig for regelverksfortolkning innen hele helse- og omsorgstjenesten, herunder digitalisering og folkehelseområdet; samt Helsetilsynet som har tilsynsansvar ved bruk av IKT-løsninger og medisinsk utstyr i helse- og omsorgstjenestene, og om disse sikrer forsvarlig helsehjelp og at pasientsikkerheten ivaretas.

Ingen oppgitte interessekonflikter.

Lenke til tverretatlig informasjonsside om KI i helsesektoren.

Lenke til den tverretatlige regulatoriske veiledningstjenesten.

Les mer om Helsinki prosedyren for grensetilfeller og klassifisering under MDR og IVDR.

Se også DMPs nettside om programvare som medisinsk utstyr.