Trygg journal med kunstig intelligens

I Dagens Medisin 12. september løfter Damoun Nassehi viktige problemstillinger i debattinnlegget «Når kunstig intelligens skriver journal – og ingen trippelsjekker». Han beskriver hvordan små feil i journalen kan få store konsekvenser. Han peker også på manglende innsyn og ansvar rundt innføringen av KI-verktøy. Samtidig anerkjenner forfatteren at mange leger opplever at kunstig intelligens gir reell nytte i hverdagen.

I Helse Vest prøver vi ut KI for journalføring og skal evaluere nytten basert på flere faktorer. Vi deler bekymringene for pasientsikkerhet, ansvarlighet og åpenhet samtidig som vi ser at dagens praksis også fører til feil og mangler. Dette innlegget er vårt bidrag til debatten om KI-verktøy og våre konkrete erfaringer og tiltak for å bruke KI til journalføring i Helse Vest.

Hvorfor vi prøver ut KI-verktøy

Aldrende befolkning og mangel på helsepersonell gjør det nødvendig å ta i bruk løsninger som kan frigjøre tid. Dokumentasjonspraksisen i sykehus er allerede under press. Medisinen i spesialisthelsetjenesten skjer i sanntid på visitt, i tavlemøter og under undersøkelser, hvor man diskuterer og beslutter i fellesskap.

Slik Dr. Nassehi beskriver journalføring fremstilles det som en individuell og lineær prosess. I praksis er det ofte et tidspresset og fragmentert arbeid, hvor behandlere med høyt arbeidspress må rekonstruere beslutninger fra et fåtall stikkord, og med tilhørende risiko for feil. Dette er en av grunnene til at KI for journalføring er et kritisk verktøy for spesialisthelsetjenesten. KI verktøyet fungerer som en sekretær som skriver ned all informasjon, organiserer den og filtrerer ut det som er medisinsk relevant. Da får vi et utkast vi kan se på i plenum og justere etter behov eller preferanse – arbeid vi ellers måtte gjort manuelt.

I Helse Vest tester vi derfor tale-til-sammendrag (TTS), KI som automatisk genererer et utkast til journalnotat basert på samtalen mellom pasient og behandler. Vi prøver ut 4 ulike verktøy i perioden august 2025 -sommeren 2026. Formålet med utprøvingen er å:

• Få bedre innsikt i nytteverdien av denne type KI-verktøy i spesialisthelsetjenesten,
• Styrke vår bestillerkompetanse,
• Utvikle kompetanse for drift og forvaltning av slike løsninger.

Målet er å gi klinikerne verktøy som gir reell avlastning og bidrar til at vi kan gi trygg og god behandling til flere pasienter. Flere studier viser at KI for journalføring gir gevinster utover bare tidsbesparing, dette blant annet redusert grad av utbrenthet, mindre kognitiv belastning og økt kvalitet i journalnotatet. Vi viser til “Adoption of Artificial Intelligence in Healthcare Delivery Systems: Early Applications and Impacts” og “Ambient Artificial Intelligence Scribes: Learnings after 1 Year and over 2.5 Million Uses”.

Rigget for trygg utprøving

Utprøving ble valgt fremfor anskaffelse fordi teknologien er ny og erfaringene begrenset. Vi ønsker å ta i bruk ny teknologi på en forsvarlig, åpen og ansvarlig måte ovenfor både våre pasienter og våre medarbeidere.

Dr. Nassehi sier at journalskrivere basert på KI rulles ut i spesialisthelsetjenesten uten klare krav til dokumentasjon, innsyn eller ansvar. Dette er vi uenige i. På lik linje med annen IKT-teknologi som tas i bruk i sykehusene våre følger vi interne retningslinjer for hvordan ivareta IKT-sikkerhet og personvern. I praksis inkluderer dette omfattende personvernvurderinger og DPIA, samt risiko- og sårbarhetsanalyser (ROS) av hver løsning. Vi har sørget for databehandleravtaler med hver leverandør hvor det tydelig spesifiseres hvilke språkmodeller som ligger til grunn for løsningene. Databehandleravtalene krever i tillegg at all databehandling skal skje innenfor EU/EØS og forbyr bruk av Helse Vest data for videre trening. Utprøvingen er forankret både gjennom regionens administrerende direktører og fagdirektører. Vi ønsker i tillegg å trekke frem at vi opplever at leverandørene har et bevisst forhold til personvern og IKT sikkerhet og utvikler produktet sitt i tråd med prinsippene om innebygget personvern.

Klinikerens ansvar står fast

Feil kan få alvorlige følger. I vår utprøving legger vi til grunn at alle KI-genererte sammendrag skal kvalitetssikres av behandleren før journalnotatet signeres, i tråd med helsepersonelloven § 40 og pasientjournalforskriften § 10. Opplæringen understreker at utkastet kun er en støtte. Den kliniske vurderingen skal alltid ligge hos behandler og det er fremdeles behandler som er ansvarlig for innholdet i journalnotatet.

Veien videre

Veien videre handler om å omsette det vi har lært om utfordringene til praktiske forbedringer, sikre god implementering og realisere de store gevinstene KI kan gi i klinisk arbeid. Gjennom utprøvingen får vi innsikt som gjør oss i stand til å møte både praktiske og etiske utfordringer ved KI. Vi stiller oss også positive til CE-merking av slike løsninger og vi følger spent med på pågående avklaringer vedrørende dette. Men, det vil uansett ikke være en sovepute for trygg bruk av KI løsninger.

Vi vil ikke ofre pasientsikkerheten på effektiviseringens alter. Teknologi er et supplement og ikke en erstatning for klinisk skjønn. Helse Vest skal ha en aktiv tilnærming til å ta i bruk KI-teknologi og vi lærer av denne utprøvingen for å sikre trygg og ansvarlig bruk i spesialisthelsetjenesten.

Invitasjon til dialog

Vi inviterer kolleger, myndigheter, pasientorganisasjoner og leverandører til dialog om hvordan vi sammen kan realisere de reelle gevinstene ved KI i helsevesenet samtidig som vi ivaretar tilliten og tjenestetilbudet for dem vi er satt til å behandle.

Ingen oppgitte interessekonflikter

12 Ap-ordførere ber helseministeren gripe inn

Sørlandet sykehus åpnet Tips-telefon for psykose