Kan KI tilpasses i pasientkommmunikasjon?

Den virkelige risikoen ved bruk av KI ikke er ondskap, men mangel på kompetanse

«KATASTROFE FOR menneskeheten og selvmål for sivilisasjonen». Det er ikke mangel på advarsler når den kunstige intelligensen slipper løs.

I en tid med usikre kilder og mange som vil påvirke, på godt og vondt, har vi et ansvar for å forvalte, bruke og formidle kunnskapen vi har, enten det dreier seg om å utvikle solid beslutningsstøtte – eller trygg og god pasientkommunikasjon.

ENORMT POTENSIAL. Artificial intelligence (AI) – eller kunstig intelligens på norsk– har vist et enormt potensial i utviklingen av tjenesten vår. Den kan gi innsikt i pasientdata, automatisere prosesser – og gi støtte til diagnostisering, behandling og oppfølging. Bruken av kunstig intelligens har potensial til å forbedre resultater, øke effektiviteten og redusere behov for bemanning, noe som er helt nødvendig fremover.

Robotisering og automatiserte prosesser er allerede i bruk i sykehusene. Mye av det som i mange år nærmest var science fiction, banker nå på døra – og kan realiseres og tas i bruk.

KI-OPTIMISME. Det er både muligheter og begrensninger i bruken av kunstig intelligens. KI-løsninger reiser både tekniske og etiske spørsmål. Vi kan selvsagt ikke hoppe bukk over utfordringene: Personvern og datasikkerhet må ivaretas. Algoritmer kan være partiske, og det kan føre til ulikheter i helsetjenester.

Helsedata lagres ofte i ulike formater og systemer, noe som gjør de vanskelig å innlemme og analysere. Bruk av kunstig intelligens krever spesialisert kompetanse, og det er et tydelig behov for klare retningslinjer og standarder for bruk.

Får vi disse faktorene under kontroll, må det være mulig å være KI-optimist.

VERKTØY FOR KOMMUNIKASJON. Det åpne KI-verktøyet ChatGPT har vakt mye diskusjon. Kort forklart er ChatGPT en kunstig intelligent chatbot som du kan spørre om hva som helst, en avansert tekstgenereringsmodell. Chatboten henter informasjon fra internett, og den er i allment bruk. Rundt juletider meldte mange at de lot den skrive årets julehilsen, den skriver like gjerne skolestiler, den er en racer på å skrive dikt, og Vårt land meldte for litt siden at minst en av årets påskeprekener ble til her.

Konfronterer du den med moralske spørsmål eller andre vurderinger, svarer ChatGPT at den dessverre ikke kan levere. Den har altså fått innprentet en dose selvinnsikt også. Det gjør den nesten troverdig. – ChatGPT is the single best software product that the world has ever made, sa grunnlegger og direktør Jen-Hsun «Jensen » Huang i datateknologibedriften NVIDIA i en samtale med oljefondsjefen Nicolai Tangen nylig.

BOIKOTTE – ELLER PÅVIRKE? Jeg deler begeistringen. Optimist som jeg er, håper jeg dette er starten på en revolusjon for faget jeg er en del av. Vi skal selvsagt ikke være naive og ukritiske, det vil fortsatt være behov for at vi tenker selv og er kvalifiserte avsendere av budskap, men her er det flere muligheter enn begrensninger, blant annet for tilgang til kunnskap og for tilpasset kommunikasjon.

Skal vi boikotte eller være med og påvirke? ChatGPT, Snapchat sin Min AI og andre kanaler tilbyr AI-tjenester i raskt tempo. Programmene er i tidlig utvikling, de er ikke så modne. Eller som Snap-sjefen Evan Spiegel sier: «Min AI gjør absolutt mange feil. Så du kan ikke stole på den for råd, men den er definitivt underholdende.»

GRUNNLEGGENDE FEIL. Det er ikke underholdende når landsforræderen Vidkun Quisling dukker opp på lista når man spør om norske helter i Min AI. Det er rystende, grunnleggende feil, og det er en påminnelse om at AI bare vet det den blir fortalt – og at den ikke vurderer moral. Alt vi presenteres for, er ikke riktig.

All bruk krever mye av både informasjonssikkerhet og kildekritikk. Italia har stoppet tjenester. Franske skoler har forbudt bruken av ChatGPT, og skoler og universitet over hele verden er usikre på hvordan de skal forholde seg til dette: Er det et verktøy for juks – eller er dette fremtidens måte å lage tekster og innhold på?

I kommunikasjonsavdelingen vår har vi testet ChatGPT på enkle tekster. Det duger sånn halvveis. Foreløpig er vi bedre enn robotene, både i innhold og språk. Jeg er ikke redd for at vi blir arbeidsledige med det første. Men vi ser mulighetene som AI kan gi oss på kommunikasjonsfeltet.

PASIENTKOMMUNIKASJON? Vi bruker allerede kunstig intelligens til forbedring. For å forbedre kommunikasjon, kan KI absolutt være et nyttig verktøy. Ved å bruke data fra over 250.000 sikre meldinger, utvekslet mellom diabetespasienter og deres leger gjennom Kaiser Permanentes sikre e-postportal, har studien Precision communication: Physicians’ linguistic adaptation to patients’ health literacy Science Advances satt en ny standard for omfanget av forskning på pasientkommunikasjon, noe som vanligvis gjøres i mindre skala. Studien fant at de fleste leger bruker språk som er for komplekst til at pasientene deres kan forstå. Det er ingen grunn til å tro at det er noe annerledes her til lands.

Algoritmene analyserte ord-arrangement, psykologiske og språklige egenskaper, frekvens og emosjonell virkning. Bare rundt 40 prosent av pasienter med lav helsekompetanse hadde leger som brukte enkelt språk i dialogen med dem. I motsetning til et klinikkmøte, hvor en lege kan bruke visuelle signaler eller verbale tilbakemeldinger fra hver pasient for å bekrefte forståelsen, vil vi aldri være sikre på at pasientene forstår den skriftlige meldingen.

HVA ER FREMTIDEN? Effektiv elektronisk kommunikasjon blir stadig viktigere. Studien fant at legene som presterte best i undersøkelser av hvor godt pasienter faktisk forsto kommunikasjonen dem imellom, ofte skreddersydde meldinger til pasientens nivå. Det er altså en kombinasjon av teknologi, holdninger og ferdigheter som er avgjørende for denne kommunikasjonen.

AI kan altså brukes til analyse, men kan også tenkes å være løsningen. Er det rett medisin å ensidig standardisere brev og meldinger til pasienter? Eller er fremtiden å kombinere egen kjennskap til pasientene med å ta KI i bruk, med all informasjon og data vi har, for å tilpasse kommunikasjonen til dem vi henvender oss til, uavhengig av plattform?

HVIS VI KAN – OG VIL. Det er lagt til rette for at vi kan jobbe raskt med utviklingen videre. Data i interne system, kvalitetssikret informasjon på internett, API-er og åpne kildekoder er tilgjengelig. Da er det ikke viktig hvor pasienter finner det de trenger. Vi kan eie utviklingen selv, være garantist for riktig informasjon, kan tilpasse og treffe med kommunikasjonen som trengs, til rett tid, på det nivået, det stedet og i den situasjonen pasienten er. Utfordringene ved bruk av KI i pasientkommunikasjon er ikke uoverkommelige. KI kommer til å transformere både tjenester og kommunikasjon, dersom vi styrer utviklingen rett. Kompetanse og vilje er nøkkelen.

KI-trusselen dreier seg ikke nødvendigvis om at noe bare er ondskapsfullt – eller kun i det godes tjeneste. Fysikeren Stephen Hawking har avvist denne oppfatningen som lite konstruktiv, og konkludert med at den virkelige risikoen ved bruk av KI ikke er ondskap, men mangel på kompetanse.

I utgangspunktet kan KI være et veldig godt hjelpemiddel til å nå målene våre. Hvis vi kan – og vil.

Dagens Medisin, fra Kronikk- og debattseksjonen i 07-utgaven.