Er kunstig intelligens gunstig intelligens – for helsepersonell?

Det er store forventninger til hvordan kunstig intelligens skal bidra til en mer effektiv helsetjeneste, med like god eller bedre kvalitet. Nasjonal helse- og samhandlingsplan og den nye stortingsmeldingen om allmennlegetjenesten peker på en rekke effektiviseringsmuligheter både administrativt og i klinisk praksis.

Eksempler kan være bedre planlegging av turnus, raskere tolkning av røntgenbilder, eller generering av tekstdokumenter basert på store språkmodeller.

Kunnskapsrike og empatiske

Studier har vist at store språkmodeller både kan oppleves som mer kunnskapsrike og empatiske enn helsepersonell. Paradoksalt nok ser vi at vi også knytter oss til disse som kjæreste eller venn, til tross for at de ikke kan føle med oss – bare ha en sannsynlighetsbasert maskinell tilnærming i møtet med våre innerste følelser.

Mange av oss har erfaring med hvor lekende lett språkmodellene hjelper oss med noe vi kan fra før, enten det er å forberede en presentasjon på jobb, skrive en bursdagssang eller lage en spennende middag. I mange sammenhenger tar vi svarene for god fisk, til tross for at vi vet at språkmodellene jevnt og trutt dikter opp sine egne «fakta».

Men, store språkmodeller stopper ikke der, de gir oss også muligheten til å løse oppgaver vi ikke kan fra før, som for eksempel å skrive kode til et program eller oversette en tekst til japansk. Da kan det bli nesten umulig å oppdage om innholdet er av dårlig kvalitet.

Mange oppgaver i helsetjenesten er nøye regulert, enten vi ønsker å kjøre ambulanse, tolke et røntgenbilde eller gjøre en psykologisk undersøkelse. Til grunn for de fleste helseutdanninger og sertifiseringer ligger en gjennomtenkt balanse mellom teori og praksis. Hva skal til for at et KI-verktøy alene, eller helsepersonell i kombinasjon med KI blir godkjent eller sertifisert for å løse arbeidsoppgaver? Kunstig intelligens vil utfordre og rokke ved våre etablerte kompetanseløp.

Hva kan skje med vår kompetanse over tid om vi overlater den kognitive anstrengelsen til store språkmodeller? Dette er et delvis uutforsket område.

KI-bruk påvirket hjernen

I en rykende fersk studie fra MIT Media Lab i Cambridge ønsket forskerne å undersøke nettopp dette. Deltagerne skulle lære seg å skrive essay, og ble delt i tre grupper. «KI-gruppen» skulle lære å skrive essays med store språkmodeller (ChatGPT) som verktøy, «googlegruppen» med søkemotorer til hjelp, og «hjernen er alene»-gruppen med bare hjernen som verktøy. Over noen uker skrev alle gruppene tre essays hver. Da de skulle skrive det fjerde, så byttet to av gruppene verktøy – KI- gruppen fikk «bare hjernen» som verktøy mens «hjernegruppen» fikk bruke store språkmodeller.

Under skriveoppgavene målte forskerne deltagernes hjerneaktivitet med EEG. (elektroencefalografi). Tekstene ble analysert, og deltakerne ble intervjuet etter hver økt. De endelige vurderingene av tekstene ble gjort av både lærere og en KI-basert løsning.

Kort oppsummert fant forskerne at «KI-gruppen» fikk svakere hjerneforbindelser og lavere kognitiv aktivering over tid, mens «hjernegruppen» utviklet sterkest og bredest hjernenettverk. «KI-gruppen» hadde et tydelig redusert engasjement når de bare kunne bruke hjernen, rapporterte generelt lavere eierskap til egne tekster, og husket mindre av hva de hadde skrevet. «Hjernegruppen», derimot, demonstrerte blant annet bedre hukommelse og visuell aktivering.

Gunstig intelligens?

Kanskje er ikke funnene så overraskende. Stort sett blir vi bedre på det vi øver og trener regelmessig på. Selv om studien kun så på en avgrenset skriveoppgave med et begrenset antall deltagere og funnene er foreløpige, så reiser den mange viktige problemstillinger. Vil klinisk skjønn og vurderingsevne svekkes ved bruk av store språkmodeller? I så fall, på hvilken måte og på hvilke områder? På hvilke områder innebærer dette høy risiko og hvor er det akseptabel risiko? Hvordan kan store språkmodeller bistå helsepersonell med å løse arbeidsoppgaver, uten at kompetansen deres forringes? Hvordan kan vi vite hva som er godt nok når det gjelder kvalitet? Hvordan bør fremtidens opplæring av helsepersonell skje?

Vi er helt i startfasen når det gjelder innføring og implementering av store språkmodeller i helse- og omsorgstjenesten, og det er mye vi foreløpig ikke vet om hvordan mennesker og store språkmodeller bør samhandle. Det som allerede nå synes klart er at det finnes ingen snarveier, og at kunstig intelligens ikke nødvendigvis er gunstig intelligens. Skal vi lykkes må vi fortsette det tette og forpliktende samarbeidet mellom helse- og omsorgstjenestene og helsemyndighetene, og i enda større grad inkludere kunnskapssektoren og helsenæringen - slik at store språkmodeller bidrar til å øke kvaliteten både til tjenesten og kompetansen i helsesektoren.

Ingen oppgitte interessekonflikter