AIgoritmeledelse

Algoritmeledelse innebærer at digitale systemer utfører allokering av oppgaver og ressurser; styring av virksomhetens løpende drift. Maskinene overtar management av virksomheten.

Økonomiperspektivet

Med målstyring, pasientforløp og detaljerte rutine- og metodebeskrivelser ligger alt til rette for at KI-systemer kan overta styringen. Innen helse- og omsorgsektoren kan KI snart planlegge elektive aktiviteter og styre allokering av ressurser. Disponering av utstyr og arealer planlegges og bestillinger av service eller innkjøp kan skje automatisk. Algoritmelederen disponerer alt nødvendig personale (inklusive erstatningsvikarer) og tilordner planlagte aktiviteter. Detaljert vakt- og arbeidsplan sendes ut til hver enkelt. Personalet kommuniserer med KI-en og ved fravær oppdateres planene automatisk.

Også prioritering av pasientbehandling kan gjøres automatisk. Basert på KI-beregninger av helseeffekt og alternativkostnad, kan algoritmelederen beslutte om pasienten skal få behandling. De som er heldige, kan få løpende oppdatering om sin ventetid.

Hvis alt dette virker, kan mange ledere vende tilbake til klinisk arbeid. Eller pensjonere seg.

Personalperspektivet

Algoritmeledelse er hittil mest vanlig i gig-industrier og kunnskaper om konsekvenser er mangelfulle. Det er vanskelig å avdekke følger av algoritmeledelse og hva som skyldes selve gig-prinsipper som midlertidighet, kortvarige kontrakter, usikkerhet og kontinuerlig beredskap for å skaffe arbeidsoppdrag. En eksplorerende studie i de Nordiske landene fant at ansatte som opplever algoritmeledelse, rapporterer mindre autonomi, større arbeidsbyrde, lavere grad av tillit mellom ansatte og ledelse, lavere motivasjon og lavere jobbtilfredshet. I virksomheter der personalet er ansatt, slik som i de fleste helsetjenestene i Norden, vil antakelig algoritmeledelse innebære detaljstyring av arbeidsoppgaver og arbeidstider. Mulighet for autonomi og lederskap (dvs ta initiativ og lede) kan få dårlige vilkår.

Borgerperspektivet

Til nå leveres nesten alle KI-systemer som brukes i Norge, av amerikanske firma som Microsoft, Alphabet/Google, Amazon, OpenAI og Anthropic. USAs myndigheter har rett til tilgang til elektroniske data fra amerikanske firmaer overalt i verden i henhold til The Clarifying Lawful Overseas Use of Data Act (CLOUD, fra 2018). Dermed er man ikke lenger sikker på beskyttelsen av personvern for data lagret hos amerikanske aktører. Anthropic er hittil eneste KI-leverandør som har nektet den amerikanske stat å bruke systemene deres i overvåkning av befolkningen (og i angrepsvåpen).

KI utvikles raskt. Enkelte av de største aktørene melder om nye versjoner flere ganger i året. Fra 2025 meldes det om versjoner som kan kjøre autonomt. Det er til og med rapportert at et KI-system iverksatte utpressing av en operatør som diskuterte å avinstallere det.

Anthropic har nettopp advart om at deres neste system, Mythos, innebærer høy sikkerhetsrisiko for cyberangrep fordi det kan utnytte svakheter mye raskere enn cybersikkerhetstiltakene iverksettes. Utfordringer og risikovurderinger ved KI-systemer kan altså endre seg temmelig akutt.

Helseperspektivet

Algoritmeledelse medfører sterke insentiver til å innføre tabellariske systemer for prioriteringer av helsetjenester etter pasientgrupper og diagnoser. KI kan overvåke og bruke internettdata om befolkningen og om forskningsresultater til å «forbedre» prioriteringer. Det finnes allerede KI-baserte psykoterapisystemer basert på «store språkmodeller».

Biologi, psykologi og medisin er kompliserte fag med nesten uendelig antall forskjellige eksponeringer, enorm genetisk variasjon, utallige patogenetiske og kompensatoriske mekanismer og mange behandlingsalternativer. Vi som har gjort systematiske kunnskapsoversikter, har sett at konklusjoner stadig må revideres og oppdateres etter hvert som forskningsfronten utvikles. Det er nesten umulig å ta hensyn til alle konfunderende og modererende variabler. Retningslinjer er følgelig usikre eller midlertidige. Kunnskap om genetisk predisposisjon vil også kunne tvinge frem individualiserte retningslinjer.

Helse er så komplisert og personalets faglige motivasjon og lederskap, engasjement i pasientene, og etiske standard er så viktige, at vi bør tenke oss meget godt om før vi innfører algoritmeledelse. Faren er at beslutningstakere lar seg blende av økonomiske modeller og fantasifull markedsføring.

Nye tall: 700 avvik på 476 dager – Helseplattformen skaper pasientrisiko nesten hver uke

Sier nei til alzheimerlegemiddel i Sverige