KI kan gi farlige råd - men hvor ofte skjer det?

I debattinnlegget «Er KI-en din spiseforstyrret?» beskriver Lunde råd som kan forsterke spiseforstyrrelser. Risikoen er reell: Språkmodeller kan mangle klinisk kontekst, overse faresignaler og gi feil svar.

En fagfellevurdert studie fra 2026 undersøkte 888 svar fra fire chatboter på 222 vanlige medisinske spørsmål. Legene klassifiserte 5-13 prosent som potensielt farlige og 22-43 prosent som problematiske. Modellene var imidlertid hovedsakelig fra 2024. Studien viser at farlige råd forekommer, men ikke at de er det normale utfallet hos dagens tjenester.

Kildene gir et mer nyansert bilde

Lunde viser til mpathic-undersøkelsen fra 2026. Den fant at modeller kan overse faresignaler som presenteres som sunn livsstil eller optimalisering. Rapporten sier samtidig at modellene generelt unngikk åpenbart skadelige svar, og at GPT-5.2 ofte oppmuntret til støtte og frarådet risikofylt atferd. Testen gjaldt API-er, ikke ferdige forbrukertjenester.

Også flere av de øvrige eksemplene må nyanseres. Washington Post-eksemplene fra 2023 bygget på målrettet testing av eldre systemer, delvis med instruksjoner utformet for å omgå sikkerhetstiltak. Undersøkelsen blandet også chatboter og bildegeneratorer. Den viser at skade kunne fremprovoseres, men sier lite om vanlig bruk.

NEDA-chatboten Tessa var opprinnelig regelbasert og ikke en generell språkmodell som ChatGPT. Saken viser sviktende styring, men ikke at moderne språkmodeller vanligvis gir slike råd.

Sikkerhetstiltak finnes allerede

Påstanden om at KI-chatboter er «helt uten opplæring i hva som er farlig å si», er feil. Store leverandører har regler, sikkerhetstrening og tester for selvskading og spiseforstyrrelser. Tiltakene er ikke perfekte, men de eksisterer.

Den siterte prevalensoversikten fra 2019 viste økt vektet punktprevalens mellom to grupper av studier. Den dokumenterer ikke at sosiale medier - og langt mindre KI - forårsaket økningen. Tallet på henvendelser til ROS sier heller ikke hvor mange som hadde spurt KI.

Regulering krever presise premisser

Bedre varsling og sikkerhetsmekanismer er fornuftig. Vi bør kreve oppdaterte, uavhengige tester, særlig for barn, sårbare brukere og samtaler over tid. Men målrettede stresstester av eldre systemer bør ikke fremstilles som typisk atferd hos dagens chatboter.

KI-chatboter kan gi farlige helseråd, men det er ikke dokumentert at moderne chatboter vanligvis eller sannsynligvis gjør det. Nettopp fordi risikoen er reell, fortjener debatten mer presisjon enn spissformuleringer.

KI-verktøy: ChatGPT 5.6 Sol er brukt til kildeidentifisering og språkvask.

Ingen oppgitte interessekonflikter.