Herold

Mange bruker KI for å få råd om egen helse. Nå advarer Datatilsynet.

Tilliten til kunstig intelligens vokser.

Har du delt blodprøveresultatene dine med et KI-verktøy for å få umiddelbar analyse av resultatene? Da er du ikke alene.

Ifølge undersøkelser er nesten fire av fem brukere åpne for å bruke KI-verktøy til å diagnostisere seg selv.

Pasienter spør KI først

Fastlege Kristin Heldaas merker stadig oftere at pasienter bruker generativ kunstig intelligens (KI).

Pasienter kommer henne ofte i forkjøpet, og har fått symptomer, blodprøver, MR-beskrivelser og røntgenbilder analysert av KI.

– Det er litt det samme som da pasienter søkte opp symptomer på Google i gamle dager. Nå bruker de KI, sier hun.

Foreløpig er ikke KI-modeller en sikker kilde til å sette medisinske diagnoser.

– Når en diagnose ikke er satt, så kan KI ta feil, sier Heldaas.

Trodde de hadde kreft

Heldaas har forståelse for at pasienter bruker KI, og har selv erfaring med positive og negative resultater fra KI.

– Jeg har hatt et tilfelle der pasienten hadde snodige prøvesvar, så vi brukte KI og fant faktisk en sjelden diagnose.

Hun forteller om at hun like etter hadde en pasient som brukte KI, og ble redd og sikker på at hen hadde kreft. Det stemte ikke.

Heldaas er godt kjent med KI. Men som lege vet hun når hun kan stole på KI, og når den tar feil.

– Når pasienter spør KI om helsespørsmål genererer det veldig mye ekstra uro, sier Heldaas.

Hun anbefaler å være bevisst og fornuftig i bruk av KI, og å fortsette med å gå til fastlegen om du trenger helseråd.

– KI får til det leger og Google ikke alltid gjør

Ishita Barua er en av Norges fremste eksperter på bruk av KI i medisin. Hun ser at behovet for helsehjelp er stort, og klandrer ikke de som bruker KI til å gi medisinske råd.

– Jeg har fullstendig forståelse for det. Hva er alternativet? At du skal sitte og gruble? At du har legetime kanskje om noen uker, sier Barua.

Hun mener KI kan være et nyttig hjelpemiddel for å navigere i vanskelig språk hos legen eller på Google.

– Resultatene fra en blodprøve er ikke lett å forstå. Legen har ikke alltid tid til å forklare alt, sier Barua.

Selv om svarene ofte finnes på Google, krever det at du forstår informasjonen som finnes der. Der har du ikke muligheten til å tilpasse språket til noe du forstår.

Barua tror mange bevisst tar risikoen for hallusinasjoner. Råd som høres overbevisende ut, men som ikke alltid er faktamessig korrekte.

– Jeg tror mange tar den risikoen fordi svarene de får som oftest høres bra nok ut, sier hun.

Tips for å bruke KI tryggere:

Faktasjekk informasjonen

Kontroller svarene du får. Det aller beste er å spørre en fagperson, som for eksempel en lege. Du kan også spørre KI-modeller om hvilke kilder svaret er basert på, og faktasjekke informasjonen selv. Ser sidene pålitelige ut? Finner du samme informasjon noe annet sted på nettet?

Spør KI: Hvilke kilder er dette svaret basert på?

Bruk gjerne sikre medisinske nettsider til å sjekke om informasjonen stemmer. Om KI har foreslått en mulig diagnose, bør du søke opp diagnosen selv. Er informasjonen lik den KI har gitt?

Husk at KI hallusinerer

Språkmodeller er trent til å regne ut sannsynligheten for hva det neste ordet i setningen skal være. Da kan det oppstå såkalt hallusinering hvor svaret virker overbevisende, men ikke er korrekt eller sant.

Mange språkmodeller gir heller et skråsikkert feil svar, enn å uttrykke usikkerhet. Det er viktig å huske på når man bruker KI.

Kilde: Ishita Barua

– Ikke spør KI

Datatilsynet advarer mot å dele private helseopplysninger.

– Ikke spør KI om helseråd. Spør fastlegen din, eller andre kvalitetssikrede sider, råder Jan Henrik Nielsen i Datatilsynet.

Han begrunner det med at det er vanskelig å få oversikt over om innholdet baseres på fakta, og om hvordan dataen vil bli brukt og lagret.

– Du gjør deg selv sårbar ved å overlate beslutninger til en kunstig intelligens, sier Nielsen.

Snart kommer et alternativ til de kommersielle KI-modellene. Regjeringen er i prosessen om å etablere en offentlig KI-tjeneste for helserelaterte spørsmål basert på generativ KI.

Hør mer om dette på NRKs Nyhetsmorgen: