Herold

Kjendislege Kaveh Rashidi misbrukes i en KI-video som lokker diabetikere til å droppe insulin. Nå advarer han.

Tips oss!Har du video, bilder eller tips? Send til Dagbladet her eller ring oss på 24 00 00 00.

Kort fortalt

• En video med falske påstander om lege Kaveh Rashidi sprer seg i sosiale medier.
• Videoen er generert av kunstig intelligens og brukes til å markedsføre en falsk diabeteskur.
• Rashidi uttrykker bekymring for at folk blir lurt til å betale for falske helseråd.
• Eksperter advarer om at teknologien gjør det lett å lage overbevisende falske videoer.

Sammendraget er laget av ChatGPT og godkjent av Dagbladet.

En video som viser lege og forfatter Kaveh Rashidi har den siste tida spredt seg i sosiale medier, særlig på Facebook.

I et Facebook-innlegg skriver Rashidi: «Veldig mange sender meg melding etter å ha sett denne videoen. De fleste lurer på om det er ekte, mange har falt for svindelen og betalt dyre dommer, og enkelte er illsinte på meg og politianmelder».

Men ingen av påstandene i videoen er ekte. Alt er generert av kunstig intelligens og brukt for å markedsføre en falsk diabeteskur.

- Det er så klart ubehagelig, skriver Rashidi i en e-post til Dagbladet.

«Et nytt nivå»

I videoen sitter Rashidi tilsynelatende på et legekontor og hevder å ha en oppskrift som kan stabilisere blodsukkeret på én time. Han sier også at personer med diabetes kan «slutte med insulinsprøyter og droppe tablettene» dersom de følger rådene han hevder stammer fra «kinesisk forskning».

Selv om han opplever KI-videoen som både ubehagelig og alvorlig, er det noe annet som bekymrer han mest.

- Det som treffer mest, er ikke at det er overtramp eller identitetstyveri, men at ekte mennesker faktisk blir lurt til å betale penger, og kan ta helserisiko fordi de tror de får medisinske råd.

Rashidi har sett falske annonser tidligere, men beskriver videoen som «et nytt nivå» fordi den ser troverdig ut ved første øyekast. Det har ført til en stor mengde henvendelser.

- Mange spør om videoen er ekte, noen forteller at de har betalt, og enkelte blir sinte fordi de tror jeg står bak, sier Rashidi.

Reagerer for sakte

Ifølge ham er det særlig personer over 60 år som tar kontakt, noe han mener viser hvordan svindlerne målretter innholdet sitt. Da ansiktet hans sist ble brukt i en falsk prostatakreftkur, var det hovedsakelig eldre menn som tok kontakt.

Rashidi tror utviklingen bare vil fortsette.

- Jeg tror dette kommer til å øke, sier han og peker på at teknologien gjør det mulig for én person å masseprodusere tillit.

Han mener plattformene reagerer for sakte, og at kombinasjonen av avansert teknologi og trege kontrollsystemer gjør dette til en «svært effektiv svindelmaskin».

Rashidi understreker at ingen må klandre dem som blir lurt.

- Dette handler ikke om dumme folk.

Han mener at svindlerne utnytter svært ulike forutsetninger for digital kildekritikk, og etterlyser både plattformansvar og et sterkere «digitalt immunforsvar» i befolkningen.

- De er perfekte

Ifølge Henrik Skaug Sætra, førsteamanuensis ved Universitet i Oslo, har generativ KI utviklet seg med en enorm fart de siste åra. Langt raskere enn de fleste forstår.

Han forklarer at det tidligere krevde både kunnskap og kraftig maskinvare for å lage overbevisende falske videoer.

- Nå har vi fått verktøy som gjør det ekstremt lett å lage både video og lyd som er svært overbevisende, og «vanlige» datamaskiner og telefoner har blitt så kraftige at det heller ikke trengs egne maskiner for å gjøre dette, sier Sætra.

Etter hvert som flere verktøy har blitt tilgjengelig, beskriver han det som «lekende lett» for hvem som helst å lage manipulerte videoer.

- Teknologien har i flere år vært så god at det er så og si umulig å stole på våre egne sanser.

Sætra mener synlige helseprofiler som Rashidi er spesielt utsatt.

- Svindlerne må låne, eller stjele troverdighet. De er perfekte for falske legemidler eller helsetjenester.

Ifølge han er det i mange tilfeller ikke mulig å se forskjell på ekte og KI-generert video. Det viktigste er å vurdere kildene grundig og se hvem som står bak innholdet.

- Vi må rett og slett være på vakt, og ikke ta noe for gitt - spesielt ikke hvis noe virker for godt til å være sant, sier Sætra.

- Snakk med noen

Både Sætra og Rashidi mener store teknologiplattformer må ta langt mer ansvar. Sætra kaller det «smått utrolig» at europeiske myndigheter ikke har lagt større press på selskapene, og etterlyser bedre filtrering og hurtigere fjerning av manipulert innhold.

Rashidi oppfordrer folk til å være ekstra kritiske når profilerte personer påstås å selge medisiner eller mirakelkurer. Han anbefaler å sjekke avsender, se etter røde flagg som tidsbegrensede tilbud, og verifisere informasjon utenfor plattformen ved å kontakte fastlege eller apotek.

- Snakk med noen du stoler på før du betaler, spesielt hvis det gjelder helse, sier Rashidi.