Herold

«Sofie» fikk bildene sine avkledd ved bruk av Kunstig Intelligens. Nå vil flere partier straffe teknologiselskaper som har denne funksjonen.

Saken oppsummert:

• «Sofie» var 14 år da et falskt nakenbilde av henne ble laget og delt videre. Hendelsen preger fortsatt hennes hverdag. • Falske nakenbilder skapt med KI-baserte apper har ført til alvorlige konsekvenser som isolasjon, skolefravær og i noen tilfeller selvmord blant unge, forteller Frode Rensel i Barnevakten. • Over 700 millioner nedlastinger av slike apper viser at problemet er omfattende og økende, ifølge Rensel. • SV foreslår å straffe teknologiselskaper som gjør slike verktøy tilgjengelige, og forslaget har fått flertall i familie- og kulturkomiteen. • Regjeringen jobber med å innføre KI-forordningen og en aldersgrense på sosiale medier for å styrke digital beskyttelse, forteller digitaliserings- og forvaltningsminister Karianne Tung (Ap). • «Sofie» oppfordrer andre som opplever lignende situasjoner til å snakke med noen de stoler på.

Oppsummeringen er laget av en KI-tjeneste fra OpenAI. Innholdet er kvalitetssikret av NRKs journalister før publisering.

– Jeg var ganske redd i flere måneder etter at bildene hadde blitt delt. For jeg visste jo ikke hvem som hadde de, sier «Sofie».

Hun var bare 14 år gammel da noen hadde laget et falskt nakenbilde av henne.

Nå, to år senere, preger det fortsatt hennes hverdag.

– Jeg klarer aldri å senke skuldrene helt. Det har alltid vært i baktankene mine at et sånt bilde kan komme igjen.

«Sofie» er ikke hennes virkelige navn, men hun ønsker å være anonym. NRK kjenner hennes identitet, og har fått bekreftet historien hennes.

En frykt

Etter hendelsen har hun vært oppmerksom på hva slags bilder hun legger ut på sosiale medier.

På hennes private Instagram er det kun den aller nærmeste kjernen som følger henne.

Når hun er i en sosial setting og det skal bli tatt et bilde, passer hun på hvordan hun ser ut. For hun vet hvor lett det er å lage et sånt bilde, forteller hun.

– Det er slitsomt å måtte ha en sikkerhetskontroll hver gang. Jeg skulle ønske man bare kunne ta et bilde, og så var det null stress å legge ut.

Bare det å poste et fint familiebilde på Instagram kan bli en frykt, ifølge «Sofie».

– For du kan være redd for at det skal bli et bilde av deg og hele familien din naken.

Svært alvorlige konsekvenser

Rådgiver Frode Rensel i Barnevakten har fulgt flere alvorlige saker der ungdom bruker KI-baserte avkledningsapper mot jevnaldrende, og sprer de falske nakenbildene videre.

– I noen av de tilfellene jeg har jobbet med, har det fått svært alvorlige konsekvenser. Vi ser langvarig skolefravær, sterk frykt for fremtiden, isolasjon og ensomhet, forteller han.

Rensel forteller at det finnes eksempler på at unge mennesker har tatt sitt eget liv som følge av slik krenkelse og utpressing.

I appbutikkene har det til tider ligget over hundre slike avkledningsapper i app-butikkene. Appene er blitt lastet ned over 700 millioner ganger, ifølge Barnevakten.

– Det er et reelt og økende problem. Jo mer integrert KI blir i hverdagen vår, desto større blir risikoen.

Trenger du noen å snakke med?

Hvis du trenger noen å snakke med, kan du bruke noen av disse lavterskeltilbudene:

• Kirkens SOS: Ring 22 40 00 40, eller kontakt dem på melding eller chat.
• Mental Helse Hjelpetelefonen: Ring 116 123 eller skriv til dem her.
• Røde Kors sin tjeneste Kors på halsen er for deg under 18 år. Ring 800 333 21
• Akutt selvmordsfare? Ring 113 når det er akutt og står om liv.
• Ring legevakt på tlf. 116117 for akutt hjelp.

Du kan også snakke med fastlegen din.

Vil straffe selskapene

Nå vil SVs Mirell Høyer-Berntsen straffe selskapene som gjør verktøyene tilgjengelig. Ikke bare brukerne.

– Vi har ikke god nok lovgivning, mener hun.

Straffeloven sier at det er strengt forbudt å ha noe som helst å gjøre med bilder og videoer som viser seksuelle overgrep mot barn, eller som viser barn på en seksuell måte.

I denne loven regnes du som barn hvis du er under 18 år.

Straffen for dette kan være fengsel inntil tre år.

– Men vi har ikke et lovverk som forbyr teknologiselskapene å gjøre det samme, sier Høyer-Berntsen.

Forslaget hennes fikk flertall i familie- og kulturkomiteen. Stortingsmeldingen og forslagene skal stemmes over i Stortinget 3. mars.

Forslaget som nå har flertall:

Stortinget ber regjeringen utrede og komme tilbake til Stortinget med et lovforslag som forbyr å generere og spre ulovlig innhold, deriblant seksualiserte «deepfake»-bilder av personer, og dessuten gjennomgå regelverket og fremme forslag for å sikre en effektiv håndheving av personers vern mot manipulert innhold a egen person, herunder bøtelegging av selskaper som sprer slikt innhold.

Mirell Høyer-Berntsen, SV og medlem i Familie- og kulturkomiteen.

SV mener at forbudet haster og at de folkevalgte i Norge har et ansvar for å ta grep. Hun er glad flertallet blir med på forslaget.

– Det norske storting sender en tydelig beskjed om at verdens mektigste teknologiselskaper ikke skal profittere på overgrepsmateriale.

Vil prioritere eksisterende arbeid

Arbeiderparti-regjeringen jobber så raskt de kan med å gjennomføre KI-forordningen og forordningen om digitale tjenester i norsk rett, forteller Karianne Tung.

I tillegg jobbes det med å innføre en aldersgrense på sosiale medier.

– Dette gjør vi for å sikre at alle skal ha lik beskyttelse i den digitale verden som i den fysiske verden.

Regjeringen blir forpliktet til å se på forslaget til SV, dersom det får flertall i Stortinget.

Men Tung mener den beste løsningen er å fortsette det eksisterende arbeidet, istedenfor å sette i gang et nytt regelverksinitiativ.

– Snakk med noen

«Sofie» skulle ønske en straff for teknologiselskapene var satt i gang for lenge siden.

– Da kunne det ha vært mange færre tilfeller av falske nakenbilder. Og det kan gjøre det lettere for folk å dele koselige bilder uten å stå i en frykt for hva som kan komme etter, sier hun.

Det hjalp «Sofie» å snakke med noen hennes nærmeste.

Den nå 16 år gamle jenta har en klar oppfordring til andre som opplever det samme som henne:

– Snakk med noen så fort som mulig.

Det hjalp henne. Hun snakket med foreldrene, hennes bestevenninne, lærer og rektor på skolen.

– Hvis du ikke snakker om det med en gang, så kan det blir mye verre.