Herold

EU-kommisjonen oppretter sak mot Elon Musks KI-robot Grok og hvordan den har latt brukere lage falske, lettkledde bilder av kvinner og mindreårige.

Grok er drevet av kunstig intelligens og er integrert i Musk-eide X – tidligere Twitter.

Tjenesten har fått sterk kritikk for å la brukere fritt generere lettkledde og seksualiserte bilder og framstillinger av hvem som helst – også mindreårige. Typisk er dette gjort med enkle tekstkommandoer som «fjern klærne hennes». Tidligere i januar innførte selskapet tiltak for å stanse dette.

– I Europa vil vi ikke tolerer utenkelig oppførsel, slik som å digitalt kle av kvinner og barn, sier EU-kommisjonens president Ursula von der Leyen.

Etterforskningen skal kartlegge om X har fulgt kravene som er satt av DSA, EUs forordning om digitale tjenester. Målet er å tvinge Musks selskap xAI til å trekke Grok ut av EU, ifølge tyske Handelsblatt , som meldte om saken tidligere mandag.

Enormt bildemateriale

DSA skal sørge for at verdens største teknologiselskaper gjør mer for å beskytte europeiske brukere på nettet, og loven har spesielt strenge regler for beskyttelse av barns personvern og sikkerhet.

Ifølge organisasjonen Center for Countering Digital Hate (CCDH) genererte Grok rundt tre millioner seksualiserte bilder av kvinner og barn på bare få dager.

EU-kommisjonen planla opprinnelig å åpne sak forrige uke, men dette ble utsatt fordi landene først ønsket å koordinere mottiltak mot straffetollen USAs president Donald Trump truet med å innføre, skriver Handelsblatt.

EU vs. tek-gigantene

X har siden desember 2023 blitt etterforsket av EU for mulige brudd på DSA. Selskapet ble bøtelagt 120 millioner euro i desember for brudd på åpenhetsreglene i forordningen, noe som ble møtt med kraftige reaksjoner fra Trump-administrasjonen.

EU har også gått i kamp mot flere andre av de amerikanske teknologigigantene, blant dem Google-eier Alphabet, Apple, Meta, Microsoft og Amazon. Flere av sakene dreier seg om angivelige konkurranselovbrudd.