Herold

EU-kommisjonen bekrefter i dag at de har åpnet en ny formell sak mot Elon Musks KI-tjeneste «Grok». Bakgrunnen er at bildetjenesten lar brukere generere og spre ulovlig innhold.

Saken oppsummert

• EU-kommisjonen har åpnet en formell sak mot Elon Musks KI-chatbot Grok for mulig brudd på den digitale tjenesteloven (DSA). • Grok anklages for å tillate generering og spredning av ulovlig innhold, inkludert seksualiserende bilder av barn. • En studie viser at Grok produserte 3 millioner seksualiserende bilder på to uker, hvorav 23.000 involverte barn. • Grok mangler tilstrekkelige sikkerhetsmekanismer sammenlignet med andre KI-verktøy, ifølge eksperter som Torgeir Waterhouse. • EU vurderer å pålegge midlertidige tiltak eller kreve at Grok trekkes fra det europeiske markedet. • Norge oppfordres til å følge EUs arbeid og styrke digital kompetanse for å håndtere risikoen ved slike teknologier.

Oppsummeringen er laget av en KI-tjeneste fra OpenAI. Innholdet er kvalitetssikret av NRKs journalister før publisering.

EU-kommisjonen frykter tjenesten mangler tilstrekkelige sikkerhetsmekanismer.

Mandag åpnet de en formell sak mot Elon Musks KI-chatbot «Grok» for å undersøke at tjenestens anbefalingssystemer overholder den digitale tjenesteloven (DSA).

Bakgrunnen er klager om at KI-verktøyet blant annet blir brukt til å lage og spre overgrepsbilder som framstiller barn.

En studie fant at «Grok»produserte 3 millioner seksualiserende bilder i løpet av to uker, der 23.000 skal ha fremstilt barn i en seksuell setting.

«Grok» er integrert i Musk-eide X – tidligere Twitter, og er en video og bildetjeneste.

Norge må ta ansvar for digital kompetanse

Partner i rådgivningsselskapet Otte, Torgeir Waterhouse.

– Det er veldig bra at EU tar tak i dette og starter gransking, sier Torgeir Waterhouse, partner i Otte.

Han påpeker at det er viktig å vise at det blir tatt alvorlig. Samtidig bør Norge følge med hva EU gjør, og sikre høy kompetanse i befolkningen, mener Waterhouse.

– Vi trenger at folk forstår hva man skal gjøre og hvordan man skal oppføre seg i slike verktøy. Fordi skadepotensialet er så enormt stort. Spesielt hos barn, sier han.

AI – verktøyet Grok har blitt mye brukt til å seksualisere bilder av ekte folk, men nå kan det stoppe etter kraftig kritikk.

«Grok» skiller seg fra de andre KI-verktøyene vi bruker ifølge Waterhouse.

– Hovedforskjellen er at de andre verktøyene på forskjellig vis har lagt begrensninger på bruken av hva folk kan gjøre og ikke i tråd med DSA. Mens «Grok»har ikke hatt tekniske begrensninger på dette. Dette har kunne forvoldt skade på folk.

Vil ha «Grok» ut av Europa

Hensikten skal være å tvinge Musks selskap, xAI, til å trekke chatboten helt fra det europeiske markedet, ifølge den tyske næringslivsavisen Handelsblatt. De siterte tre høytstående anonyme kilder i EU.

I en pressemelding fra EU står det at de nå iverksetter en ny gransking mot «Grok».

I tillegg utvider EU-kommisjonen granskingen de startet i desember 2023. Den ser på Xs overholdelse av sine risikostyringsforpliktelser knyttet til anbefalingssystemer.

Kommisjonen vil nå prioritere å gjennomføre en grundig etterforskning.

Blant annet vil de innhente mer informasjon, gjennomføre intervjuer og gjøre inspeksjoner. De kan innføre midlertidige tiltak om de finner manglende justeringer av X-tjenesten.

Granskingen kan ende med at selskapet, xAI, må trekke «Grok»helt fra det europeiske markedet.