Nye forslag kan ramme alt fra chatboter til virtuelle assistenter – og tvinge teknologiselskaper til å gripe inn overfor brukere som blir for avhengige.

Kina vil ta grep mot AI-avhengighet

• Mikkel Rildå Vågen

Kortversjonen

• Kina foreslår nye regler som skal regulere AIs følelsesmessige interaksjon med mennesker.
• Selskaper må advare brukere mot avhengighet og gripe inn ved tegn på overdreven bruk.
• AI-tjenester må også skjerpe datasikkerhet, personvern og rapportering til myndighetene.

Oppsummeringen er laget av AI-verktøyet ChatGPT og kvalitetssikret av E24s journalister

Kina har foreslått nye regler som skal regulere kunstig intelligens som simulerer menneskelige personligheter og engasjerer brukerne følelsesmessig, melder Reuters.

De foreslåtte reglene gjelder AI-tjenester som presenterer simulerte menneskelige personlighetstrekk, tenkemønstre og kommunikasjonsstiler. Tjenestene interagerer med brukerne følelsesmessig gjennom tekst, bilder, lyd, video eller på andre måter.

– Leverandørene får et tydelig ansvar for brukernes sikkerhet og psykiske helse, fremgår det av dokumentene.

Samtidig stilles det strengere krav til kontroll av algoritmer, datasikkerhet og personvern.

Myndighetene trekker også opp klare grenser for hva AI-tjenester kan si og gjøre. Innhold som kan true nasjonal sikkerhet, spre rykter eller fremme vold og pornografi, blir forbudt.

Må gripe inn ved avhengighet

Ifølge Bloomberg må brukere informeres tydelig om at de kommuniserer med kunstig intelligens – både ved innlogging og minst annenhver time. Tjenester med rask vekst eller mange brukere må i tillegg rapporteres til myndighetene.

Ifølge utkastet må leverandører advare brukere mot overdreven bruk og gripe inn når brukerne viser tegn på avhengighet.

Kina satser tungt på kunstig intelligens som motor for økonomisk vekst, men ønsker samtidig tett kontroll over teknologien.

Leverandører må gjennomføre sikkerhetsvurderinger og sende rapporter til provinsmyndigheter hvis de lanserer menneskelignende AI-funksjoner. Det samme gjelder tjenester som får en million registrerte brukere eller 100.000 månedlige aktive brukere.

Forslagene er åpne for høring frem til 25. januar.

Bør AI-tjenester advare mot avhengighet?

Bør AI-tjenester advare mot avhengighet?