Herold

Digitaliserings- og forvaltningsministeren rosar Alver kommune for å bruka KI, men er klar på at kvalitetssjekken er viktig.

– Saker som dette viser kor viktig det er at me veit kva me gjer når me brukar KI. Det er menneske som skal stå ansvarlege til slutt, seier digitaliseringsminister Karianne Tung (Ap).

Bruken av KI i skulebrukssaka i Alver gjekk ikkje så bra, meiner ho. Men ho er likevel klar på at ho heiar på kommunane som tør å prøva seg på kunstig intelligens.

I 2024 sette Tung seg eit mål om at 80 prosent av offentleg sektor skulle bruka KI ved utgangen av 2025. Ho meiner det kan spara både tid og pengar, og attpåtil gje betre tenester.

– Det finst gode eksempel allereie, som chatbotar i helsetenestene som er kvalitetssikra og godt laga, og KI i byggesakshandsaming som kan sikra at eg og naboen vert behandla likt. Men det er viktig at KI-systema er bygd opp slik at ein ikkje får feil svar. Der har kommunane og menneska ansvaret, og det kan me ikkje springa frå.

Falske kjelder i skule-sak: – Me ser at me har gjort feil

Forskar om KI-blemma: – Har dei ikkje lært?

– Viktig med openheit

I Alver gjekk det gale då kommunen bad KI-assistenten Co-pilot om å koma med forsking og forskingskjelder. Resultatet vart limt inn i eit vedlegg til saka om barnehage- og skulestruktur. Mange av kjeldene viste seg å vera KI-hallusinasjonar.

Etter at NH tok kontakt, retta kommunen opp i dokumentet. I levekårsutvalet tysdag orsaka både kommunedirektøren og oppvekstsjefen det som hadde skjedd.

– Eg berømmer Alver for å bruka KI. Og så er det bra at dei har innrømt feilen og fjerna saksgrunnlaget, for slikt skal ikkje skje, seier Tung.

I den første versjonen av dokumentet informerte ikkje kommunen om at dei hadde brukt kunstig intelligens. Då dokumentet vart oppdatert, informerte dei om at KI var brukt både til å finna forsking og til å samanfatta innspel frå elevar.

– Kor viktig er det at kommunar er opne om bruk av KI i sakshandsaming?

– Eg meiner det er veldig viktig med openheit rundt bruken av KI, og at ein er transparente rundt avgjerdene. Det må vera openheit om både bruk og feil, seier Tung.

– Når KI vert brukt meir og meir i sakshandsaming, korleis kan innbyggarane ha tillit til at alt er rett?

– Det er inga tvil om at dette er eit slag for tillita til bruk av teknologien. Det som har skjedd i Alver er ei påminning om at ein ikkje kan stola heilt på det KI kjem med, og tillit er noko av det viktigaste me har i samfunnet vårt, seier Tung.

– Me er veldig leie oss for at dette skadar omdømet

Jobbar med KI-lov

I fjor kom digitaliseringsdepartementet med ein rettleiar for bruk av KI-assistentar i arbeidslivet. Den gjev råd om korleis både private og offentlege verksemder kan ta i bruk KI på ein trygg og lovleg måte.

Rettleiaren åtvarar òg mot hallusinasjonar, og oppmodar til menneskeleg kontroll.

– Ansvaret slepp ein ikkje unna uansett. Og det er viktig at ein rettar opp raskt når det går gale, seier Tung.

Ho fortel at regjeringa no jobbar med ei KI-lov. Og i den nye forvaltningslova som trer i kraft frå 2027, er det med reglar for bruk av automatisert sakshandsaming.

Sjølv om klårare regelverk er på trappene, er digitaliseringsministeren klar på at Norge allereie har lovverk som skal sikra at sakshandsaminga er god.

– Den skal vera rett og ikkje basert på feil kjelder. Me må halda fram med å bruka KI, men det må kvalitetssikrast.

Om den nye KI-lova vil gje kommunane strammare tøyler, vil tida visa.

– Det er ei risikobasert lov. Jo høgare skadepotensialet er, jo fleire godkjenningsordningar må ein ha. For sjukehus og flytrafikk vil det til dømes vera strenge reglar for å ta i bruk KI. Det kan gjelda sakshandsaming i kommunar òg, det må me sjå meir på når lova kjem, seier Tung.

Når tilliten til prosessen begynner å rakne – Me kjem til å bruka robotar i staden for menneske