Hva skjer når kunstig intelligens påvirker et vedtak som får konsekvenser for en innbygger? KF og Universitetet i Agder/CAIR-senteret gjør norskutviklet KI-teknologi fritt tilgjengelig. Løsningen er sikker, energivennlig, og forklarer hvordan den kom frem til en konklusjon.
Kunstig intelligens kan hjelpe kommunene med alt fra å sortere henvendelser til å støtte saksbehandling. Men når KI brukes i døgnåpen, offentlig forvaltning, er det ikke tilstrekkelig at man får et svar. Det må også være mulig å forstå hvorfor KI kommer frem til en bestemt konklusjon. Teknologien må være enkel, trygg, forklarbar og etterprøvbar.
– La oss si at en saksbehandler har brukt KI i en forvaltningsprosess. KI-en foreslår at svaret bør bli nei. Da må vi kunne forklare hvorfor vi kom frem til den beslutningen. Det har vi rett på som samfunn og innbyggere, og det er også viktig internt i forvaltningen, sier Haakon Meland Eriksen, produktleder for økosystemer i KF.
Etterprøving og innsyn
Et annet eksempel er KI-løsninger brukt til å transkribere et lydopptak til tekst. Dette kan for eksempel være fra et møte med barnevernet. Lydopptaket inneholder dermed mye sensitiv informasjon, og opptaket ønskes dermed slettet så fort som mulig. KI benyttes også til å lage et møtereferat basert på transkripsjonen, og møtereferatet blir godkjent av en saksbehandler.
Men hva skjer hvis noen senere er uenig i det som står i referatet?
– Hvis noen er uenig i hva som står i det endelige referatet, kan ingen KI-løsning løse dette dersom bevisene, selve taleopptaket, er slettet, sier Eriksen.
Haakon Meland Eriksen
Produktleder for økosystemer i KF
Kan hjelpe med de små avgjørelsene
KI kan også brukes til å ta de små avgjørelsene og fange opp detaljer som ikke er så lett for mennesker å få med seg. En eldre person som mottar hjemmesykepleie, kan for eksempel ha en automatisk medisindispenser som registrerer når medisiner tas ut. Hvis medisinen gjentatte ganger ikke tas til riktig tid, kan det være et signal om at noe har endret seg.
– Da kan KI-en melde fra til hjemmesykepleieren. Kanskje er det snakk om økende kognitiv svikt, sier Eriksen.
Energieffektiv KI
UiAs KI-maskin heter Tsetlin, og bygger på en annen tilnærming enn de store løsningene, som ChatGPT. Tsetlin-maskinen er liten, og trenger svært få ressurser for både drift og kjøling. Det er grønn IT i praksis.
– Energieffektiv KI kommer til å bli veldig viktig fremover. Det er som med lyspærer. Skal vi sette inn en gammel lyspære som bruker mye strøm eller skal vi sette inn en led-pære, spør Eriksen.
Best til å vurdere
Tsetlin er imidlertid ikke nødvendigvis den beste løsningen til alle oppgaver, og den er foreløpig ikke så god på å formulere sammenhengende tekst. I slike tilfeller vil andre KI-modeller oftest være bedre.
– Tsetlin kan brukes med stor treffsikkerhet til å vurdere informasjon og for å begrunne og forklare et bestemt valg. Så kan man bruke andre KI-/språkmodeller til å formulere resultatene i en enkel, lesbar tekst. Disse to modellene kan med fordel brukes sammen, sier Eriksen.
Må forstå norske regler og begreper
For offentlig sektor er det viktig at KI-en er oppdatert på rettsbildet og forholder seg til norske lover, regler og begreper.
– Norsk offentlig forvaltning er veldig regelstyrt og lover og forskrifter endres jevnlig. Hvis rettskildebildet endrer seg, er det viktig at KI-modellen tar hensyn til de gjeldende reglene, sier Eriksen.
Modellen må også forstå begreper. Hva vil det egentlig si å være arbeidsledig? Hvis vi spør Statistisk sentralbyrå (SSB), har de én definisjon. Spør vi Nav, har de en annen, og vi får et helt annet svar.
– Dersom to KI-er skal snakke sammen om arbeidsledighet, må de ha avklart hvilken definisjon hver av dem bruker, sier Eriksen.
Enkel å bruke
Tsetlin-maskinen er gjort tilgjengelig som fri programvare. KF har lagt til et grafisk brukergrensesnitt og deler også dette som fri programvare som et digitalt fellesgode.
– Programvaren er veldig bra, men ikke så lett for alle å bruke. Med våre tillegg og justeringer har det blitt et program som er enkelt for alle å forstå og bruke, sier Eriksen.
Norsk teknologi
I en urolig verden er det viktig at Norge utvikler egen teknologi og blir mindre avhengig av de store teknologiselskapene. Digital suverenitet er nødvendig.
– Virker KI-en din når du kun har tilgang på nett i Norge, eller ikke tilgang på nett i det hele tatt? Eller må nettet nå helt frem til Amerika, Kina eller Russland, spør Eriksen.
Det handler ikke bare om beredskap, men også om personvern. En Tsetlin-KI kan isoleres til norskeide datasentre, følger norsk personlov og sender ingen data ut av landet. Det er en trygghet offentlig sektor er avhengig av.
OM KF
• KF (Kommuneforlaget AS) er heleid av KS (Kommunes sentralorganisasjon) og har eksistert i 50 år
• KF leverer produkter og tjenester tilpasset kommunal sektor, og har en stor portefølje med digitale løsninger
