– KI-brukere må kunne det de driver med

Kunstig intelligens kan være enormt tids- og ressursbesparende, men kan gi katastrofale følger i hendene på brukere uten nødvendig kompetanse, mener konsulentselskap.

I det offentlige ordskiftet fremstilles KI enten som en trussel mot arbeidsplasser, personvern og fakta eller som verktøy til endeløs glede for forskere og innovatører. Rådgiverne i konsulentfirmaet Odin Prosjekt ser både potensialet og fallgruvene. Selskapet, som hovedsakelig rådgir offentlig sektor i forbindelse med innkjøpsprosesser, har bygget et solid rammeverk for ansvarlig bruk av KI.

– KI er noe vi har jobbet med lenge. Vi startet vårt første prosjekt for nærmere ti år siden, da Forskningsrådet tildelte oss midler til å utforske mulighetene. Vi fulgte KI-utviklingen lenge før den tid, men det meste har jo skjedd de siste par årene, sier partner og daglig leder Stian Davidsen.

Skråsikre «people pleasers»

– For samfunnet kan KI få stor betydning, men i vår hverdag er det et verktøy som kan spare mye tid, ved å overta kjedelige oppgaver, da stilles det strenge krav til brukeren. Brukes KI feil, kan konsekvensene bli store.

Davidsen understreker viktigheten av kompetanse for å kvalitetssikre KI-enes output.

Mange treningsdata kan være utdaterte, og på felt med raske endringer må du involvere fagfolk.

– Det innebærer evnen til å stille riktige spørsmål. De store språkmodellene er ofte skråsikre og «people pleasers», så uten presise, avgrensede spørsmål får du svar som ser riktige ut, men som kan være riv ruskende feil. Feil du må ha fagkompetanse for å avdekke, som ikke kan slippes ubehandlet i rapporter og beregninger. Vi har sett utallige eksempler på at det har gått galt, sier han.

– Sammenlignet med den analoge verden er KI som en entusiastisk trainee som må etterprøves. Mange treningsdata kan være utdaterte, og på felt med raske endringer må du involvere fagfolk. Du kan også gi KI-en så tydelige instruksjoner at mange feil unngås.

Viktig domenekompetanse

Odin Prosjekt-sjefen poengterer at han absolutt ikke mener å tegne et dystert bilde av KI, og løfter frem noen av oppsidene:

– Mange oppgaver i offentlig og privat sektor kan forenkles og forbedres med assistenter som leverer gode utgangspunkter for bearbeiding og oppsummering, for eksempel fra møter, men igjen avhenger nytten av at brukeren har domenekunnskap. Kravene er større med KI enn uten. Det handler om å forstå hva som ligger i dataene, og hvilke forutsetninger modellene har.

I Odin Prosjekt behandler de KI som en juniormedarbeider med klart definerte oppgaver og forventet resultat. Funnene er gjenstand for samme kvalitetssikring som annet arbeid.

– Brukt på riktig måte kan KI-assistentene være som å ha svært produktive junior-medarbeidere, men de må voktes med et kritisk blikk. Det er også lov til å tro at de vil bli enda bedre i tiden som kommer. For oss er det fortsatt viktig å videreutdanne medarbeidere. KI skal ikke under noen omstendigheter erstatte dem, understreker Davidsen, men legger til:

– Setter vi derimot ekspertene til å bruke den, kan det oppstå magi.