Ønsker å gjøre kunstig intelligens mer forståelig

NTNU ligger langt fremme innen opplæring og forskning på kunstig intelligens, og samarbeider tett med næringslivet. Et viktig mål er å gjøre kunstig intelligens mer forståelig for brukere.

Det er et robust fagmiljø knyttet til kunstig intelligens (KI) på NTNU, både innen forskning og utdanning. Hvert år kommer mer enn 200 kandidater ut med masteroppgaver knyttet til feltet, og for tiden jobber cirka 70 PhD-studenter med KI-prosjekter. Forskningsmiljøet legger også stor vekt på samarbeid, blant annet med næringslivet og andre forskningsmiljøer.

Et godt eksempel på denne type samarbeid er Norwegian Open AI Lab (NAIL), en paraply over NTNUs aktiviteter innen KI. Senteret ble etablert i 2018 med finansiering fra Telenor, Equinor, Kongsberg, DNB, DNV GL og SINTEF. Etter dette har nye partnere kommet til, og senteret ønsker fortsatt å knytte til seg flere aktører fra næringsliv og offentlig sektor.

I juni ble det klart at NTNU får tildelt finansiering fra Norges Forskningsråd til å starte opp et senter for forskningsdrevet innovasjon (SFI) som skal jobbe videre med å skape innovasjon innen kunstig intelligens. Senteret har fått navnet NorwAI, og med på laget er blant annet de fleste av NAIL sine partnere.

– Vi er svært glade for denne tildelingen. NorwAI vil gjøre det mulig å skape mer innovasjon med utgangspunkt i KI-forskning. NorwAI og NAIL vil overlappe hverandre på mange områder, og sammen kan vi skape et enda sterkere fagmiljø, sier Trym Holter, direktør for Norwegian Open AI Lab.

Trym Holter

Direktør for Norwegian Open AI Lab

Vi må kunne stole på beslutningene

Kunstig intelligens anvendes på stadig flere områder, og ofte som et verktøy for beslutningsstøtte. Hvis du har søkt lån i banken, kan det for eksempel hende at søknaden blir behandlet av en digital assistent utstyrt med kunstig intelligens. Dersom systemet anbefaler å avvise søknaden din, har du rett til å vite hva som ligger bak denne beslutningen. I dag kan dette by på noen utfordringer.

– Tidligere lagde man åpne systemer som var enkle å tolke, men i dag står vi ovenfor systemer som blir stadig mer komplekse. Vi er i ferd med å miste muligheten til å forstå det som foregår inne i systemene.  Vi kaller gjerne dette «black-box-systemer». Jo mer utbredt kunstig intelligens blir som et beslutningsstøtteverktøy, jo viktigere er det å kunne gi gode forklaringer på mekanismene som leder til de ulike beslutningene.

– Derfor er NAIL i gang med et prosjekt som skal utvikle KI-modeller som er forståelige for brukerne. Prosjektet vil bidra til økt kunnskap om systemene, og de nye metodene vil fortelle mer om hvilke faktorer som har vært viktige for beslutninger, enn det systemene gjør i dag, forklarer Helge Langseth som er professor ved Institutt for datateknologi og informatikk.

Helge Langseth

Professor ved Institutt for datateknologi og informatikk

Alle de største partnerne i NAIL er med i dette prosjektet og bidrar med relevante problemstillinger. Engasjementet fra partnerne viser viktigheten av å utvikle forståelige og forklarbare KI-systemer for ulike sektorer av norsk næringsliv, både i samfunnskritiske og bedriftskritiske prosesser.

– For å kunne hente ut potensialet i et KI-system må vi kunne stole på at systemet tar gode og korrekte valg. Det er derfor ofte viktig at systemet er i stand til å forklare ovenfor brukerne hva det faktisk gjør. God «forklarbarhet» gjør at vi kan ta systemet ordentlig i bruk og sørge for at KI kommer samfunnet til nytte.

Av: Tom Backe, [email protected]