Trygg teknologi: Nøkkelen er jussen

Uklare mål og fragmenterte regelverk er blant de største juridiske fallgruvene norske virksomheter møter i KI- og digitaliseringsprosjekter. Ekspertene i panelet advarer mot å starte uten klare rammer – og peker på hvordan juridisk bistand kan gjøre teknologisatsingen både tryggere og mer lønnsom.

Terje Dahl Svendsen

Advokat, Tenden Advokatfirma

Hva opplever du som de største juridiske utfordringene norske virksomheter møter i digitaliserings- og KI-prosjekter?

Det handler ofte om avklaring av immaterielle rettigheter (opphavsrett mv.), etterlevelse av personvernregelverket og krav til datasikkerhet og informasjonsforvaltning. I tillegg skaper uklare ansvarsforhold mellom ulike aktører, risikoen for diskriminering og mangel på transparens i KI-systemer betydelige utfordringer. Med EUs AI Act som trer i kraft i Norge om ett år og mye annen lovgivning på vei fra EU, må norske virksomheter forberede seg på mer regulering og sørge for «compliance» på en rekke områder.

Hvordan kan juridisk bistand bidra til å sikre ansvarlig og lønnsom implementering og bruk av ny teknologi og KI?

Juridisk bistand kan bidra på flere måter, blant annet ved å kartlegge og håndtere relevante regulatoriske krav tidlig i prosessen, utarbeide gode avtaler med leverandører og partnere, og sikre at virksomheten opererer innenfor gjeldende lovverk. Videre kan advokater bidra med risikovurderinger, utvikle rutiner for internkontroll og personvern, samt gi råd om ansvarsforsikring og håndtering av immaterielle rettigheter. Dette bidrar til å redusere risikoen for lovbrudd og konflikter, og gir virksomheten et bedre grunnlag for bærekraftig og lønnsom bruk av ny teknologi.

Hvordan balanserer man innovasjon med kravene til personvern og datasikkerhet i KI-prosjekter?

For å balansere innovasjon med kravene til personvern og datasikkerhet, bør virksomhetene integrere personvern og annen risikostyring som en sentral del av prosjektplanleggingen, for eksempel gjennom vurderinger av innebygd personvern («privacy by design») og konsekvensanalyser. Det er også viktig å ha klare retningslinjer for datahåndtering, minimere innsamlingen av personopplysninger, og sikre at all bruk av data er formålsbegrenset og basert på et gyldig rettsgrunnlag. Gjennom kontinuerlig oppfølging, opplæring av ansatte og tett dialog med relevante myndigheter kan virksomhetene drive innovasjon på en ansvarlig måte uten å kompromittere datasikkerheten

Per Anders Vaagenes

Partner, Vaar

Hva opplever du som de største juridiske utfordringene norske virksomheter møter i digitaliserings- og KI-prosjekter?

Uklarhet og usikkerhet gjør at mange virksomheter vegrer seg for å ta KI i bruk. Regelverket er fragmentert, og mange vet ikke hvilke lover som gjelder. Virksomheter møter et virvar av krav fra ulike regelverk, uten tydelig rettesnor for hvordan de virker sammen i et KI-prosjekt. KI-systemenes beslutninger er ofte uforutsigbare. Når både utvikling og bruk av KI drives av kommersielle, politiske og akademiske interesser som ikke alltid trekker i samme retning, øker risikoen for farlige snarveier. Uten praktisk juss og enkle kontrollpunkter trår man fort feil.

Hvordan kan juridisk bistand bidra til å sikre ansvarlig og lønnsom implementering og bruk av ny teknologi og KI?

Juridisk bistand er nødvendig for å navigere i dagens fragmenterte regelverk og gjennomføre KI-prosjekter forsvarlig. Jurister kan oversette komplekse regler til praktiske sjekklister eller råd: hvilke data kan sendes til leverandøren, når kreves anonymisering, hvor må menneskelig kontroll tre inn, og hvordan leverandøren skal dokumentere treningsdata og begrensninger. Dette gir forutsigbarhet, reduserer risiko for dyre tvister og bygger tillit hos kunder og myndigheter, slik at KI-investeringen kan bli trygg og lønnsom.

Hvordan balanserer man innovasjon med kravene til personvern og datasikkerhet i KI-prosjekter?

Det er på mange måter en uheldig, men nødvendig realitet at man på dette området i praksis ikke kan innovere helt fritt. Jo mer inngripende teknologien er i folks liv, desto strammere blir rammene. Dette kan oppleves som en bremsekloss, men beskytter individets rettigheter og teknologiens legitimitet. Balansen krever at personvern og sikkerhet ikke kommer som ettertanker, men bygges inn i arkitekturen: data anonymiseres før modelltrening. DPIA gjennomføres tidlig, tilgangsstyring, sporbarhet og manuell overstyring må være standard. På denne måten er det, på tross av ytre rammer, mulig for virksomhetene å innovere trygt, ansvarlig og konkurransedyktig.

Arnt Olav Lauveng Aardal

Partner BDO, Advokater

Hva opplever du som de største juridiske utfordringene norske virksomheter møter i digitaliserings- og KI-prosjekter?

Den største juridiske utfordringen er at mange setter i gang KI- og digitaliseringsprosjekter uten en tydelig målsetning. Når målet er uklart, vet man verken hvilke data som trengs, hvilke prosesser som påvirkes eller hvilket regelverk som faktisk gjelder. Dermed overser man lett bransjespesifikke krav, produkt- og ansvarslovgivning og ikke minst GDPR, selv om nye rammeverk som AI Act og Data Act får mest oppmerksomhet. Resultatet er usikkerhet om hva som er lov, hvem som har ansvaret og hvordan man dokumenterer – og den usikkerheten bremser innovasjonen før den har begynt.

Hvordan kan juridisk bistand bidra til å sikre ansvarlig og lønnsom implementering og bruk av ny teknologi og KI?

Juridisk bistand oversetter AI-regelverk, GDPR m.m. til konkret handlingsrom, slik at ledelsen kan sette en bærekraftig strategi. Klare retningslinjer til ansatte fjerner usikkerhet om data, dokumentasjon og ansvar. Resultatet er mindre risiko og raskere, lønnsom lansering.

Hvordan balanserer man innovasjon med kravene til personvern og datasikkerhet i KI-prosjekter?

Ved å tenke tverrfaglig fra start. Når jurister og teknologer jobber tett sammen, kan man bygge inn sikkerhet og personvern i løsningene – i stedet for å rydde opp etterpå. Det gjør at man kan være både kreativ og trygg på samme tid. Vi tror det er akkurat dette samspillet mellom fagområder som blir avgjørende fremover. De virksomhetene som klarer å kombinere teknologi, ansvar og etterlevelse, vil stå sterkere i møte med både markedet og myndighetene.