TRUST skal gi juristene et overtak på kunstig intelligens

Juristene på UiO var tidlig ute med å mobilisere seg da regjeringen for to år tilbake kunngjorde at de ville sette av én milliard kroner til forskning på kunstig intelligens (KI).

Innsatsen svarte seg. Nå er Det juridiske fakultet sentral deltaker og premissleverandør i senteret TRUST – The Norwegian Centre for Trustworthy AI. Senteret ledes av professor i statistikk Arnoldo Frigessi, men nestleder Malcolm Langford hører til på juss:

– TRUST kommer til å bidra til et betydelig kompetanseløft for både undervisning, forskning og innovasjon på fakultetet, lover han.

Skiller seg ut blant sentrene

Forskningsrådet har svært høye forventninger til de til sammen seks nye KI-sentrene, kom det fram i det felles åpningsseminaret tidligere i høst. Sentrene forventes å jobbe tverrfaglig og tverrsektorielt, styrke norsk KI-kompetanse og bidra til at ny innsikt bygges, spres og tas i bruk.

Noen sentre tar for seg spesifikke områder, som robotikk og kreativitet. TRUST skiller seg ut med en bredere tilnærming, med vekt på grunnforskning og samfunnsnyttig innovasjon på tvers av offentlig og privat sektor.

Med 170 forskere fra tolv ulike disipliner, 47 brukerpartnere, 30 forskningspartnere i inn- og utland, 14 forskningsområder og 15 «action clusters», skal det skje mer i TRUST enn det er mulig å gjengi på liten plass. Men overordnet er målet å legge til rette for at KI skal kunne oppnå sitt revolusjonerende potensial på en pålitelig og bærekraftig måte.

Dette skal gjøres gjennom tverrdisiplinær forskning på alt fra hvordan KI påvirker juss, samfunn og menneskelig kognisjon til utvikling av nye KI modeller, verifiseringsverktøy og KI-støtte til saksbehandling.

Overtillit, undertillit og mistillit

Senterleder Arnoldo Frigessi beskrev tillit (trust) fra flere innfallsvinkler da han presenterte senteret i åpningsseminaret. Samtidig kom han inn på tematikk senteret skal forske på:

Tillit til KI handler om menneskelig vilje til å akseptere KI som verktøy, ved å dele data og informasjon for at den skal fungere og forbedres.

Slik tillit kan bli både for høy og for lav:

Overtillit kan føre til kostbare og farlige konsekvenser. Dette kan være diskriminering, redusert rettssikkerhet, økt digital sårbarhet, tap av personvern og frihet, forsterking av skjevheter og svekket menneskelig kognisjon.

Undertillit oppstår når folk ikke stoler på et KI-system selv om det er troverdig.

Mistillit kan oppstå ved mistanke eller bevis for at algoritmene gir falsk informasjon eller misbruker private data.

Stor usikkerhet om framtiden

En ting som særlig fascinerer Malcolm Langford med KI, er at kunnskapen om dens framtidige utvikling er såpass usikker. Han sammenligner med klimaendringer, der mennesker i langt større grad enn for KI, er i stand til å bygge modeller som kan spå framtidig utvikling.

– Noen mener at KI kommer til å oppnå «bevissthet» om to år, andre mener 100 år. Og her er det snakk om ledende eksperter på begge sider, poengterer professoren.

Ett av målene med TRUST, er å få et slags «overtak» på KI:

– For å kunne forme KI på en ansvarlig måte, trenger vi tidlig og omfattende forskning. Vi må kunne komme inn med reguleringer, insentiver og kontrollmekanismer før det er for sent, forklarer han. 

Langford er glad for at fakultetet nå får tid og ro til å utforske noen av de grunnleggende spørsmålene innen juss og KI. Et av forskningsområdene i TRUST handler om hvordan KI kan styres og reguleres, noe han beskriver som et «minefelt». Hvilke rettigheter skal borgerne ha dersom et KI-system tar feil og konsekvensene blir alvorlige?

For å illustrere uforutsigbarheten med KI tar han fram en tusj og begynner å tegne og forklare det såkalte Collingridge-dilemmaet:

– I den tidlige fasen av ny teknologi har vi svært begrenset kunnskap om mulige bruksområder og konsekvenser. I 2010 så man for eksempel til «den arabiske våren» og beskrev sosiale medier som et fantastisk verktøy for demokratisk revolusjon. I 2020 var sosiale medier blitt stedet for spredning av falske nyheter og ødeleggeren av unges psykiske helse.

Langford tegner flere piler på kryss og tvers og fortsetter:

– Regulerer man for tidlig, risikerer man å regulere feil eller hemme innovasjon. Venter man til man har fått større kunnskap, kan teknologien ha blitt så dypt integrert i samfunnet at det er ekstremt vanskelig eller for sent å regulere den effektivt.

– KI er et perfekt eksempel på Collingridge-dilemmaet. Dette på grunn av dens raske utvikling, evnen til å utvikle uventede egenskaper og stor usikkerhet rundt langsiktige effekter, oppsummerer han.

Blir jurister arbeidsledige?

Det er ikke noe nytt at Det juridiske fakultet involverer seg i teknologi. Tradisjonen strekker seg over femti år tilbake i tid:

I 1970 startet Jon Bing Senter for rettsinformatikk (SERI), det andre senteret for juss og data i verden. Noen år senere ble tjenesten Lovdata til samme sted. I dag har fakultetet rundt 25 forskere som jobber tett med spørsmål innen juss og teknologi. Flere av disse innenfor KI.

Gjennom TRUST økes fakultetets nettverk av forskere fra andre disipliner, ikke minst innenfor informatikk og filosofi. I tillegg knytter fakultetet til seg nye kontakter hos relevante samarbeidspartnere i offentlig og privat sektor. På toppen er det også en ambisjon å få til økt samarbeid og synergier innad på fakultetet.

Til sammen er forskere fra fire av fakultetets fem institutter involvert i TRUST. Med er også  jurister og samfunnsvitere fra UiB, UiT, UiS, BI, Politihøyskolen, OsloMet, NUPI og NORCE, framhever Langford.

I TRUST skal de bidra til forskning med relevans både for rettsutviklingen og samfunnskonsekvenser i Norge og for framtidige juristers arbeidshverdag.

Langford erkjenner at endringene kan bli store, inkludert i advokatbransjen:

– Debatten om hvorvidt KI vil føre til flere eller færre jurister, har allerede pågått i et tiår. Noen mener færre, ettersom alt volumbasert arbeid vil bli erstattet av KI, sier han.

Som eksempel på en arbeidsoppgave som utgår, trekker han fram en junioradvokats gjennomgang av dokumenter. Men slike endringer trenger ikke nødvendigvis være trusler, beroliger han. Jurister vil kunne få nye oppgaver og typer klienter.

Dessuten er KI og juridisk saksbehandling enn så lenge en noe dårlig match, forklarer professoren:

– Fordi vi er så få mennesker i Norge, finnes det begrensede mengder data til å trene opp KI-modellene. Dessuten er juridiske saker ofte svært individuelle og kontekstspesifikke, og det stilles høye krav til forklarbarhet for hva som skjer i KIs «black box». Til sammenligning er det ofte enklere å benytte KI på problemstillinger innen medisin, peker han på.

Men her kan det altså bli endringer, ettersom innovasjon på området er i gang.

Historisk avtale med Domstolsadministrasjonen

Ekstra spennende for jurister er kanskje avtalen TRUST har inngått med Domstolsadministrasjonen.

Avtalen kommer til å åpne en helt ny verden både for jusstudenter, forskere og samfunnet, beskriver Langford:

– Domstolsadministrasjonen har lovet TRUST tilgang til mange år med rettsavgjørelser, tingrettssaker inkludert. Dette kan utgjøre millionvis av saker. Premisset er at TRUST gjør materialet tilgjengelig for forskning, samtidig som det utvikles en infrastruktur som kan brukes av andre til å tilgjengeliggjøre rettsdata for offentligheten og utviklere.

I dag må alle som trenger tilgang på tingrettsdommer innen ulike tema, sende brev til hver enkelt tingrett for å få dommene tilsendt. Tingrettsdommer er nemlig ikke tilgjengelige i tjenesten Lovdata.

Nå blir det slutt på brevskrivingen. Langford beskriver en framtidig KI-tjeneste som ikke bare blir et arkiv over dommer, men som også kan sette sakene i system:

– Dette er et stort gjennombrudd. TRUST vil gjøre det mulig å finne ut hva som faktisk er gjeldende rett på områder som enda ikke er avklart i Høyesterett. Vi vil også kunne identifisere variasjoner og avvik i praksis som aldri før har vært kartlagt!

– KI kan hjelpe oss å åpne den menneskelige «black boxen», poengterer han.

Allerede har forskning fra fakultetet avdekket at praksisen spriker stort mellom landets tingretter:

– Søker du etter saker om identitetstyveri på Lovdata, får du tre saker. Men da vi kontaktet alle tingrettene, fikk vi inn til sammen over 300 saker. Vi fant stor variasjon i praksis, og en god del som var problematisk, beskriver Langford.

Skal forske på studenter

En bekymring som deles av stadig flere, er faren for at mennesker blir så avhengige av KI at vi slutter å utvikle oss kognitivt.

– Hvis man vil bygge muskler, så må man løfte vekter selv. En robot kan ikke gjøre det for deg, illustrerer Langford.

Blir framtidens jurister også mindre smarte? Det skal TRUST faktisk sjekke. Et femårig forskningsprosjekt skal undersøke hvordan KI-bruk påvirker studenter over tid. Skjer det noen endringer i hvordan de resonnerer? Tenker de enklere eller mer komplekst? Jobber de med KI eller under KI?

Fem år er ikke nok til å finne ut om menneskelig kognisjon blir svekket av KI, medgir han:

– Fem år er heller ikke nok for hele senteret. Men jeg tror vi kan finne ut ganske mye om menneskelig kognisjon likevel, sier Langford og legger til at TRUSTs ønske er å på sikt bli et permanent senter.  

På undervisningssiden vil TRUST også bygge videre på det gode arbeidet Senter for erfaringsbasert juridisk læring (CELL) allerede har startet innen KI. På trappene er for eksempel et planlagt nytt utdanningstilbud innen jus og KI og forslag til hvordan man kan integrere kritisk og kreativ kompetanse om KI i et utdanningsløp.

Saksbehandling med høyere kvalitet

Også saksbehandlere skal forskes på. TRUST skal nemlig utvikle en rekke KI-modeller til saksbehandling og domskriving og teste dem ut hos brukerpartnere.  

Tanken er at KI-verktøyene ikke bare skal bidra til økt effektivitet, men også til høyere kvalitet på avgjørelsene. Framfor å kun tilby søk i tidligere rettspraksis eller lage ferdige vedtak, ser Langford for seg systemer som også kan foreslå nye argumenter eller relevante kilder.

– Vi er særlig interessert i å undersøke om KI-verktøy kan forbedre beslutninger uten å samtidig svekke rettstaten, demokratiet og menneskelig engasjement, framhever han.

Slike systemer vil også kunne avdekke uvanlige mønstre i saker, og slik for eksempel avsløre diskriminering eller utnyttelse av systemet.

– Noe har vi allerede gjort, som å bygge opp infrastruktur for å håndtere store datamengder. Noe må lages fra scratch, av og til i kombinasjon med eksisterende språkmodeller, beskriver Langford.

Vekker internasjonal oppsikt

Utfordringene TRUST står overfor i utviklingen av KI-systemer er både tekniske og juridiske:

Hvordan håndterer man store mengder personopplysninger i ustrukturerte dokumenter? Kan man samle og bruke slike data på en lovlig måte? Hvor nøyaktige og pålitelige er modellene? Gir de innsikt i hvorfor et svar ble som det ble? Kan KI redusere menneskelige skjevheter eller «bias» i saksbehandling, eller vil teknologien skape nye?

Arbeidet er godt i gang. Allerede har fakultetet klar en datainfrastruktur som gjør det mulig å forske tett på sensitive data, samtidig som personopplysninger avidentifiseres, forklarer Langford.

Den uttalte ambisjonen om å utvikle KI basert på nordiske verdier har allerede vakt internasjonal interesse. Faktisk har utenlandske samarbeidspartnere framhevet det som viktig at TRUST er norsk:

– De peker på den særegne kombinasjonen av tillitstradisjon, den norske modellen og en sterk reguleringskultur, forteller Langford.

Gleder seg til juristsamarbeid

Senterleder og UiO-professor i statistikk Arnoldo Frigessi gleder seg veldig til å samarbeide med juristene:

– Vi begynte å utveksle ideer allerede for 18 måneder siden, og det er utrolig spennende å se hvordan vi kan veve disse sammen: Hvordan maskinlæring, statistikk og matematikk utfordrer jussen og motsatt, sier Frigessi og utdyper:

– Hvordan kan vi knytte maskinlæringsmodellens prediksjoner til treningsdata, og dermed til juridisk ansvar? Hvordan kan lovverket tilpasses når prediksjonene er usikre og samspillet mellom algoritmer ikke er forhåndsdefinert?

For å finne svar, skal det jobbes på tvers av jus og samfunnsvitenskap, filosofi, maskinlæring og datavitenskap, framhever han. 

Nå jobbes det med å bygge opp senteret slik at det kan levere på målet om å bidra til å utvikle og teste ut pålitelig kunstig intelligens sammen med de mange partnerne. Frigessi framhever særlig samarbeidet med Norsk regnesentral og Sintef.

– TRUST er sannsynligvis det største og mest komplekse senteret UiO noen gang har hatt, slår senterlederen entusiastisk fast.