Om prosjektet
Interaksjonen mellom maskin og menneske er en sentral komponent i reguleringen av teknologi, inkludert den nylig vedtatte forordningen om kunstig intelligens (KI-forordningen) i EU. KI-systemer skal være designet på en "tilstrekkelig" og "hensiktsmessig" transparent måte, for å kunne overvåkes "effektivt" av mennesker.
Lover og regler bygger på premisset om at en eller flere personer har juridiske forpliktelser, som kommer andre mennesker til gode. Leger er for eksempel rettslig forpliktet til å gi adekvat, vitenskapsbasert medisinsk behandling, mens pasienter har rett til å motta slik behandling.
Jussen vil fortsatt være menneskesentrert, uavhengig av kunstig intelligens. Likevel utfordrer utbredelsen av medisinsk KI konvensjonelle juridiske posisjoner. Legen er ikke lenger bare lege, men også en operatør av svært tekniske og komplekse automatiserte systemer. Én lege kan potensielt betjene et KI-system som påvirker et ubestemt antall pasienter, noe som reiser en rekke interessante juridiske spørsmål. Hvor i livssyklusen til et KI-system skal mennesker plasseres, hva skal de ha ansvar for og hvorfor? Hvor stor bør avstanden være mellom den menneskelige pasienten og den menneskelige legen? Hvilke typer medisinsk KI kan tilbys uten direkte involvering fra sykehus eller lokale helsetjenester? Kan diagnostisering og medisinsk behandling helautomatiseres? Hva innebærer i så fall en helautomatisert behandling i juridisk forstand?
Pasientsikkerhet kan være én begrunnelse for menneskelig medvirkning. En like viktig begrunnelse kan være pasientautonomi, som støttes av en rekke grunnleggende rettigheter i EUs pakt om grunnleggende rettigheter.
Forklarbar kunstig intelligens (på engelsk forkortet «XAI») er et tverrfaglig forskningsfelt som omfatter både informatikk og samfunnsvitenskap, og som forsker på hvordan man kan gjøre KI-systemer transparente og forklarbare for mennesker. Dette prosjektet er den juridiske delen av et større tverrfaglig prosjekt kalt RESPIRE. RESPIRE har som mål å skape et globalt rammeverk for forklarbarhet for medisinsk KI med perspektiver fra informatikk, medisin, etikk og juss. De juridiske kravene vil derfor være knyttet til både det tekniske og det sosiale feltet av forklarbar kunstig intelligens.
Regulering av medisinsk KI er ikke noe nytt. Medisinsk utstyr som inneholder KI-systemer, er godkjent i henhold til eksisterende regelverk for medisinsk utstyr. I tillegg er KI-systemer regulert av personvernlovgivningen, inkludert personvernforordningen (GDPR). Det er svært komplekst å kombinere gamle regler og den nye loven om kunstig intelligens (KI). En viktig del av prosjektet er å belyse sammenhengene mellom alle de ulike regelverkene i et helhetlig rammeverk for forklarbar kunstig intelligens.
Mål
- Bidra med juridiske perspektiver til et standardisert og tverrfaglig rammeverk for forklarbarhet.
- Knytte juridiske og tekniske begreper sammen, inkludert transparens og forklarbarhet.
- Undersøke omfanget og begrunnelsen for en juridisk rett til menneskelig interaksjon med automatisert og autonom teknologi, med fokus på medisinsk AI.
- Analysere begrensninger i reguleringen av teknologi, inkludert kunstig intelligens.
Bakgrunn
Prosjektet er basert på en kombinasjon av dogmatisk juridisk metode og kritisk juridisk analyse, inkludert sosiologiske og filosofiske perspektiver. Prosjektet bygger på teorier om rettens natur, grunnlaget for juridiske rettigheter, analyse av rettsposisjoner, teorier om risikovurdering og risikohåndtering, teknologifilosofi og personvern, databeskyttelse og menneskelig autonomi.
Finansiering
PhD-prosjektet er finansiert av Norges forskningsråd gjennom forskningsprosjektet Respire – Responsible Explainable Machine Learning for Sleep-related Respiratory Disorders.
