Seminaret startet med at professor Ingunn Ikdahl og førsteamanuensis Jon Christian Fløysvik Nordrum ønsket velkommen og ga kontekst og rammer for dagens innledere og diskusjoner. Deretter ble dagens første innleder, Sofia Ranchordas fra Universitetet i Tilburg, introdusert. Tittelen for hennes innlegg var “AI failure, AI success, And AI Power Dynamics In The Public Sector”, og var basert på en artikkel skrevet av henne selv, Sherley Kempeneer og Simone van de Wetering. Sofia snakket om at det kan være nyttig å skille mellom forskjellige årsaker til at svikt oppstår ved bruk av KI. Hun sammenlignet KI svikt med menneskelig svikt og basert på begreper fra strafferetten skilte hun mellom KI-svikt som «negligence», «recklessness» og «mirroring intent». Som svar til disse snakket hun om tre lag av KI suksess som «trust», «care» og «caution». Sofias innlegg var svært interessant og viste viktigheten av å nyansere når man undersøker svikt som oppstår ved bruk av KI.
Etter Sofias innlegg var svikt eller feil ved tekniske systemer fremdeles temaet da Hanne Marie Motzfeldt fra Universitetet i København holdt et interessant innlegg med tittelen ”The true case of Mrs. White. Flawed data and systems, guidance via chatbots, and other congestions in an automated system for assessment of real estate values”. Hanne Marie snakket om et system for automatiske beslutninger som er utviklet og tatt i bruk innenfor skattesektoren i Danmark, og hvordan det har oppstått en del problemer ettersom dataoverføringen fra et gammelt system til et nytt ikke fungerer som det burde. Systemet har hele tiden vært fulgt opp under utviklingen, og det er brukt flere millioner underveis for å sørge for at alt er i overensstemmelse med loven. Likevel har det ferdige produktet noen utilsiktede virkninger og begrensninger som går ut over innbyggernes rettigheter. Budskapet var altså at digitale verktøys inntog i offentlig forvaltning kan ha uheldige virkninger vi ikke klarer å forutse og ta høyde for på forhånd.
Siste innlegg i første bolk ble holdt av professor Julia Köhler-Olsen fra Oslo Metropolitan. Tittelen for innlegget var “EU AI Act - Implications for the Norwegian Labour and Welfare Administration (Nav) with regard to ‘acceptable risk’,”. KI-regelverket legger opp til en rekke vurderinger knyttet til etikk og risiko, og det er få retningslinjer og regler som sørger for å beskytte individers grunnleggende rettigheter. Når risikovurderinger foretas, er det ofte med den gjennomsnittlige innbyggeren før øyet, og minoriteter tas gjerne ikke hensyn til. Derfor understreket Julia viktigheten av å være bevisst på menneskerettighetene under risikovurderinger av KI-systemer, og vurdere kriteriet «necessary in a democratic society» opp mot de menneskerettighetene som gjør seg gjeldende.
Etter en spennende diskusjon rundt foregående temaer, hadde vi en hyggelig kaffepause med mingling i Kjerka. Første innleder etter pausen, Stefan Larsson, ble så ønsket velkommen. Tittelen for hans innlegg var «Governing the automated welfare state: Translations between AI ethics and anti-discrimination regulation”. Stefan tok utgangspunkt i egen forskning, samt en undersøkelse av det svenske Diskrimineringsombudet fra 2022 som omhandlet bruken av automatiserte beslutninger i offentlig sektor og diskriminering i så henseende. Han konkluderte ut fra undersøkelsen at offentlige myndigheter mangler diskrimineringsperspektivet i utviklingen av KI, og at det tas større hensyn til «AI Ethics» enn diskrimineringslovgivningen. Videre understreket han at diskrimineringslovgivningen trenger å bli forsket på i større grad, og at det samme gjelder for algoritmisk diskriminering.
Etter et flott innlegg fra Stefan, introduserte Jon Christian en av UiOs egne professorer, Vibeke Blaker Strand, som snakket om «What happens at the intersection between new technology and old Norwegian legislation in the field of equality and non-discrimination?”. I 2024 leverte Vibeke en rapport på oppdrag fra Likestillings- og diskrimineringsombudet. I tråd med Stefans ønske om mer forskning om diskrimineringslovgivning, handler rapporten om hvorvidt bruken av KI utfordrer det opprinnelige bildet av hvordan diskriminering foregår, og hvorvidt dagens diskrimineringslov klarer å adressere disse utfordringene. Hun innledet derfor med sine funn, og snakket om likestillings- og diskrimineringslovens muligheter og begrensninger.
Neste innledere var Åse Haram og Øystein Flø Baste, som snakket om «Simple decision-support – not that simple? Regulating interpretability in human-machine interaction in public decision-making”. Åse og Øystein analyserte hvordan regelverket tar for seg saksbehandlernes forståelse. De viste til empiriske studier som viser at saksbehandlere ofte misforstår også transparente beslutningsstøttesystemer. Basert på disse funnene argumenterer de for at gjeldende regelverk ikke eksplisitt adresserer denne utfordringen. Åse og Øystein er begge stipendiater på Digital velferdsstat, og deres prosjekter kan dere lese mer om på bloggen forøvrig.
Til slutt ble professor Ida Koivisto fra Universitetet i Helsinki presentert som siste innleder. Ida spilte litt videre på det Åse og Øystein snakket om i sitt innlegg med temaet «Humans as a legal technology in digital public administration – a new approach?». Hun snakket om at digitaliseringen og introduksjonen av automatiserte beslutninger i offentlig sektor endrer rollen til forvaltningsansatte. Hva skjer med rollen til de ansatte i offentlig forvaltning når maskiner i større og større grad overtar arbeidsoppgavene? Prosjektet hennes er nytt, og hun introduserte spennende spørsmål i forbindelse med hvordan lovgivningen stiller seg til denne utviklingen, og hvorfor vi fortsatt trenger mennesker som en ressurs i forvaltningen.
Vi fikk gode diskusjoner rundt siste bolk med innledninger også. Avslutningsvis spiste vi god lunsj sammen og fortsatte minglingen.
Vi ønsker å takke alle bidragsytere og deltakere for et svært vellykket seminar! Dersom du ønsker å få med deg neste arrangement og andre relevante saker kan du melde deg på vårt nyhetsbrev her.
.jpg?alt=listing)
.jpg?alt=listing)
