Hjem 2026 Utg 48-10.12.2026 Sivilombudet advarer: KI kan diskriminere uten at noen oppdager det

Sivilombudet advarer: KI kan diskriminere uten at noen oppdager det

Personer uten BankID kan få problemer med å bruke offentlige tjenester som Nav og Helsenorge. Nå får staten kritikk fra Sivilombudet.
Sivilombudet krever reell kontroll med offentlige KI-systemer.
Foto: Mona Ødegård/Sivilombudet
Ny rapport retter søkelyset mot kunstig intelligens i offentlige etater. Ombudet advarer om feil som kan være vanskelige å oppdage.
Ny rapport retter søkelyset mot kunstig intelligens i offentlige etater. Ombudet advarer om feil som kan være vanskelige å oppdage.

Sivilombudet har undersøkt hvilke krav som gjelder når offentlige etater bruker kunstig intelligens som støtte i saksbehandlingen. I arbeidet hentet ombudet inn opplysninger fra Nav, Arbeidstilsynet, Skatteetaten og Tolletaten.

Rapporten kom i november og peker på faren for at KI-anbefalinger fører til usaklig forskjellsbehandling eller diskriminering. Etatene har selv ansvar for at avgjørelsene følger regelverket, understreker Sivilombudet.

Ombudet advarer også mot automatiseringsbias. Begrepet beskriver tendensen til å stole ukritisk og overdrevent på automatiserte anbefalinger

– Det er ikke i seg selv tilstrekkelig at den endelige beslutningen treffes av et menneske, skriver Sivilombudet.

Adressen kan si noe om etnisitet

Diskriminering kan oppstå selv om systemet ikke bruker opplysninger om etnisitet eller kjønn direkte. Ombudet viser til at en adresse i noen tilfeller kan si noe om etnisitet, mens deltidsarbeid indirekte kan si noe om kjønn.

Slike opplysninger kan dermed fungere som stedfortredere for andre kjennetegn. Dersom forskjellsbehandling knytter seg til disse opplysningene, kan det reise spørsmål om diskriminering, skriver ombudet.

Viser til svenske kontroller

I omtalen av rapporten trekker Sivilombudet fram svenske Försäkringskassan, som har mange av de samme oppgavene som Nav. Et KI-system valgte oftere ut kvinner, personer med utenlandsk bakgrunn og personer med lav inntekt til kontroll av støtte ved fravær med syke barn.

Kontrollene kunne forsinke utbetalingene. Försäkringskassan har senere selv framhevet betydningen av åpenhet og av å kunne forklare KI-systemene, ifølge Sivilombudet.

Har ikke fastslått lovbrudd hos etatene

Opplysningene fra de norske etatene ga ikke ombudet tilstrekkelig grunnlag til å avgjøre om all den konkrete KI-bruken oppfyller kravene. Nav svarte i undersøkelsen at etaten ikke brukte KI til digital beslutningsstøtte.

Utrop har tidligere omtalt at Utlendingsnemnda bruker KI til utkast til sammendrag av allerede avgjorte saker. To personer skal kontrollere tekstene før publisering i praksisbasen, og KI-bruken gjelder ikke avgjørelser om hvem som får opphold.

Sivilombudet har sendt rapporten til Justis- og beredskapsdepartementet og Digitaliserings- og forvaltningsdepartementet. Ombudet mener det kan være grunn til å gjøre kravene til innsikt og kontroll tydeligere i lov eller forskrift.

– Viktige tall

Universitetsprofessor i USN, Paul Thomas, sier til Utrop at Sivilombudets rapport er et viktig varsel.

Universitetsprofessor Paul Thomas sier etater må kunne styre KI for å unngå forskjellsbehandling.
Foto : Claudio Castello

– Når Nav og andre etater bruker KI ukritisk i saksbehandlingen, kan skjevheter i data og modeller skaleres opp og ramme sårbare minoriteter systematisk – også når etnisitet eller kjønn ikke brukes direkte, fordi adresse og deltidsarbeid kan fungere som indirekte markører. At et menneske tar den endelige avgjørelsen, er ikke nok.

Automatiseringsbias gjør at saksbehandlere kan stole ukritisk på KI-anbefalinger og i praksis bli et gummistempel.

– Etatene må derfor kunne forstå, forklare og kontrollere KI-vurderingene, og ha reelle rutiner for å oppdage og rette opp diskriminering, der et KI-system oftere valgte ut kvinner, personer med utenlandsk bakgrunn og lav inntekt til kontroll.

Hevder KI må styres

Ifølge ham vil dette forsterkes av at undertall i treningsdata gir dårligere nøyaktighet for underrepresenterte gruppe.

– Kissinger et al. (2022) påpeker at ansiktsgjenkjenning ofte er trent på datasett med få bilder av svarte, og Fountain (2022) viser hvordan systemisk rasisme kan være utilsiktet innebygd i data og statistiske modeller for eksempel ved at strukturelle hindringer tolkes som svakere kvalifikasjoner.

KI kan ikke selv reflektere over hva den gjør; og det moralske ansvaret kan ikke outsources, fremhever Thomas.

– Her må menneskene og etatene vise ansvar. Også andre marginaliserte grupper rammes, som ableistiske (uføre) skjevheter i rekrutterings-KI. Poenget er ikke å avvise KI, men at etatene må bruke det med åpenhet, forklarbarhet og reell menneskelig kontroll – ellers kan velferdsstaten bli en automatisk mistenkeliggjøringsmaskin for dem som allerede er sårbare.