Dommer antyder at britisk asylavslag kan bygge på AI-feil

Saken gjelder en kvinne fra Marokko og hennes barn. Ifølge The Guardian flyktet kvinnen etter tvangsekteskap som mindreårig og grov vold, inkludert voldtekt. Hun søkte asyl i Storbritannia fordi hun fryktet å bli drept av ektemannen, som beskrives som en mektig og tidligere straffedømt kriminell.

Home Office avslo søknaden. I avslaget viste myndighetene til et angivelig uavhengig og autoritativt landinformasjonsdokument, en såkalt country policy information note (CPIN), som skulle vise at Marokko var trygt for henne.

Problemet var at dokumentet ikke kunne finnes.

Da kvinnen først anket avslaget, la en dommer i førsteinstansdomstolen vekt på det samme dokumentet. Senere ble saken tatt videre til Upper Tribunal, der en ny dommer stilte spørsmål ved om dokumentet i det hele tatt eksisterte.

Dommer: Kan være AI-hallusinasjon

I en avgjørelse 14. juli skrev dommeren at det så ut til at ingen slik CPIN noen gang hadde eksistert. Han viste også til at Home Offices egen landinformasjonsenhet ikke kunne bekrefte dokumentets eksistens.

Dommeren mente avslagsbrevet hadde trekk som var forenlige med bruk av kunstig intelligens. Han åpnet derfor for at henvisningen til et ikke-eksisterende dokument kunne være en såkalt AI-hallusinasjon.

Å bygge et asylavslag på et dokument som ikke finnes, ble av dommeren sammenlignet med å bruke falske bevis.

Dommeren beskrev feilen som en prosessuell uregelmessighet.

Skillet mellom interne notater og offentlig dokumentasjon

Etter spørsmål fra The Guardian viste Home Office først til et arkiv der dokumentet ikke kunne finnes. Senere la departementet fram et annet dokument: et upublisert internt landinformasjonsnotat, kjent som en country information note (CIN).

Ifølge The Guardian har Home Office ikke publisert noen CPIN om Marokko siden 2017. I saken skal henvisningene ha endret seg fra intern veiledning til CPIN, en type dokument som vanligvis behandles som autoritativt i retten.

Det interne dokumentet ble ikke lagt fram for domstolen i de opprinnelige rettsprosessene. The Guardian skriver også at dokumentet ikke konkluderer med at Marokko er trygt for tvangsretur av kvinner i en situasjon som den aktuelle kvinnen.

Rettssikkerhet i asylforvaltningen

Saken reiser bredere spørsmål om hvordan britiske asylmyndigheter bruker landinformasjon i vedtak, og om kontrollen med eventuelle digitale eller automatiserte verktøy er god nok.

For asylsøkere kan landinformasjon være avgjørende. Slike dokumenter brukes til å vurdere om en person risikerer forfølgelse, vold eller manglende beskyttelse ved retur.

Home Office sier til The Guardian at asylsystemet holdes under kontinuerlig vurdering, og at saker alltid behandles individuelt og basert på oppdatert dokumentasjon. Kvinnens sak er fortsatt ikke avsluttet.