Foto: Österreichisches Außenministerium
Ansiktsgjenkjenning kan hjelpe politiet med å finne mistenkte, savnede personer eller ofre for kriminalitet. Samtidig kan feil og manglende kontroll få alvorlige følger for enkeltpersoner, advarer EUs byrå for grunnleggende rettigheter, FRA.
I en ny rapport har byrået undersøkt politiets bruk av fjernbasert biometrisk identifikasjon. Det betyr teknologi som kan kjenne igjen en person på avstand ved hjelp av blant annet ansikt eller stemme, uten at personen selv trenger å gjøre noe.
Undersøkelsen bygger på lovanalyse, intervjuer med politi og eksperter, observasjoner av politiarbeid og en spørreundersøkelse i sju EU-land.
Frykter at feil kan ramme noen grupper hardere
FRA peker særlig på faren for feilaktige treff. Et ansiktsgjenkjenningssystem kan for eksempel sammenligne et bilde fra et overvåkingskamera med bilder i en politidatabase og feilaktig konkludere med at to personer er den samme.
Dårlig utviklede systemer kan ifølge rapporten gi skjeve resultater og føre til diskriminering. Risikoen gjelder særlig når teknologien brukes på kvinner, etniske minoriteter, barn og eldre.
Konsekvensene kan bli langt mer alvorlige enn en teknisk feil. FRA viser til at feil identifikasjon kan føre til uberettigede politikontroller eller at uskyldige blir mistenkt for lovbrudd.
– Offentlig sikkerhet og vern av grunnleggende rettigheter er ikke mål som står mot hverandre. Demokratier beskytter mennesker ved å beskytte både sikkerheten og rettighetene deres, sier FRA-direktør Sirpa Rautio.
29 prosent ville blitt mer forsiktige med å demonstrere
Rapporten peker også på en annen virkning: Folk kan endre oppførselen sin bare fordi de vet at politiet kan identifisere dem.
I FRAs undersøkelse svarte 29 prosent at de ville være mindre villige til å delta i en fredelig demonstrasjon eller protest dersom ansiktsgjenkjenning ble brukt.
Byrået omtaler dette som en «nedkjølende effekt». Enklere sagt betyr det at mennesker lar være å bruke en lovlig rettighet fordi de frykter overvåking eller konsekvensene av å bli registrert.
FRA mener dette kan ramme både retten til å demonstrere og retten til å uttrykke politiske meninger. Særlig bruk av teknologien under fredelige demonstrasjoner og politiske samlinger krever derfor klare grenser, ifølge rapporten.
Mange frykter misbruk av personopplysninger
Bekymringen stopper ikke ved demonstrasjoner. 37 prosent av dem FRA spurte, sa at de frykter at biometriske opplysninger kan bli brukt til formål de ikke har godkjent.
Biometriske data er opplysninger om kroppslige kjennetegn som kan brukes til å identifisere en person. Ansiktsform, fingeravtrykk og stemme er eksempler.
Slike opplysninger kan være svært følsomme fordi en person ikke enkelt kan bytte dem på samme måte som et passord dersom dataene kommer på avveie.
FRA fant samtidig begrenset informasjon til offentligheten om hvordan politiet bruker teknologien. I enkelte land mangler det egne ordninger som gjør det mulig for innbyggerne å få vite når og hvordan fjernidentifikasjon brukes.
Etterlyser tydeligere regler før teknologien tas i bruk
EUs nye KI-forordning setter grenser for politiets bruk av biometrisk fjernidentifikasjon i sanntid på offentlige steder. Slik bruk er bare tillatt i bestemte situasjoner og under strenge vilkår.
FRA mener likevel at europeiske land trenger tydeligere nasjonale regler, uavhengig kontroll og bedre offentlig rapportering. Noen av landene som ble undersøkt, mangler fortsatt nødvendige regler eller tilsynsordninger, mens eksisterende krav praktiseres ulikt.
Byrået vil også at politiet og leverandørene av teknologien jevnlig offentliggjør informasjon om hvordan systemene brukes. I tillegg bør vurderinger av konsekvenser for grunnleggende rettigheter være tilgjengelige for offentligheten.
Rapporten omfatter Frankrike, Tyskland, Hellas, Ungarn, Irland, Italia og Nederland. Norge inngår dermed ikke i undersøkelsen.
