Foto: Illustrasjonsfoto
En ny forskningsgjennomgang viser at kunstig intelligens i flyktningers psykiske helse først og fremst brukes til å oppdage, forutsi eller klassifisere psykiske plager.
Forskerne identifiserte 2.726 forskningsarbeider, men bare 23 oppfylte kriteriene for å bli med i gjennomgangen. Studien ble publisert 26. august i Journal of Medical Internet Research.
Av de 23 studiene brukte 15 KI til oppdagelse, prediksjon eller klassifisering. Bare fire undersøkte intervensjoner eller klinisk støtte. Fem studier brukte KI til å sammenstille og analysere informasjon. Enkelte studier kunne inngå i mer enn én kategori.
KI brukes til å lete etter tegn på psykiske plager
Studiene omfatter svært ulike bruksområder.
KI har blant annet blitt brukt til å forsøke å forutsi posttraumatiske stressymptomer hos ukrainske flyktninger ved hjelp av spørreskjemaer. Andre forskere har analysert barns tegninger for å lete etter tegn på psykiske traumer. Det er også utviklet løsninger for taleoversettelse i psykiatrisk behandling.
Forskerne peker på flere mulige fordeler. KI kan gjøre screening og andre tjenester mer tilgjengelige i områder med få fagpersoner, bidra til tidligere oppdagelse av symptomer og redusere enkelte språkbarrierer. Teknologien kan også analysere store mengder informasjon raskt.
Men gjennomgangen viser samtidig at det finnes langt mindre forskning på hva som skjer etter at et mulig psykisk problem er identifisert.
Bare fire studier handlet om klinisk støtte
Bare fire av de 23 studiene ble plassert i kategorien intervensjon og klinisk støtte.
Forskerne beskriver dette som et betydelig kunnskapshull. Å oppdage psykiske problemer er viktig, men bedre psykisk helse avhenger også av at personer faktisk får en behandling som virker etter at behovet er identifisert.
KI-baserte behandlinger og samtaleverktøy er allerede undersøkt i andre befolkningsgrupper. Tilsvarende løsninger er imidlertid i liten grad studert blant flyktninger.
– Den endelige beslutningsmyndigheten bør forbli hos mennesker, skriver forskerne om anbefalingene fra den gjennomgåtte litteraturen.
Begrunnelsen er blant annet at mennesker er bedre i stand til å forstå kontekst, nyanser og flyktningenes subjektive erfaringer.
En modell kan forstå ordene – men misforstå kulturen
Et sentralt problem er hvilke data KI-systemene er trent på.
Forskerne peker på at mange KI-modeller er utviklet med data fra vestlige, høyt utdannede og relativt velstående befolkninger. Slike modeller kan gi skjeve resultater når de brukes på mennesker med helt andre språklige, kulturelle og historiske erfaringer.
I psykisk helse kan dette være særlig krevende.
Måten sorg, frykt, traumer eller psykiske plager uttrykkes på, kan variere mellom språk og kulturer. Forskerne viser blant annet til risikoen for at vestlige psykoterapeutiske modeller blir overført til ikke-vestlige grupper uten tilstrekkelig tilpasning.
Store språkmodeller kan dessuten behandle store mengder historier og tekst, men kan miste den emosjonelle dybden og sammenhengen i traumatiske erfaringer.
Kan også forsterke eksisterende forskjeller
Tilgang til teknologi er et annet problem.
Flyktninger som mangler smarttelefon, stabil internettilgang eller digitale ferdigheter, kan bli stående utenfor KI-baserte tilbud. Dermed kan teknologien i verste fall forsterke ulikheten den egentlig skal redusere.
Det samme gjelder forskning som bruker sosiale medier til å analysere flyktningers psykiske helse. Personer med dårlig nettilgang eller lav digital kompetanse blir lettere usynlige i datagrunnlaget.
Forskerne peker også på risiko for såkalt automatiseringsskjevhet: at helsepersonell legger for stor vekt på det KI-systemet foreslår, selv når vurderingen kan være feil.
Etterlyser klinisk testing
Forskerne mener framtidige systemer må testes langt grundigere før de tas i omfattende klinisk bruk.
De etterlyser blant annet større og mer varierte datasett, klinisk validering, modeller som tar hensyn til kultur og språk, og løsninger utviklet sammen med flyktningene som faktisk skal bruke dem.
Gjennomgangen dokumenterer derfor ikke at KI allerede gir flyktninger bedre behandling.
De 23 studiene var svært forskjellige når det gjaldt både teknologi, målgruppe og metode. Forskerne gjennomførte derfor heller ingen samlet analyse av behandlingseffekt. Studien viser først og fremst hvor forskningsfeltet befinner seg nå – og hvor mye som fortsatt mangler.
For norske mottak og helsetjenester reiser funnene et konkret spørsmål: Hvis KI-verktøy skal brukes til å vurdere psykiske plager hos mennesker fra mange forskjellige språk- og kulturgrupper, hvem har kontrollert at systemene faktisk forstår dem riktig?
