Nett-troll kan gå hardere tider i møte hvis metoden til førsteamanuensis Hugo Lewi Hammer ved HiOA lykkes maksimalt med å varsle og filtere vekk hatefulle uttalelse og annet uønsket materiale.
Foto: Claudio Castello

Forsker skal jage bort nett-troll

Forsker og førsteamanuensis Hugo Lewi Hammer ved Institutt for informasjonsteknologi på Høgskolen i Oslo og Akershus leste seg gjennom 25 000 setninger i kommentarfeltene på YouTube. 

Utrop nr. 39/2014 (16.10.2014)

Nå har han funnet en metode som kan sette en stopper for hat og trusler på nett, skriver forskning.no. Lewi Hammer har nemlig brukt en metode som vil få datamaskiner å oppdage nettrusler automatisk. 

– Kjernen i metoden ligger i å la datamaskinen lære hva slags ord og setningsstrukturer som typisk karakteriserer trusler om vold, utdyper Hammer.

Voldstrusler inneholder nesten alltid inneholder ord som "jeg", "vi" eller et aggressivt ladet ord som "utrydde", "drepe" eller for eksempel "balltre". Målet for trusselen er også gjerne ord som "innvandrerne", "svina" og lignende.

Vil bistå i kampen mot netthets
Hovedhensikten, forteller forskeren, har vært å utvikle en metode som kan bistå politi, frivillige organisasjoner, moderatorer og andre som er opptatt av komme netthets til livs. Metoden kan raskt filtrere bort en svært stor andel av materialet på Internett som med stor sikkerhet ikke inneholder trusler om eller sympatier med vold.

– For tiden er det nærmest umulig å holde oversikt over uønsket og ulovlig aktivitet ved å lese seg gjennom innholdet på internett. Jeg håper at metoden kan bety slutten på internett som friområde for hatefulle ytringer og voldstrusler, sier han til forskning.no

90 prosent treffsikkerhet
På materialet fra YouTube klassifiserte metoden feil i mindre enn én av ti tilfeller. Hammer understreker likevel at metoden ikke kan erstatte menneskelig intelligens.

– Her kan en voldstrussel klassifiseres som ingen trussel, og en harmløs setning bli tatt som en trussel. Men feilklassifiseringen er altså under ti prosent for begge disse feiltypene, påpeker han.