ITU-forskere skal overvåge og rapportere ulovlig hadtale på sociale medier
Sociale medier er ifølge EU-lovgivning forpligtede til at fjerne ulovligt indhold – herunder hadtale – men i Danmark har man ikke overvåget platformene siden 2018. Nu har forskere bag et nyt projekt med midler fra EU og med base på IT-Universitetet i København påtaget sig opgaven.
Leon DerczynskiInstitut for Datalogietiksociale medier
Skrevet 27. februar 2023 23:00 af Theis Duelund Jensen
Hadtale og andre typer indhold, der opfordrer til vold mod andre, på sociale medier er ulovligt i EU. De sociale medieplatforme, der mestendels opererer fra lande uden for EU, har ikke incitament til at komme problemet til livs, og derfor har man i de fleste EU-lande oprettet uafhængige organisationer, der overvåger de sociale medier for at sikre, at indholdet er i overensstemmelse med loven.
Men i Danmark har man ikke overvåget indhold på sociale medier siden 2018. Derfor har dansksproget hadtale og ulovligt indhold fået lov til at optræde på sociale medieplatforme lige siden. Det skal en ny ITU-gren af det EU-støttede Safenet-projekt gøre op med. Projektets formål er at monitorere, indsamle data, analysere og skabe indsigt i, hvordan sociale medieplatforme modererer hadtale og derved hjælpe med at dæmme op for problemet.
”I de fleste lande i EU, og derudover Norge og Schweitz, har man oprettet organisationer, der overvåger sociale medieplatforme for at sikre, at de følger loven. Sådan var det også i Danmark frem til 2018, men så ophørte man med at overvåge. Loven gælder stadigvæk, men der er ingen, der overvåger de sociale medier, og det betyder, at loven for det meste ikke håndhæves,” siger lektor på IT-Universitetet og leder af projektet, Leon Derczynski.
”Når først indholdet er anmeldt har platformen pligt til at fjerne det, men i Danmark sker der pt. ikke noget, hvis den pågældende platform ignorerer anmeldelsen, medmindre politiet inddrages. De sociale medieplatforme har intet incitament til at følge loven.”
Leon Derczynski er ekspert inden for Natural Language Processing og maskinlæring. Han har længe forsket i såkaldt online harm og hadtale og har tidligere været med til at udvikle en algoritme, der kan opsnappe hadtale rettet mod kvinder på sociale medier.
Projektet er udformet med inspiration fra lignende initiativer i andre EU-lande og vil helt konkret udføre overvågning af sociale medieplatforme på to måder:
”Overvågningen foregår på én af to måder. Den ene måde indebærer, at platformen gøres opmærksom på, at vi overvåger indhold inden for en bestemt ridsramme. Den anden måde er uanmeldt overvågning. Den feedback, vi producerer, sendes direkte via en prioriteret kanal til den pågældende platform, og hvis indholdet ikke fjernes, rapporteres der videre til EU-myndigheden på området,” siger Leon Derczynski.
Projektet, der er bemidlet gennem EU's "Citizens, Equality, Rights and Values Programme" (CERV) og indtil videre skal køre over to år, blev officielt lanceret d. 1. januar. Ifølge forskeren bliver det i særdeleshed interessant at observere, hvordan problemet med hadtale udfolder sig på TikTok, der ikke tidligere er blevet overvåget i en dansk kontekst.
”EU-lovgivningen er klar, når det drejer sig om hadtale på nettet, men uden overvågning gør de sociale medieplatforme ikke noget ved problemet,” siger Leon Derczynski. ”Nærværende projekt vil give os en bedre forståelse af, hvad der sker på de sociale medier, så vi også kan komme problemet til livs i en dansksproget sammenhæng."
Theis Duelund Jensen, presseansvarlig, +45 25 55 04 47, thej@itu.dk