Det er problematisk, at det sprog man taler, er afgørende for hvorvidt ulovligt indhold fjernes og i hvor høj grad man risikerer at blive udsat for fx. hadetale, misinformation og ulovligt indhold online. Eksperter advarer imod alvorlige konsekvenser.
Dansk er et minoritetssprog eller i techvirksomhedernes optik et ’low-ressources’ sprog. Det betyder, at der ikke er ligeså meget data sammenlignet med sprog, der tales af en større andel af verdens internetbrugere og dermed ikke den samme grad af beskyttelse i forhold til hadetale, vold, misinformation og andre former for ulovligt indhold. Flere forskere peger på problemet, der har fået øgenavnet ’the language gap’ – på dansk sprogkløften.
Også inden for murene i de amerikanske virksomheder bag platformene, er der ansatte, som længe har peget på problemet. Metas øverste teknologiansvarlige Mike Schroepfer indrømmede på en konference i Californien i 2018, at de systemer, virksomheden har bygget til at monitorere og fjerne indhold som hadtale, misinformation, vold og andet ulovligt indhold, ikke er gode nok, når det gælder minoritetssprog.
Frankrig og Tyskland er nogle af de lande, der har lovgivet for at bekæmpe spredning af ulovligt og skadeligt indhold via blandt andet YouTube. Tyskland vedtog i 2018 en lov, der forpligter de sociale medier til at fjerne ulovligt indhold inden for 24 timer efter, at de har modtaget en skriftlig henvendelse fra en bruger. Hvis virksomhederne ikke lever op til loven, kan de få anseelige bøder. Frankrig har vedtaget en lignende lovgivning.
Sproglig ulighed er tech-giganternes største problem
Som følge af lovgivningen har YouTube efterfølgende ansat flere mennesker til at supervisere algoritmerne med at identificere og fjerne ekstremt indhold, og derudover er de begyndt at oversætte til tysk og fransk, som YouTubes direktør Susan Wojcicki påpegede over for New York Times i 2020. Ændringerne kom også i kølvandet på, at BBC og New York Times afslørede, at YouTubes system, der skal sikre, at der ikke sker krænkelser af børn i kommentarsporene, ikke virkede optimalt og ikke havde gjort det i over et år.
Den 16. maj besøgte den amerikanske whistleblower Frances Haugen Danmark i forbindelse med overrækkelsen af LIBRE-prisen. Hun blev spurgt, hvad hun ville fremhæve som Metas mest presserende problem lige nu. Hun nævnte sproglig ulighed og pegede på sprog som en gråzone og et alvorligt problem i sin tale til prisuddelingen: “Hvis vi vil skabe lighed i forhold til sprog, altså sikre at du som bruger er beskyttet uafhængigt af hvilket sprog du taler, så må vi tage udgangspunkt i Facebooks egen ’product safety information’ og applicere den på alle sprog”. Men det sker ikke på nuværende tidspunkt, hvorfor de brugere, der bor i lande, der ikke er prioriteret, har vist sig at være særligt udsatte. Det gælder også Danmark.
Ifølge Frances Haugen er det først i krisesituationer, der kommer opmærksomhed på oversættelse af et, for en virksomhed som Facebook, nyt sprog. Men spørgsmålet er, hvordan og hvornår en situation vurderes som en krise?
For eksempel kan det undre, at platformene Facebook og Instagram først valgte en indsats over for Etiopien i 2021, hvor virksomheden gik i gang med at udvide sit sikkerhedssystem baseret på ’risk of offline violence’. Den udmelding kom på et tidspunkt, hvor landet havde været i borgerkrig i næsten et år. En indsats, der ifølge Meta, virksomheden bag Facebook og Instagram, gik ud på bl.a. at ansætte flere folk med “sprog, lande- og emneekspertise.
De interne dokumenter, som Francis Haugen samlede, danner grundlaget for The Wall Street Journals undersøgelse af The Facebook Files. Den afslører blandt andet, at der er stor forskel på, hvordan og i hvor høj grad skadeligt og farligt indhold og ulovlig brug af platformen identificeres. Problemerne opstår i de lande, hvor virksomheden har for få eller ingen ansatte, der forstår sproget. De interne papirer viser også, at ansatte hos Facebook længe har påpeget alvoren.
I slutningen af 2021 annoncerede Meta selv, at virksomheden året forinden havde held med at fjerne 97 procent af indhold med hadtale på Facebook via et automatiseret censur-system. Det lød fantastisk – og måske også lidt for fantastisk. Det viste sig nemlig senere via de interne dokumenter, der blev undersøgt af Wall Street Journals journalister, at tallene snarere var tre til fem procent. Og endda endnu lavere alt afhængigt af hvilket land, man som bruger er bosat i, og hvilket sprog man taler. Ifølge virksomhedens dokumenter er der 2,91 milliarder daglige aktive brugere hver måned, og i en rapport fra 2019 skriver Meta, at 90 procent er bosat uden for Nordamerika og Canada. Her er det vigtigt at huske på, at der findes over 8000 sprog i verden og størstedelen af Facebooks brugere er bosat uden for USA.
Sociale mediers sprogkløft – alvorlige oversættelsesproblemer
Der er behov for en gang for alle at få gjort op med den forskelsbehandling, der betyder, at brugere med minoritetssprog er både eksponerede og forsvarsløse. På en online konference i maj 2021 blev private virksomheders ansvar i forhold til menneskerettigheder diskuteret.
I den forbindelse udgav Irvine University en artikel, hvor forfatteren Alice Doyle går så langt som til at sige, at menneskerettighederne risikerer at blive undermineret. Hun gennemgår en række anbefalinger til at håndtere sprogkløften og en undersøgelse af den eksisterende model, virksomheder som Meta bruger i forhold til blandt andet tilsyn. Hvordan forholder virksomheder sig for eksempel til de begrænsede sproglige kapaciteter, der hindrer muligheden for at forstå og vurdere den fulde kulturelle kontekst af det indhold, der gennemgås? Der er tale om et komplekst og strukturelt problem, der derfor også må løses strukturelt.
Uanset hvor og hvordan ansvar placeres i forhold til regulering og moderering, så er der lige nu en systematisk forskelsbehandling, der ikke må ignoreres.
Inden den tragiske hændelse i storcenteret Fields søndag aften, cirkulerede videoer, der overskred Youtubes egne retningslinjer på en dansk YouTube kanal, som den formodede gerningsmand stod bag. Kanalen blev først fjernet søndag aften efter skyderierne og fik i timerne op til opmærksomhed både på YouTube, men også andre platforme.
Der ligger et kæmpe arbejde i at undersøge de afledte effekter af sprogkløften, og de konsekvenser som techvirksomheder har forårsaget, da de skød den digitale revolution i gang med Meta’s (dengang Facebook) fremdrifts-fokuserede mantra: ’Move fast and break things.’
Og lige nu kan vi være bange for, at det hele gentages. I stedet for at stoppe op og give plads til alle dem og det, der gik i stykker undervejs, løber industrien videre i et manisk hype mod et nyt virtuelt rum og gentager alle fejlene i den nye tech-dille: metaverset.
Med alle de milliarder af dollars tech virksomheder har til at udvikle nye kommercielle, virtuelle rum, skulle man tro, at der var penge nok i kassen til at reparere fejlene. Og til at garantere en anstændig kvalitet i analyse og sikre lighed på tværs af kulturelle og sproglige skel.
Artiklen blev først bragt i Information
Foto: Hannah Wright, unsplash.com
