Skip links

Algoritmer og digital selvskade – vi skal udvikle ny teknologi

I en ny rapport, som Digitalt Ansvar og Epinion står bag (og som jeg har været medskribent på) tager vi livtag med begrebet digital selvskade. Et fænomen, som er opstået sideløbende med en stigning i fysisk selvskade. 

I Danmark beretter fagfolk fra psykiatrien om en markant stigning i fysisk selvskade over de seneste 10-20 år, og internationale undersøgelser bekræfter et lignende billede. Eksperter peger på, at de sociale medier kan have bidraget til stigningen i selvskadende adfærd. Som fænomen er digital selvskade stadig relativt nyt, og der mangler endnu en definition, der opstiller klare rammer for fænomenet, og som der er konsensus om i forskningen. 

BOKS: Hvad er digital selvskade? Af de få undersøgelser, der indtil videre er foretaget af digital selvskade, tager flere udgangspunkt i digital selvskade som et fænomen, der dækker over to slags adfærd: 1. Dels at mobbe sig selv online gennem anonyme profiler. 2. Dels at poste noget ondsindet om sig selv anonymt online. 

Big Tech er vigtige i denne sammenhæng

Big techs forretningmodel spiller en vigtig rolle, når deres algoritmer aktivt anbefaler det voldelige og skadelige materiale. Når de deler og mikromålretter det. Når sociale medier agerer mødested for udøvelsen af de voldelige og skadelige handlinger. Når de agerer formidlere mellem voldelige og skadelige aktører. Når de agerer vært for voldeligt og skadeligt materiale. Når de forstærker spredningen af voldeligt og skadeligt materiale ved gennem algoritmer at belønne det ekstreme indhold. Og slutteligt: Når de tjener penge på disse sårbare brugeres data – deres brugergererede indhold og aktivitet i form af kliks, likes, seertid osv. 

Psykologer råber vagt i gevær om algoritmer

Psykolog Lotte Rubæk, som er psykolog og leder af Team for Selvskade i børne – og ungdomspsykiatrien i Region Hovedstaden mener, at der: “skal være større gennemsigtighed med, hvordan de sociale mediers algoritmer fungerer, der skal ses på, hvor hurtigt de skal nedtage skadeligt materiale, og måske skal de pålægges bøder, siger hun. Og så skal der også ske noget på sundhedsområdet, så vi i psykiatrien kan få en større viden om de her fænomener, så vi bedre kan spørge ind til det hos vores patienter“, siger hun i en artikel om rapporten hos dr.dk. Den lægger ud med nogle af rapportens nedslående tal: Mindst 80.000 mænd og kvinder over 18 år har mobbet sig selv eller delt selvskadende indhold på nettet det seneste år.

Nye teknologier som en del af løsningen

En af analysens anbefalinger er, at regionerne bør forsøge med ny innovativ teknologi. For patienterne har brug for interagere med andre og møde forståelse. Her virker sociale medier umiddelbart som et oplagt valg i patienternes søgen efter at få støtte, opbakning, opmærksomhed, håb og finde fællesskab. Og behandlere i sundhedsvæsenet, vi har talt med, fortæller, at smartphonen på fx selvskadeafdelinger også bliver brugt til at ”få tiden til at gå” gennem fx mobilspil og streaming, fordi der ikke er meget at tage sig til. 

Men problemet er, at undersøgelser altså også peger på at sociale medier spiller en betydelig rolle og er en medvirkende årsag til vedligeholdelse og forværring af selvskade, samt udbredelse af selvskadende adærd til andre gennem eksponering til indhold med selvskade (frivilligt og ufrivilligt).

Derfor anbefaler vi udvikling af og forsøg med nye typer af IT-teknologier (single purpose devices), som giver indlagte patienter adgang til specifikke streamingplaforme og onlinespil samt til special-udviklede apps med uddannede menneskelige moderatorer, hvor der er tænkt sikkerhed, hjælp og tryghed ind. Til udvikling af projektet vil det være oplagt at inddrage forskningsmiljøer på universiteterne for at dokumentere og undersøge resultaterne. Sociale medier, som vi kender dem i dag, er ikke sikre i denne sammenhæng.

Top photo: https://unsplash.com/@photosbyilayza

Hvis du er nysgerrig på de andre anbefalinger, kan du læse hele rapporten her