Der gik mere end et årti, før det gik op for store dele af det politiske lag og den brede offentlighed, at det digitale miljø ikke er designet for børn. Man er i gang med at rydde op – men ’gamle’ problemer med sociale medier overskygger udfordringerne med generativ Ai.
Følgevirkningerne af at have legitimeret en barndom domineret af uregulerede online fællesskaber og informationsøkosystemer baseret på enten fuld anonymitet eller overvågningskapitalisme er vanskelige at dokumentere i sin totalitet.
Den kommercielle digitalisering blev i en årrække forstået som det næste naturlige trin på en darwinistisk stige, der skjult og naturligt leder menneskeheden hen mod et bedre samfund. Surely, tech will fix it, lød det. Og voksne, der ikke forstår at ”det her bare er den nye virkelighed” de modarbejder ikke alene barnets ret til deltagelse i den nye virkelighed – de påfører faktisk også børn skærmskam.
Men heldigvis har ting det med at ændre sig. Ikke af sig selv – men blandt andet i takt med at ildsjæle utrætteligt påpeger problemer. Og mens politikere, civilsamfund og andre besinder sig og begynder at se problemerne i øjnene, så forsætter tech-virksomhederne deres uetiske praksisser, lobbyisme, soft power og generel ansvarsfralæggelse.
Blandt andet derfor går de derfor også meget langsomt med at se resultater i den virkelige verden hen i mod at børn de facto er bedre beskyttede i det digitale miljø.
Men der sker interessante ting, der rykker i den rigtige retning. Jeg vil nævne tre af dem her, som foregår på de store linjer, men som netop også derfor er vigtige at kende til.
- I regi af EU arbejdes der hårdt på håndhævelsen Digital Services Act i EU. Lige nu beder Kommissionen civilsamfund, forskere mv. om feedback på ’retningslinjerne for beskyttelse af mindreårige online i henhold til loven om digitale tjenester’ – det er artikel 28 i DSA’en. Disse retningslinjer har ”til formål at støtte platforme, der er tilgængelige for mindreårige, i at sikre et højt niveau af privatlivets fred og sikkerhed for børn, som det kræves i DSA”.
Det interessante her er, at det hele tager udgangspunkt i design. Platforme bør f.eks:
- Implementere alderssikringsforanstaltninger, der reducerer risikoen for, at børn udsættes for pornografi eller andet aldersupassende indhold.
- Indstille børns konti som privat som standard og dermed reducere risikoen for uopfordret kontakt fra fremmede.
- Justere deres anbefalingssystemer og prioritere eksplicitte signaler fra brugerne om, hvorvidt de kan lide eller ikke kan lide det indhold, de ser, hvilket reducerer risikoen for, at børn ender i kaninhuller med skadeligt indhold.
- Gøre det muligt for børn (og deres forældre) at blokere og slå lyden fra enhver bruger og sikre, at de ikke kan tilføjes til grupper uden deres udtrykkelige samtykke, hvilket kan bidrage til at reducere risikoen for cybermobning.
Man kan læse mere her og selv være med til at give feedback frem til 10. juni.
2. Ligeledes i EU og sideløbende med implementeringen af DSA arbejder Kommissionen på en app til aldersverifikation, der skal fungere som en midlertidig løsning, indtil EU’s digitale identitetspung bliver tilgængelig i slutningen af 2026. Appen er baseret på samme teknologi som EU Wallet og vil gøre det muligt for onlinetjenesteudbydere at kontrollere, om brugerne er 18 år eller ældre, uden at gå på kompromis med deres privatliv. Målet med projektet er at udvikle en EU-harmoniseret løsning til aldersverifikation, der beskytter privatlivets fred, herunder en white-label open source-app, inden sommeren 2025. Den første version af de tekniske specifikationer og betaversionen er allerede tilgængelig på GitHub.
3. I april vedtog Indonesien efter flere års samarbejde med bl.a. organisationen 5rights et (hvor jeg er President of the Board of Directors) en regeringsforordning om beskyttelse af børn, der er inspireret af Storbritanniens Age Appropriate Design Code. 5Rights beskriver det som et skelsættende skridt:
” 5Rights glæder sig over denne nye lov, der beskytter landets 84 millioner børn online og fremmer retfærdige globale standarder for teknologisk ansvarlighed”.
Arbejdet med loven sker i samarbejde med standardorgnisationen IEEE, som vil levere strategisk ekspertise gennem deres arbejde med designstandarder. De udtaler: ”Denne forordning er den første af sin art i Asien og det globale syd, og den opstiller håndhævelige krav til digitale platforme for at beskytte børns privatliv, sikkerhed og trivsel som en robust, holistisk tilgang til bekæmpelse af børns onlineafhængighed. Indonesiens vedtagelse af denne skelsættende forordning er et vigtigt skridt fremad for onlinebeskyttelse af børn på globalt plan”. Arbejdet med online beskyttelse af børn handler mere og mere også om standarder. IEEE er gået stærkt ind i arbejdet for at skabe større sikkerhed. Man kan læse mere om IEEE’s arbejde her.
Mens ”den gamle del af internettet” som f.eks sociale medier, chatplatforme og online games således bliver underlagt mere regulering, flyver generativ AI i børnehøjde stadig under radaren. Turing institute kalder i en ny undersøgelse på mere fokus på ”børns brug af AI” og ”a child centered aproach” til AI. 5Rights har lanceret en AI Children and Design Code som følge af den lange liste af indbyggede direkte risici, som er forbundet med generativ AI (også for) børn.
Det er meget vigtigt at fokusere på tech som et grundlæggende spørgsmål om design, som vi ser det her.
Men uagtet design og bagvedliggende forretningsmodeller, så er der altid nogle, som ejer og kontrollerer softwaren, og medmindre deres magt bliver hold i meget kort snor, så står vi med en kollektivt civilisatorisk udfordring af første klasse, når AI rykker ind i de inderste sfærer af tilværelsen. Og spørgsmålet er, om børneværelset skal fredes i første omgang.
Translated with a lot of help from DeepL.com Photo: Kasiade form Unsplash.com
1 ud af 4 børn (22%) i alderen 8-12 år bruger generativ AI, ifølge ny forskning offentliggjort af Alan Turing Institute. Mens der generelt er optimisme omkring disse teknologier blandt forældre, plejere og lærere, afslørede undersøgelsen specifikke bekymringer. Otte ud af ti (82%) af alle forældre rapporterede, at de er ret meget eller meget bekymrede for, at deres børn får adgang til upassende oplysninger, når de bruger generativ AI. Dette tema kom også frem i de skolebaserede workshops, hvor det viste sig, at uskyldige opfordringer fra børn ofte førte til, at der blev genereret upassende eller potentielt skadelige billeder. I undersøgelsen rapporterede 76 % af forældrene også, at de var bekymrede for generativ AI’s indvirkning på deres børns kritiske tænkning. Derudover er over halvdelen af lærerne (52%) bekymrede over stigningen i AI-genereret arbejde, der indsendes som barnets eget.
