Chatbots og sprogmodeller ser ud til at være blevet indført i skolerne som standardindstilling for børn uden offentlig debat eller informeret samtykke. Netop som politikere og offentligheden endelig er ved at vågne op til de skader, som sociale medier forårsager, lancerer Big Tech sin næste bølge af kommercielle – og potentielt skadelige – produkter. Dette burde skabe nøje granskning og ikke mindst modstand, når det drejer sig om børn.
“Det er på mine børns Chromebooks. Det er integreret i Chromebooks til børn fra 6 år og opefter. Børnene kan frit bruge det, og de modtager ikke instruktion i, hvordan man bruger det. Lærerne ved ikke rigtig noget om det. Skoleledelsen er ikke klar over det og har derfor ingen politik eller retningslinjer for brugen af det.”
Dette er vores oversættelse af et LinkedIn-opslag fra en far til børn i folkeskolen i Helsingør nord for København. Ja, det er faderen, Jesper Graugaard, der forsøgte at bekæmpe Chromebooks i folkeskoler i Danmark. Han har lige opdaget, at hans børn har fået gratis adgang til Gemini via skolens computer. Han er overrasket over, at dette er sket, og at ingen i Danmark diskuterer det. Hverken den traditionelle presse eller politikere og myndigheder.
I sit opslag spørger han forældre, organisationer og politikere, om de mener, at børn fra 6 år er klar til at bruge AI-værktøjer uden vejledning? Men i virkeligheden er det i lige så høj grad virksomhederne bag teknologien, der bruger børnene – ikke omvendt. Og desuden handler det ikke kun om vejledning – det handler om mangel på klar lovgivning, håndhævelse og etisk vejledning.
Så vores svar på Jespers spørgsmål er rungende nej – og her er nogle af vores argumenter.
Hovedårsagen er læring eller mangel på samme. I skolen skal børn lære mange grundlæggende færdigheder såsom at læse og skrive. Skolen handler jo bl.a. om at lære disse ting, men Gemini gør det nemt for børn at springe denne svære proces over. AI-værktøjer udfordrer både incitamentet og evnen til at lære helt basale færdigheder.
Google Gemini forklarer selv, hvad det kan gøre for skoleelever:
“Gemini kan fungere som et værktøj, der hjælper med at skrive bedre og understøtter forskellige stadier af skolearbejdet:
- Udkast: Hjælp til at generere forslag til tekster, e-mails eller præsentationsslides (ofte integreret direkte i Google Docs, Slides og Sheets).
- Redigering og feedback: Gennemgang af igangværende arbejde og forslag til forbedringer, der hjælper eleverne med at forstå, hvor de skal fokusere deres indsats.
- Idégenerering: Fungerer som sparringspartner til at udforske problemer, finde inspiration til nye projekter og generere kreative idéer.
- Differentieret læring: Skaber tilpassede læringsoplevelser, for eksempel ved at generere øvelsesquizzer baseret på noter eller specifikke emner.
- Sprogstøtte: Hjælper med oversættelser og giver indsigt i betydningen og konteksten af udtryk.”
At gå i skole handler om at lære, men Gemini gør det let for børn at miste lysten til at lære, fordi de lige så godt kan bruge AI. Desuden hallucinerer alle generative AI-modeller, og derfor er det vigtigt, at børnene lærer at tjekke hvert eneste ord, der kommer ud af AI-modellerne, og det kan være endnu mere tidskrævende end at gøre det selv fra bunden – og lære.
Google i danske skoler er skræddersyet til skoler. Derfor er tjenester som YouTube ikke en del af skolens tilbud til børnene. Gemini er åbenbart blevet indført uden nogen form for kontrol.
Vi har kontaktet Jesper Vangkilde, kommunikationschef hos Google Danmark, der har lovet at vende tilbage, når han har fået det undersøgt. Vi opdaterer naturligvis denne artikel, så snart vi har svar.
AI-tilstand. Børnene kan gennem Googles søgemaskine får adgang til AI-tilstand. og via den er det fuldt ud muligt for et skolebarn at føre en samtale med Gemini. AI-tilstand er bygget på Gemini. Så selv om børnene ikke får Gemini som en app, så får de adgang via AI-tilstand.
Gemini som dit barns mentor?
Gemini er imidlertid ikke kun et skriveværktøj. Gemini forklarer selv følgende:
“Der er også mulighed for at chatte med Gemini. Gemini fungerer som en AI-assistent eller en chatbot (f.eks. via gemini.google.com eller mobilappen), som elever og lærere kan interagere med.
Direkte dialog: Eleverne kan stille både enkle og komplekse spørgsmål og få svar, der kan fungere som udgangspunkt for videre læring.
Mentorfunktion: AI’en kan bruges som en slags digital mentor til at uddybe emner eller give yderligere kontekst.“
Og her er endnu et opråb. Vil du have, at dit barn konsulterer en maskine, der er designet til at optimere din brug af den (jo længere tid, du bruger, des mere profit) som mentor?
Børn bør ikke tale med chatbots, der ikke har alderssvarende “guardrails” eller sikkerhedsforanstaltninger for, hvad de siger. Ai Chatbots er maskiner, der forudsiger det næste ord i en sætning, og ingen ved, hvad der kommer ud af dem. Det er dokumenteret, at de er smigrende – og det er ikke godt, som en af forfatterne til denne artikel forklarer i denne podcast.
Desuden er brugen af chatbots i nogle tilfælde desværre eskaleret til brug af maskinen til terapeutiske formål. Mennesker begynder typisk at tale med chatbots om almindeligheder og udvikler så langsomt et tillidsforhold, hvor de begynder at betro sig til maskinerne. De fleste AI-generatorer vil sandsynligvis henvise brugeren til professionel menneskelig hjælp, men mange vil også tilbyde at diskutere problemerne yderligere. Disse maskiner er bevidst designet til at ligne mennesker, så mennesker bruger dem længere. Men det kan have katastrofale konsekvenser; nogle brugere er endt i en vrangforestillingsspiral, andre har begået selvmord efter at have knyttet sig følelsesmæssigt til en chatbot.
Aldersverifikation på sociale medier bør også omfatte generativ AI
Danske beslutningstagere har endelig indset, at sociale medier er opbygget på en meget uetisk måde, der manipulerer vores børn (og voksne) og påtvinger dem værdier, der ikke er i overensstemmelse med værdierne i et europæisk samfund. Derfor tales der meget om aldersverifikation på sociale medier i disse dage. Politikere og børnerettighedsorganisationer har meddelt, at Danmark nu indfører en aldersgrænse på 15 år på sociale medier. Indtil nu har aldersgrænsen været 13 år i Danmark i modsætning til mange andre EU-lande, der har fulgt EU’s anbefaling om 16 år. Aldersgrænsen og kravene til aldersverifikation er fokuseret på sociale medier og deres kommercielle manipulerende algoritmer. Ifølge en kilde i en børneorganisation vil den nye danske lov om aldersgrænser omfatte hyperkommercielle sociale medier, dem der kaldes VLOP’er i Digital Service Act. Så hvis en tjeneste er en chatbot/sprogmodel, er den ikke dækket af kravet om aldersbekræftelse.
Dette kan være anderledes i andre europæiske lande. UNESCO har opfordret til en aldersgrænse på 13 år. Lande som Tyskland og Frankrig har ingen specifikke aldersgrænser for brugen af chatbots, men baserer sig på GDPR-aldersgrænsen på 16 år.
Der er ingen tvivl om, at det er en god ide at sagsøge Meta for systematisk forsømmelse, når det kommer til at beskytte børn på sociale medier. Men det er også et gruppesøgsmål, der kommer sent – efter at skaden er sket.
Og skaderne ved sociale medier og det “gamle” digitale miljø bør ikke fjerne vores – eller folkeskolernes – opmærksomhed fra de nyere problemer, der kan opstå med AI chatbots i børnehøjde. De er potentielt et endnu større problem.
Så, skal vi nu sidde og vente på konsekvenserne af de forsømmelser, der forvoldes vores børn med generativ AI, ligesom vi gjorde med sociale medier? Det mener vi ikke.
Vi har til denne artikel brugt Google’s Gemini til både tekst-og billedgenerering, da det giver mening her. Normalt bruger DataEthics.eu ikke kunstigt skabte illustrationer, men hvis vi bruger tekstgenerering vælger vi europæiske tjenester som Lumo eller Mistral.
