Analyse: Legetøjsproducenter kappes i dag om at skabe intelligent legetøj, der husker, finder mønstre i og reagerer på data fra børn. Vi har brug for en dataetisk tilgang til innovation i udviklingen af et ”Tingenes Internet” for børn.
Kan du huske E.T.? Et væsen fra det ydre rum, men også det mest fantastiske stykke legetøj på jorden, en rigtig ven til drengen Elliot, der finder ham. I 1980’erne gjorde Steven Spielberg en karriere ud af film baseret på børns største fantasier. E.T. er en skildring af det ultimative legetøj, som vi alle har drømt om på et tidspunkt i vores barndom; en kammerat, der lærer sammen med dig, vokser og udvikler sig med dig og kender dig godt.
I dag har den teknologiske udvikling indhentet vores drømme. Internetforbundet intelligent legetøj fungerer ved hjælp af kunstig intelligente teknologier, som gør at legetøjet rent faktisk kan opføre sig som børnenes helt egne personlige legekammerater.
Cognitoy dinosauren er for eksempel baseret på en af de mest potente intelligente teknologier i verden, den Jeopardy vindende IBM Watson computer. Den husker og lærer fra et barns reaktioner og tilpasser egne reaktioner til disse. Det samme gør Fischer Prices Smart Toy – en bamse, som er, ifølge deres hjemmeside: “Ligeså enestående som dit barn … Den reagerer faktisk på, hvad dit barn siger og husker ting. Den tager stikord fra ham eller hende, indbyder derefter til leg, snak, bevægelse, fantasi og læring”
Legetøj der husker alt
Reaktionerne på de intelligente legetøj har været blandede. Mattel’s Hello Barbie, der genkender et barns stemme og behandler den i en kommerciel sky, blev efter dens lancering i medierne straks døbt “The Surveillance Barbie”, og Googles patent på en bamse udstyret med kameraer i øjnene blev stort set kun beskrevet som ”Creepy”.
Men i mange tilfælde bliver vi charmeret af de intelligente legetøjs ‘menneskelignende’ opførsel. De taler sjovt, ser nuttede ud, kan vittigheder og kender dit barns yndlingsfarve. De har øjne som E.T. med dybde og oprigtighed.
Vi må dog ikke glemme, hvad de intelligente bamser og dukker er. Deres nervesystemer består af programmerede algoritmer. Data er blodet, der strømmer gennem deres årer. De er bygget på en anden type intelligens, en kunstig intelligens skabt i menneskets billede, men stadig anderledes end vores. En kvantitativ form for intelligens, der analyserer, finder mønstre, handler ud fra profiler skabt ud af alle de data, som børn fodrer dem med – lyden af deres stemme, deres ansigtsudtryk, indholdet af deres drømme og barnlige spørgsmål. De lærer og udvikler sig ved at huske alt og er på den måde altid med os. Selv når vi bliver voksne og placerer det fysiske stykke legetøj i en kasse i kælderen, så er din bedste barndomsven stadig der et sted i (internet) skyerne og husker dig som barn.
De intelligente legetøj tilhører dig heller ikke. Du køber legetøjet, men du har ingen kontrol over eller indsigt i de interesser, der har styret udviklingen af deres nervesystemer, og de data, du fodrer dem med tilhører dig heller ikke. De vil ligesom E.T. også gerne ”phone home” til de proprietære cloud baserede platforme, hvor data lagres og behandles, så legetøjet kan lære med barnet, forstå barnet, reagere på og vejlede barnet.
Spørgsmål til det intelligente legetøj
IT industriens største kommercielle indsats og innovationsområde er pt. kunstig intelligens (A.I., cognitive computing, machine learning). IBM, Google, Facebook osv. har alle store afdelinger med fokus på at udvikle intelligente teknologier (baseret på algoritmer), som kan skabe mening ud af og handle på data. Intelligent legetøj er en kategori af legetøj tæt forbundet med denne generel data behandlende markedssfære. Vi bør derfor være meget bevidste om at sikre etisk datainnovation i udviklingen af et ”tingenes internet” for børn. Her er nogle af de dataetiske spørgsmål, vi kan stille (men vi bør stille mange flere):
1. Dataprofiler: Et intelligent stykke legetøj er intelligent, fordi det har en detaljeret dataprofil af et barn. Hvordan kan vi sikre, at børns dataprofiler handler på deres vegne nu og i fremtiden? Hvor opbevares profilen, hvem der har adgang til den, hvordan kombineres den med andre data?
2. Algoritmer: Algoritmer handler på, informerer og dirigerer det intelligente legetøjs interaktion med et barn. Hvordan kan vi sikre gennemsigtighed og etiske standarder i programmeringen af de algoritmer, der ligger til grund for det intelligente legetøj?
3. Den proprietære sky: Konsekvenserne af centralisering og monopolisering af data er lige så vigtig som sikkerhed. Hvem ejer børns data? Hvordan kan vi sikre, at børn har en “ren tavle”, når de vokser op? At de og deres forældre har kontrol over deres data?
4. Kommercielle interesser: Det intelligente legetøj er en personlig legekammerat, der vejleder barnet. Vi bør kræve gennemsigtighed og etiske standarder for de kommercielle interesser indlejret i intelligent legetøj. Hvordan kan vi sikre, at legetøjet ikke bliver et usynligt marketingværktøj?
5. Sociale implikationer: Forældre har meget ofte adgang til barnets private interaktion med det intelligente legetøj. Hvordan kan vi opretholde et barns ret til privat i det sociale rum. Dvs. sikre en sund balance mellem forældres deltagelse i deres barns liv og overvågning?
6. Metafortællingen: Der er altid en risiko for manipulation og kontrol indlejret i datadrevne teknologier. Hvilken type metafortælling ønsker vi skal drive innovation i teknologier til børn? Måske skal vi slet ikke have detaljerede digitale dataprofiler på børn?
