På søndag bliver der på TV2 vist en dokumentar, der handler om emnet digitale replika af afdøde med udgangspunkt i en specifik case. Da jeg ikke har set dokumentaren, er det ikke den, jeg skriver om her. Men teknologien i sig selv giver anledning til en række etiske refleksioner, som jeg vil udfolde nedenfor.
‘Den digitale efterlivsindustri’, ‘grief tech’, ‘death bots’. Fænomenet har mange navne. Det handler om et voksende globalt marked, hvor virksomheder lover, at de – mod et gebyr (og nogle gange endda gratis) – kan fodre en AI med fx tekstbeskeder, e-mails, stemmeoptagelser, videoer eller dagbøger af afdøde og på baggrund af disse sende interaktive avatarer af afdøde tilbage. Brugerfladen er eksempelvis en app hvorigennem efterladte kan tale eller skrive med en simuleret version af sin kære.
Fordi generativ AI som bekendt kan være ret overbevisende, kan det efterlade nogle i en illusion om at afdøde stadig er her. Der er også en risiko for at sorgen bliver forlænget gennem dette simulerede, kunstige samvær, hvor den pårørende ikke udvikler sig sammen med den pårørende men alene er funderet i gamle data, der udgør brændstoffet i denne sandsynlighedsmaskine, som også formes på baggrund af de efterladtes promts.
*
Den hurtige udvikling af generativ AI har sat fart væksten i markedet. Mig bekendt er der ingen opgørelser over, hvor stort markedet er herhjemme, men det er voksende globalt set.
Med denne acceleration følger dybere etiske, psykologiske og filosofiske spørgsmål, som det er nemt at affeje med et: “hvis den afdøde har afgivet samtykke, hvad er så problemet – folk må vel gøre, hvad de vil”. Eller: ”Hvis det virker – hvad er så problemet”? Men for det første ved vi ikke, om det virker. Og hvad er det i øvrigt, det skal virke på? Smerten? Sorgen? Tabet? Tomrummet? Ensomheden? Og hvem er det, der må ‘gøre som de vil’? Er det afdøde eller udvalgte pårørende – og hvis ønsker vejer i så fald tungest i denne sammenhæng?
Ting er mere komplicerede end som så – og det vil jeg kaste lidt lys over.
Kommercialisering af døden
I en tilstand af dyb sorg og pres vil man måske gøre alt for at holde fast i sine kære – på den ene eller anden måde. Industrien eksperimenterer allerede med forskellige forretningsmodeller, og man kan nemt forestille sig en version, som er gratis det første stykke tid – hvilket kan initiere en form for afhægighed – for så at opgradere produkter til en betalingsversion. First fix is free…
Ligesom andre virksomheder er kommercielle grief tech-virksomheder også drevet af et profitmotiv og er hermed incentiveret til at skabe forretningsmodeller, som udnytter mennesker i sorg. I den sørgende fase er alle mennesker det perfekte offer.
Lad os forestille at afdøde måske elskede et bestemt land, en bestemt ret, en bestemt vin eller et bestemt beauty produkt. Her ville det være en åbenlys lukrativ ide at bruge avatearen af afdøde til at reklamere for dette – eller alternativt ‘bare’ placerereklamer for produkterne ind i app’en. Det ville formentlig være en effektiv form for manipulation.
Vi ved fra bl.a. lækkede dokumenter fra techgiganten Meta, at de har pralet overfor deres annoncører med temmelig præcist at vide, hvornår en teenager føler sig grim, dum og værdiløs – og at det er det perfekte tidspunkt at eksponere dem for en skønhedsreklame. Man kan forstille sig det samme for mennesker i sorg.
De her teknologier befinder sig på et dårligt reguleret marked for AI Consumer Tech. Her er dataetikken og datasikkerheden generelt stort set ikke eksisterende. Det indebærer i sig selv en stor risiko.
Hvem elskede du mest, far?
Mens én ting er den rolle, som ad tech-industrien kan spille her. Noget andet er, at det forhold at chatbots hallucinerer og kan trænes til at vægte bestemt ting afhængig af udbyderens værdier. Det kan give en stor magt til dem, der er med til at udvikle app’en. De kan – måske utilsiget – være med til at skabe en virkelighed og et billede af afdøde og dem selv, som matcher deres forståelse af verden. Hvad sker der eksempelvis, hvis man spørger: ”Hvem elskede du mest, far…?”
Man er ekstra sårbar som mennesker, når man sørger. Man har brug for ekstra beskyttelse fra virksomheder, som påstår at kunne fikse noget, som føles meget voldsomt og ubehageligt – men som måske ikke skal ‘fikses’…
Sorg skal hverken udryddes eller fikses
I en video med CEO og stifter, Justin Harrison, af virksomheden, You – only virtual som udvikler grief bots, at: ”What I would like to see is the complete and total eradication of grief. The feeling of grief that comes with loosing people”.
Hvis vi forsøger at fjerne sorgen, fjerner vi måske også noget dybt menneskeligt.
I interviewet bliver Harrison spurgt af journalisten om han er ensom. Han siger, at han ikke mener, at han er mere ensom end andre – han taler med mange – men som for mange andre er det mest med folk han ikke kender, som han chatter med online.
Og måske er det faktum at flere og flere mennesker foretrækker at dele personlige ting med AI chatbots frem for med mennesker, mens de er i live (fordi chatbots ‘ikke dømmer’) den perfekte primer for væksten af grief tech i samfundet.
Men måske også for en tingsliggørelse af tilværelsens dybere lag?
Ved at dele vores inderste følelser med maskiner, som selv ingen følelser besidder, deltager vi et stort eksperiment. For hvordan påvirker det os og vores menneskelighed – i både stor og lille skala? Som individer og samfund? Flere og flere mennesker rapporterer ensomhed, og Zuckerberg og Altmans svar på det er at sælge nogle flere AI companions. AI will solve it. Problem fixed.
Jeg er lodret uenig med dem. Svaret på ensomhed er ikke produkter – men tosomhed eller samfund. Men socialt samvær er kompliceret, det kan gøre ondt, og det skal trænes. Som art er vi helt afhængige af kunne finde ud af netop dette.
Den virkelige verdens kompleksitet
Men den virkelige verden har det med at være knapt så sort og hvid. Måske ikke alle efterladte har lyst til en illusion af at afdøde lever?
Måske app’en endda kan være svær at komme af med. Er den designet med en respektfuld mulighed for det sidste digitale farvel? Giver vi et ansvar videre til vores efterkommere, som mange af dem måske slet ikke ønsker. Giv de døde fred. Og de levende?
Jeg har talt med mange som sammenligner grief bot’en med f.eks. en psykolog eller en anden terapeut. Men de giver sig jo ikke ud for at ligne afdøde? Og de skal leve op til en række etiske og lovmæssige kodekser. Men med de her produkter kan techvirksomheder i vid udstrækning gøre mere eller mindre som det passer dem.
Mere menneskelig omsorg – mindre Silicon Valley
Af alle de ovenstående grunde – og flere til – er jeg meget betænkelig ved denne type grief tech baseret på GenAI. Ikke fordi jeg ikke anerkender, at der er så mange måder at sørge på, som der er mennesker, der har mistet.
Men jeg vil insistere på, at sorg hverken er et problem, der skal fikses af tech eller nye forretningspotentialer eller et fænomen, som skal udryddes. Det er en del af livet, og alle omkring pårørende skal gøre vores ypperste for at stå klar med varme hjerter og hænder og en villighed til at slå ring om den efterladte på det tidspunkt i livet, hvor de måske er allermest i knæ. Vi har generelt brug for mere menneskelighed – ikke mere samvær med maskiner. Særligt – men ikke kun – i livets sårbare perioder.
Foto: Fra science fiction tv-serien Black Mirror, afsnittet Be Right Back fra 2013, hvor en kvinde genopliver sin kæreste, først som en chatbot, så som en chatbot med billede på og til sidst kom han tilbage som en silikone robot. I 2013 var dette virkelig science fiction. I dag har vi allerede taget de to første skridt med services der kan ‘genoplive’ folk som digital avatarer. Vi mangler at se, at de kommer tilbage som fysiske robotter.
