Bekymringen for kommercielle budskaber i svarene fra ChatGPT risikerer at aflede opmærksomheden på et langt større problem: Forretningsmodellen bliver afhængig af at stjæle vores tid.

I februar begyndte OpenAI at teste annoncer på ChatGPT i USA. Det gik godt. De genererede 100 millioner dollar på under to måneder og forventer at tjene 100 mia. dollar på annoncer inden 2030. Godt for dem, men mindre godt for brugerne.

Med den store grad af fortrolighed, mange har med chatbotten, har mulighederne for annoncemålretning med rette skabt bekymring fra flere sider. En af dem er, at annoncerne vil påvirke de svar, vi får fra den alvidende chatbot. Det er i sagens natur dybt problematisk, hvis svarene fra en chatbot, folk har generelt stor tillid til afspejler annoncørinteresser i stedet for virkeligheden.

Når svar begynder at ligne salg

Et banalt eksempel kan være, at jeg spørger ChatGPT, hvordan jeg slipper af med min hovedpine, og den ikke blot svarer, at jeg skal drikke vand og spise smertestillende, men anbefaler netop den type piller, en annoncør har betalt for at få vist. Det scenario er slemt nok i sig selv, men alvoren udvikler sig efter emnets karakter. For eksempel hvis jeg fortæller, at økonomien derhjemme er presset og efterspørger gode råd, og chatbotten ud over budgetplanlægning og gældsrådgivning får mig overbevist om, at den bedste løsning her og nu er et kviklån fra en bestemt finansiel udbyder.

Det vi bør frygte allermest er, at incitamentet bag denne ekstremt succesfulde forretningsmodel nu kommer til at præge ChatGPT

Den slags scenarier er ubehagelige, ikke mindst set i lyset af, hvor ekstremt effektiv ChatGPT er til at argumentere og påvirke vores holdninger. Og at det ofte sker hos brugere, som har delt langt flere personlige oplysninger med chatbotten end med selv deres nærmeste menneskerelationer. I de test, der kører, er annoncerne dog klart adskilt fra indholdet, og umiddelbart er der ikke meget, der tyder på, at OpenAI vil placere kommercielle budskaber direkte i svarene.

Fra købmandslogik til fastholdelse

Der er imidlertid et andet problem, der bør påkalde sig langt større opmærksomhed. Det handler om de incitamenter, det giver OpenAI og ChatGPT at blive en annoncebaseret platform. OpenAI er massivt afhængige af investorkapital og har et stigende behov for at tjene flere penge. Når deres økonomiske overlevelse bliver afhængig af annoncesalg og dermed af brugernes engagement – når de kommer til at tjene mere, jo længere brugerne bliver på platformen og kan eksponeres for annoncer – vil de ifølge almindelig købmandslogik begynde at optimere deres system til fastholdelse af brugerne.

Fra sociale medier til chatbots

Vi så præcis det samme ske med sociale medier, da opmærksomhedsøkonomien for alvor fik vind i sejlene. Den afsindigt høje skærmtid, det er lykkedes platforme som Facebook, Instagram og TikTok at skabe hos brugerne er ikke kommet ved et tilfælde. Eller fordi brugerne som noget naturligt bare elsker at kigge på telefoner. Den er kommet, fordi Meta, Google, TikTok og Snapchat ville, at vi skulle bruge vores tid på platformene. Fordi det er en dybt integreret del af deres forretningsmodel at tage vores tid. Opmærksomhedsøkonomiens succes hviler i meget høj grad på det, man kan kalde klassisk kunstig intelligens. Det vil sige ikke på chatbots, men på de uhyre effektive algoritmer, de har udviklet til at sortere indholdet ud fra vores præferencer, så vi bliver hængende og hængende og hængende. I mange år skete det uden, at nogen bed særligt mærke i, at vi over en årrække var begyndt at bruge adskillige af vores vågne timer på at kigge på en håndholdt skærm. I dag ved vi, at det har fået meget alvorlige konsekvenser for koncentration, ensomhed og mental mistrivsel.

Opmærksomhedsøkonomiens anden bølge

Det vi bør frygte allermest er, at incitamentet bag denne ekstremt succesfulde forretningsmodel nu kommer til at præge ChatGPT. En teknologisk platform med evner til fastholdelse og manipulation, der er langt stærkere, end vi kender det fra sociale medier. Mens der kan være grund nok til at frygte bias i svar og generel manipulation mod køb af bestemte produkter, er det altså det øgede incitament til fastholdelse, der for alvor bør få vores advarselslamper til at blinke. Vi står overfor det, jeg flere steder har kaldt for opmærksomhedsøkonomiens anden bølge, og vi kan forvente, at den med forskellige metoder vil tage langt større bidder af vores frihed, end de ellers enorme mængder af tid og opmærksomhed, klassisk opmærksomhedsøkonomi allerede har stjålet fra os.

Børnene bliver også ramt

Sørine Vesth Rasmussen fra Børns Vilkår advarede i en kronik i Information om, at menneskelignende chatbots udnytter børns behov for tryghed, spejling og relation. Den annoncemodel, der i øjeblikket testes i USA, rammer ikke børn. Men hvis ChatGPT følger samme spor, som sociale medier gjorde, da de lærte at tjene penge på fastholdelse af bruger, rammer det børnene alligevel. Måske bliver de først kommercielle ofre, når de bliver myndige, men de kommer til at betale med deres tid og deres fortrolighed med det samme.

Denne artikel har tidligere været bragt i Dagbladet Information

Foto: OpenAI

Dataethics.eu anbefaler at bruge open source-baserede og helst europæiske chatbots, fx chat.mistral.ai – læs mere her.