I april afslørede et schweizisk forskerhold, at de gennem flere måneder i al hemmelighed havde ladet chatbots diskutere med brugerne det populære Reddit-debatforum r/changemyview. Formålet var at undersøge kunstig intelligens’ evne til at ændre folks holdninger.
Hændelsen, som rummer lag på lag af etiske problematikker, giver os et kig ind i en helt ny politisk og kommerciel virkelighed, hvor AI bliver brugt som våben på begge sider i en uophørlig informationskrig.
Den måske mest enkle problematik i Reddit-sagen handler om selve forskningsetikken. I kølvandet på, at forskerne afslørede deres forehavende, opstod en hidsig debat både på Reddit og i andre medier om, at de overskred de etiske grænser ved at bruge chatbots anonymt. Forskerne, som stadig optræder anonymt under Reddit-brugernavnet u/LLMResearchTeam, hævder ganske vist at have fået godkendt forskningen af Zürich Universitets etiske udvalg, men i det pågældende Reddit-forum – som i øvrigt er et sjældent smukt eksempel på et konstruktivt online-debatforum – er det forbudt at bruge AI-genereret indhold.
Snestormens første fnug
Det sympatiske Reddit-forum fortjener respekt for at have opbygget en sund online -debatkultur, og deres harme er forståelig. Men den konkrete twist mellem forskergruppen og Reddit kan meget vel vise sig kun et af de første små snefnug i en snestorm af AI-drevet manipulation, som er ved at bygge op til at vælte vores vante forestillinger og idealer om frie personlige præferencer og fri holdningsdannelse omkuld.
I sig selv er det bemærkelsesværdigt, at kunstig intelligens har nået et niveau, hvor det kan deltage i offentlige debatter i månedsvis, uden at nogen opdager det. Indtil for få år siden ville det med rette have været en verdenssensation, og sådan burde det også blive set i dag.
Kommercielle tigre står på spring
At livagtige chatbots, som dårligt kan skelnes fra mennesker, på nogle få år er blevet accepteret som almindelig del af vores online-hverdag er sandsynligvis begyndelsen på en total omvæltning af, hvad det vil sige at færdes på nettet, ikke mindst som forbruger. Når vi ser på, hvor kynisk internettet med sociale medier i front hidtil er blevet udnyttet af kommercielle kræfter, er der grund til at have paraderne klar. Mark Zuckerberg har allerede store ambitioner for, hvordan han vil skabe vores fremtids digitale venner, og AI-kærester er ikke længere et fænomen forbeholdt nogle få eksperimenterende afvigere. Det er på vej til at blive mainstream, men i modsætning til menneskekærester og menneskevenner er ingen af delene er gratis.
Politiske manipulatorer har fået nye værktøjer
Det politisk set mest skræmmende ved reddit-sagen er, at den schweiziske forskergruppes AI-genererede debatprofiler rent faktisk havde succes med at ændre holdninger hos ofte garvede debattører på Reddit.
I det som sagt meget fine forum, markerer debattører det med et delta (∆), hvis de ændrer synspunkt eller bliver overbevist af en kommentar, og ifølge forskerne lykkedes det i 100 tilfælde. Der optræder forskellige tal på, hvor mange AI-konti, der blev oprettet og hvor mange kommentarerer, der blev postet for at overbevise de 100 debattører, men det drejer sig formentlig om over 30 konti og i omegnen af 1700 kommentarer. Måske ikke statistisk imponerende, men sammenlignet med menneskelige debattører er tallet højt og skal i øvrigt ses i lyset af, at generativ AI forbedres med nærmest ufattelig hastighed. Dermed er der næppe nogen øvre grænse for, hvor mange vælgere der f.eks. kan manipuleres med individuelt tilpassede AI-debatstemmer ad gangen Én million vælgere? 10 millioner vælgere?
Det sker naturligvis kun, hvis nogen med politiske ambitioner kunne finde på at bruge AI-drevne manipulationsmetoder, men det kræver vist ikke nærmere dokumentation at vise, at det allerede findes.
Herhjemme står Dansk Folkeparti nogenlunde alene med at lege med generativ AI som en del af deres politiske kampagner, og reglerne bliver strammet gevaldigt med EU’s AI Act. Måske vil det virke på Messerschmidt, men Trump hans entourage af tech-milliardærer plejer at være omtrent ligeglade, så formentlig er det en ringe trøst, at EU har lavet en fremsynet lovgivning på området. Man skal næppe heller forvente tilbageholdenhed fra russerne, som allerede flere gange er blevet afsløret i direkte indblanding i europæiske valghandlinger.
Fremtiden er lys og mørk
Det er let at se Reddit-sagen som endnu et eksempel på, at det, vi opfatter som fri holdnings- og præferencedannelse er ved at erodere under algoritmernes tidevandspres. Men som med så mange andre teknologier er det en kende mere komplekst. For teknologien har naturligvis også positive aspekter, og måske kan de bruges i samme arena. Et studie har f.eks. vist, at der er potentiale i at bruge chatbots til at korrigere troen på konspirationsteorier.
Som så ofte før ser vi altså ud til at stå i en situation hvor god og dårlig brug af teknologi slås mod hinanden med forskellige menneskelige interesser på begge sider. Hvem der er de gode, og hvem der er de onde hvem har filosoffer diskuteret i årtusinder, og hvis en ting står lysende klart er det, at AI ikke kan give os svaret.
Photo: https://www.artificial-intelligence.store/collections/anonymous
