Hvorfor er dataetik på dagsordenen?

Forsikring og pension 9. januar 2020
Oplæg af Birgitte Kofod Olsen, medstifter af Data Ethics og partner i Carve Consulting
Hvorfor er dataetik på dagsordenen?

Den politiske dagsorden
Dataetik har i nogle år fyldt meget på den politiske dagsorden i EU, hvor den indgår i udviklingen af et digitalt Europa.
EU ønsker at adskille sig fra USA og Kina ved at vise, hvordan et demokrati kan skabe økonomisk vækst gennem brug af data og teknologi, der respekter individets grundlæggende friheder og rettigheder.
Margrethe Vestagers indsatser mod tech giganterne viser med stor tydelighed det politiske ønske om at værne om netop den europæiske demokratimodel i en digital tid.
Vedtagelsen af persondataforordningen i 2016 er et tegn på, at EU har modet til at operationalisere grundrettighederne, så de får gennemslagskraft i praksis og bidrager til at skabe en databeskyttelseskultur.
Udviklingen og den hastige udbredelse af AI og ML til analyse, beslutningsunderstøttelse, efterforskning og forudsigelser om enkeltpersoners adfærd og risici har understreget behovet for at tænke etikken med.
Allerede i 2018 blev der nedsat en EU high level expert group med det opdrag at udarbejde dataetiske retningslinjer for brugen af AI.
Ursula von der Leyen understregede behovet for dataetik, da hun ved sin tiltrædelse sagde:
I want Europe to strive for more by grasping the opportunities from the digital age within safe and ethical boundaries.
Og samtidig lovede ny retlig regulering, der sikrer et fælles europæisk perspektiv på de menneskelige og etiske konsekvenser af AI. Den ventes nu i maj måned.
Vender vi blikket mod Danmark har dataetik også stået højt på den politiske dagsorden:
VLAK regeringen nedsatte en ekspertgruppe, som sidste år kom med en rapport Data i menneskets tjeneste, med principper og anbefalinger. Vi har fået dataetisk råd og mange bud på dataetiske principper, bl.a. fra DataEthics, Dansk IT.
Her i december et lovforslag fra Erhvervsministeriet, der indfører en pligt for virksomheder, der er omfattet af årsregnskabsloven, til at rapportere om deres politik og indsats for dataetik – § 99 d
Samlet har det bragt et øget fokus med sig på en ansvarlig udvikling i brugen af persondata, og efterspørgsel af en holdning til, hvordan man opfører sig ordentligt som aktør i samfundet til, hvordan vi bør bruge persondata – og hvad vi ikke bør bruge dem til.

Teknologien
Teknologiudviklingen i disse år understreger behovet for dataetiske overvejelser.
Mængden af data har været kraftigt stigende i løbet af de sidste 10 år – vi indsamler gennem Iot, kameraer, devices – og AI/ML gør det muligt at analysere på data og erstatte manuelle sagsbehandlingsprocesser med automatiserede på måder og i et omfang, som aldrig er set før. Brugen af blockchain, kvantumcomputere, personlige robotassistenter bliver snart rutine.
Gamechangeren er algoritmer som er nøglen til stadig større indsigt i vores vaner, præferencer, livsstil, de miljøer vi færdes i og de måder, vi kommunikerer på. Det er også algoritmisk metode, der benyttes til at:
Forudsige, hvordan vores liv og vores sundhed vil udvikle sig.
Efterforske forsikringssvindel
Opbygge den chatbot, der hjælper os med at forstå vores forsikringer og pensionsopsparing.

Branchens udfordringer
AI/ML baserede systemer vil få stadig større betydning i forsikring og pensionsbranchen, fordi vi netop her har lang tradition for at prissætte præmier og bidrag på baggrund af risikovurderinger.
Men teknologien vil også få afgørende betydning for forebyggelse af skader på ejendom og krop/liv – netop fordi den kan bruges til at vise mønstre i vores adfærd, fejl i installationer og andre uhensigtsmæssigheder i vores hverdag. Det vil give os mulighed for at gribe ind, før skaden sker.
LB Forsikring var i tirsdags på banen i Børsen med et helt nyt perspektiv. De vil gå skridtet videre end forebyggelse og helt forhindre at skader opstår.
Forhindring af skader vil kræve ikke bare massiv indsamling og sammenstilling af alle former for data, driftdata, persondata, metadata, men kræver måske også en helt ny type forretningsmodel: de umiddelbare konkurrenter er måske ikke længere de andre selskaber, men i stedet tech giganterne – Google, Facebook, Amazon – som vi allerede har inviteret langt i vores hjem og privasfære – de kender os jo langt bedre end vi selv gør og kan derfor måske forhindre skader bedre en forsikringsselskaberne?

Meget på spil
Der er derfor rigtig meget på spil i disse år, der samlet set udfordrer vores ret til privatliv som forsikrings- og pensionskunder og vores ret til kontrol med vores egne data. Og den øgede indsigt i vores liv, monitorering af vores dagligdag og forudsigelser om vores adfærd udfordrer også grundprincipperne i et demokratisk samfund.
Men hvorfor er det relevant for forskrings- og pensionsselskaberne?
Fordi selskaberne er væsentlige aktører i opretholdelsen og videreudviklingen af velfærdsstaten: når de offentlige services bliver reduceret eller forsvinder, er selskaberne de nærmeste til at tage over og gennem deres produkter og services bidrage til tryghed og sikkerhedsnet for borgere i udsatte situationer.
Selskaberne har derfor et stort samfundsansvar at løfte i forhold til at udforske og udnytte data og persondata på en ansvarlig måde, der gavner både den enkelte kundes interesse og samfundets interesse i tryghed og forebyggelse af skader eller udsathed.
Dertil kommer selvfølgelig den økonomiske interesse i at drive en sund forretning (uanset om målet er aktionærafkast eller bonus til kunder og medlemmer).

Dataetikken som nødvendigt pejlemærke
I den her mosaik af udfordringer kan dataetikken anvendes som pejlemærke. Dataetikken stiller krav om menneskets forrang, transparens, rimelighed og sikkerhed – og får os til at stille spørgsmål som:
Hvordan prioriterer vi kundens bedste interesse? (menneskets forrang)
Hvordan giver vi kunden kontrol med egne data? (egen kontrol)
Hvordan sikrer vi, at kunderne forstår vores måde at analysere og risikovurdere deres dagligdag og liv på? (gennemsigtighed)
og vores indsats for at påvirke deres adfærd?
Hvordan undgår vi diskrimination og ulighed pga algoritmer med indbygget bias? (gennemskuelighed)
Hvordan sikrer vi, at kunderne har tillid til, at vi behandler deres data med omhu og sikkerhed?
Forsikring og Pensions dataetiske principper hjælper med at tage de første skridt til at arbejde med disse spørgsmål og besvare dem i vores egen kontekst.
Principperne viser, hvordan overholdelse af lovgivningen om persondatadatabeskyttelse – i form af især GDPR – er en forudsætning for en dataetisk indsats, og åbner en ny agenda i branchen for at stræbe højere og anvende data og persondata på en ansvarlig, rimelig og transparent måde.
Opgaven med at operationalisere principperne og omsætte dem til strategier og konkrete indsatser i dagligdagen ligger nu hos branchens aktører. Det er hos jer i selskaberne, at I skal sætte jeres ambition for dataetisk forretningsdrift og dataetisk forretningsudvikling. Og så gå i gang med at vurdere jeres brug af data i produkter og services ud fra branchens dataetiske principper. Bolden er kastet godt op og er faktisk lige til at gribe med udspillet her.

Afrunding
Stort tillykke til Forsikring og Pension for at have landet det første sæt branchespecifikke dataetiske principper.
Og god arbejdslyst til alle i branchen. Det er en vigtig opgave, der ligger foran jer. Og når I er lige ved at give op, så husk at jeres dataetiske indsats gavner både jeres kunder/medlemmer, vores demokrati og jeres forretning.
TAK

Comments are closed.

Password Reset
Please enter your e-mail address. You will receive a new password via e-mail.