ANALYSE: I januar måned præsenterede den europæiske tilsynsførende for databeskyttelse (EDPS) sin nye “Ethics Advisory Group”. En ekspertgruppe, der skal hjælpe ham med at “genoverveje den etiske dimension af forholdet mellem menneskerettigheder, teknologi, markeder og forretningsmodeller og deres konsekvenser for retten til privatlivets fred og databeskyttelse i det digitale miljø.” Han er ikke den første europæiske beslutningstager, politiker eller tankeleder, der taler om etik i disse dage. I løbet af det sidste år er digital etik, og specielt dataetik, blevet et populært kort at trække i debatten om de digitale mediers indflydelse på samfund, økonomi og kultur. Baseret på en erkendelse af, at lovgivningen ikke har fulgt trit med den digitale udvikling, famler udviklere, akademikere, politikere og virksomheder i dag efter en ny etisk ramme for den digitale tidsalder med referencer til kulturelle værdier og moralske principper.
Etik i teknologi
Nye teknologier har i historien altid på et tidspunkt under deres implementering i samfundet tvunget os til at gennemgå vores love på ny samt vores etiske værdisystemer. Igen og igen står vi over for det faktum, at teknologi ikke er neutral, men indeholder i deres design etiske implikationer. Fotografiet blev i slutningen af det 19. århundrede diskuteret som både kunst og virkelighed. Denne diskussion entrerede restsalene, og de juridiske rettigheder over et fotografi blev formet og vedtaget. Det var dog ikke kun juridiske rettigheder, der blev defineret, men en afgrænsning af de etiske implikationer af en teknologi (kameraet, fotografiet), som kan gengive en person med en detaljering og nøjagtighed, som man aldrig havde set mage til før. Det handlede om at forstå de særligt menneskelige konsekvenser af kapaciteten i denne nye teknologi. At definere noget ”rigtigt” og ”forkert” og moralsk styre teknologiens etiske konsekvenser for individet.
Det, vi oplever i disse år, er en teknologisk udvikling i et tempo, som aldrig set før. Ikke alene har the World Wide Web og de digitale teknologiers kapacitet udviklet sig i løbet af blot et par årtier, men den digitale evolution har bevæget sig ind i næsten alle områder af livet og samfundet på endnu kortere tid. Det tog kun et par år, efter Tim Berners Lee i 1989 opfandt et virtuelt netværk af informationer forbundet via hyperlinks, før de første online virksomheder opstod og helt almindelige mennesker begyndte at bruge internettjenester i midten af 1990’erne.
Det siger sig selv, at lovgivningen ikke har fulgt trit med de utallige etiske konsekvenser af den hurtige teknologiske udvikling. Vi kan i dag stille spørgsmålstegn ved etikken i automatiske systemer designet til at indsamle massevis af data om os, algoritmer designet til at forudsige vores handlinger og profilere os, teknologier brugt til at overvåge os og manipulere os og ikke mindst de forretningsmodeller, der profiterer på de mest private detaljer om enkeltpersoner. Den eneste måde, vi kan gøre dette på er at tjekke det etiske grundlag for vores samfund.
Privacy under angreb
Retten til privatlivets fred blev oprindeligt defineret i mellemstatslige retslige instrumenter, såsom den europæiske menneskerettighedskonvention, som en beskyttelse mod statslig overvågning. Men med udviklingen af et online -marked, -sociale sfære og -økonomi, har overvågningen udviklet sig. I dag er overvågning blev helt almindelig, indlejret i vores online hverdagsinteraktioner og udført af både stater og virksomheder. Den teknologiske udvikling har skabt juridiske gråzoner åbne for fortolkning og kraftigt udnyttet af ikke kun statslige aktører, men også af en datadreven industri.
Love indeholder fortolkninger og undtagelser, der tillader dataindsamling ud over normen, f.eks til formål såsom retshåndhævelse, offentlig sikkerhed og tryghed, skriver Robin Wilton fra Internet Society i en artikel fra 2014 om etisk håndtering af data, og han fortsætter: “A major challenge is to ensure that such carve-outs remain consistent with what is just and fair, particularly since data use practices tend to evolve much faster than the related laws and regulatory measures” .
Men denne kontrol og balancering af ”fairness” i datahåndtering har tydeligvis ikke fundet sted (som Snowden afsløringerne har illustreret). Tilsvarende har virksomhedsinnovation i den digitale tidsalder udviklet sig i juridiske gråzoner i privacy og databeskyttelseslovgivninger. At være innovativ i det digitale marked vil sige at være innovativ med brugerdata. Innovation i en dataøkonomi er datainspireret prisfastsættelse, prognoser, markedsdesign, markedsføring, bruger design, forretningsbeslutninger osv. Lyt til denne paneldebat mellem digitale medie venture kapitalister på Stanford fra 2013. De iværksættere, som disse investorer belønner med kapital, er dem som innoverer i juridiske gråzoner og som skubber grænserne i lovgivning om databeskyttelse og privatliv. Privatlivets fred er i digital forretningsinnovation en hindring, noget man tager sig af som en lappeløsning på et senere tidspunkt.
Vores grundlæggende rettigheder om privatlivets fred har været under konstant angreb fra alle sider i løbet af de sidste par årtier. Indtil for ganske nyligt har det været et snigangreb, der er gået hen over hovedet på den gennemsnitlige borger, som selv har deltaget aktivt i deres egen overvågning, når de har brugt digitale tjenester og virksomheder. Ubemærket fordi de er bygget på en grundlæggende uiggennemskuelighed indbygget i selve designet af de online tjenester og produkter, vi gør brug af, og fordi privatliv og etiske konsekvenser af virksomheder og staters praksis mangler, som Robin Wilson også argumenterer, et klar etisk problem at løse.
Fra love til dataetik og tilbage igen
Men tiderne vender. På grund af en række geopolitiske kritiske begivenheder såsom Snowdens afsløringer af global overvågning, utallige datalækager og hacks, for ikke at nævne forbrugernes voksende følelse af manglende kontrol over deres digitale identiteter, er “online privacy” nu blevet forvandlet til et af de mest intenst debatterede emner med indviklede magtrelationer mellem interessegrupper og globale nøglespillere. Vi ser det først og fremmest i en række centrale domme såsom Retten til at blive glemt dommen herskende og CJEUs ugyldiggørelser af henholdsvis Datalogningsdirektivet i 2014 og Safe Harbour aftalen i 2015. Desuden repræsenterede den beslutningsprocess vedrørende en reform af den europæiske databeskyttelseslovgivning, som har fundet sted siden 2012, men her i 2016 nu endeligt har nået sin sidste fase, en vigtig slagmark for genforhandlingen af roller og magtforhold i det globale informationsteknologisamfund og forskellige interessenters økonomiske interesser, institutionerne i den Europæiske Union, civilsamfundsorganisationer, industrien og tredjelandes nationale interesser.
Alle disse bevægelser blotlægger vores gældende lovgivningers begrænsninger i forhold til at beskytte vores ret til privatliv i en digital tidsalder. Vi oplever manglen på retsmidler, håndhævelse, sammenstød mellem nationale love, juridiske tilgange og jurisdiktioner, og generelt alt for mange juridiske gråzoner åbne for individuelle interessebaserede juridiske fortolkninger.
En ny digital Etik
Det er netop på dette tidspunkt, at vi vender os mod diskussionen om etik og især dataetik. Disse dage famler Europa efter ordene, der skal definere en etik for den digitale tidsalder. Vi har set nok eksempler på, at i den teknologiske tidsalder er ikke alt, som er lovligt, etisk.
Dette er ikke en ny ting. Vi tager etikken op i overgangsfaser, hvor de formelle aftaler i samfundet ikke følger udviklingen i samfundet. Vi lægger vægt på “dataetik”, fordi det er vores privatlivs fred, der er under beskydning, og det er især de etiske konsekvenser af virksomhedernes datainnovation, der bliver eksponeret i dag.
Når love ikke følger udviklingen, reviderer vi vores kulturelle værdisystemer. Etik er ikke neutral, det er love og teknologi heller ikke. Digital etik er en moralsk forvaltning af de menneskelige konsekvenser af den digitale udvikling. Med etik bestemmer vi “rigtige” og “forkerte” handlinger og praksisser med henblik på fælles kulturelle værdisystemer og sociale normer og aftaler.
Det bliver særligt tydeligt i disse dage, hvor de europæiske og amerikanske love om databeskyttelse bliver sat over for hinanden, at Europa fremhæver en særlig europæisk etik baseret på “personlig værdighed”. Europæiske ledere begynder at “systematisere, forsvare, og anbefale rigtig og forker adfærd”. De, som Julia Powles og Carissa Veliz nylig udtrykte det i the Guardian, begynder en kamp for at ændre især de amerikanske teknologivirksomheders “Wrecking Ball” etik ved at udvikle branchens “moralske kompas”.
Forretningsetik bliver til dataetik
Verdens førende rådgivnings- og analysevirksomhed inden for informationsteknologi Gartner Inc. har forudsagt, at 50 procent af de forretningsetiske overtrædelser vil i 2018 ske gennem forkert brug af big data analyse. I kombination med det stigende fokus på digital etik vil dette tilføje dataetik på listen over kriterier, der bedømmer en virksomhed som generelt etisk eller ej, tillidværdig eller ej og konkurrencedygtig på det et CSR niveau. De “etiske” virksomheder i den digitale alder er dem, der gør noget ektra, gør noget udover blot at overholde databeskyttelseslogivningen. Det er dem, som har den højeste grad af gennemsigtighed i sine data håndteringprocesser, indsamler minimum mængder data, udvikler privacy bevidste virksomhedskulturer og organisationsstrukturer, privacy by design produkter mv.
Hvor ligger svaret?
Disse dage ser vi også en række interessenter, der planter deres flag i den dataetiske debat. Alle vil hævde, at de har skabt de perfekte løsninger på de problemer, som den teknologiske udvikling har skabt for den enkeltes privatliv. Og vi har ikke set enden på det endnu. Nye databeskyttelseslove vil fortsat blive udviklet. Teknologer vil præsentere en privacy by design løsning efter den anden. Vi vil se flere og flere nye og gamle virksomheder præsentere deres produkter og tjenester som løsninger på de etiske dilemmaer, der er beskrevet i denne artikel (Pernille Tranberg og jeg beskriver disse i vores bog “Den Dataetiske Virksomhed”, som udkommer i slutningen af i år).
Mange af disse vil svigte os som mennesker (og mange har allerede svigtet os). Nogle af disse vil støtte os og åbne muligheder for os.
Men ikke én vil udvikle den perfekte løsning til de etiske dilemmaer, som vi i dag står overfor. Og vi skal heller ikke lede efter perfekte løsninger. Vi er nødt til at se dem som det, de er, og vi er nødt til at anerkende den kontekst, de udvikler sig i. De er eksperimenter, og vi er i en eksperimenternes tidsalder, hvor love, teknologi og ikke mindst vores grænser som individer bliver testet og forhandlet på daglig basis. Det er summen af alle de bestræbelser i “etikken”, “privatlivet” og “den menneskelige værdigheds” navn, der vil bane vejen ind i et etisk teknologisk fremtid.
Comments are closed.