Dataetiske principper

Tænkehandletanken DataEthics.eu har udviklet et sæt dataetiske principper, som kan vejlede omkring processen med at integrere dataetik i den daglige behandling af persondata. Principperne kan bruges frit, hvis det tydeligt fremgår, at de er udviklet af DataEthics.eu, og der linkes til hjemmesiden.

INDHOLD

  • Definition af dataetik
  • Dataetiske principper Mennesket i centrum / Individuel datakontrol / Gennemskuelighed / Ansvarlighed / Ligeværdighed
  • Spørgeramme
  • FAQ om dataetiske principper

DEFINITION PÅ DATAETIK

Dataetik er ansvarlig og bæredygtig brug af data. Det er det “rigtige” at gøre i forhold til mennesker og samfund. Dataprocesser bør være designet som bæredygtige løsninger – dvs. først og fremmest til gavn for mennesker.

Dataetik handler om at opfylde de principper og værdier, som menneskerettighederne og persondatalovgivningen bygger på. Det handler om ærlig og ægte gennemsigtighed i datahåndteringen. Om aktivt at udvikle privacy by design og  privacy-fremmende produkter og strukturer. Om at behandle andres personlige oplysninger som man selv ønsker ens egne – eller ens børns – skal behandles.

Dataetik er skridtet videre end  efterlevelse af persondatalovgivningen: Alle dataprocesser respekterer derfor som minimum de krav, der er opstillet i EU’s Persondataforordning (GDPR), EU’s Charter om grundlæggende rettigheder samt den Europæiske Menneskerettighedskonvention.

 

DATAETISKE PRINCIPPER

MENNESKET I CENTRUM

Menneskets interesser har altid forrang for institutionelle og kommercielle interesser. Mennesket er ikke en dataproces eller et stykke software, men unikt med menneskelig empati, vilje, uforudsigelighed, intuition og kreativitet, og mennesket har en højere status end maskinen. Personen er i centrum og har den primære gavn af databehandlingen.

INDIVIDUEL DATAKONTROL

Mennesket har individuel datakontrol og handlekraft. Personens selvbestemmelse prioriteres i alle dataprocesser og personen tager aktiv part i de data, der registreres om dem. Det er det enkelte menneske, der har den primære kontrol over, hvad deres data bruges til og i hvilke sammenhænge, samt over hvordan deres data aktiveres.

GENNEMSKUELIGHED

Databehandling og automatiserede beslutninger skal give mening for det enkelte menneske. De skal være transparente og skal kunne forklares. Formål med og interesser i databehandlingen skal være gennemskuelige for mennesket i forhold til at forstå risici, samt sociale, etiske og samfundsmæssige konsekvenser.

ANSVARLIGHED

Ansvarlighed er en organisations bevidste, saglige og systematiske brug og beskyttelse af persondata. Ansvar og medansvar er med i alle led i en databehandling, og der gøres en aktiv indsats for at mindske risici for individet samt at inddæmme sociale og etiske konsekvenser. Bæredygtig persondatabehandling er indlejret i hele organisationen og sikrer etisk ansvarlighed på både kort, mellem og lang sigt. En organisations ansvarlighed bør også gælde for underleverandører og samarbejdspartnere.

LIGEVÆRDIGHED

Demokratisk databehandling tager udgangspunkt i, at datasystemer er med til at e bevare, reproducere og skabe magtfordelingen i samfundet. I en databehandling skal der tages særlige hensyn til sårbare mennesker, som eksempelvis på grund af deres økonomiske, sociale og sundhedsmæssige forhold er særligt udsatte for profilering, der kan have negativ effekt på deres selvbestemmelse og kontrol, eller udsætte dem for diskrimination eller stigmatisering. Hensyn til sårbare mennesker er også at arbejde aktivt med at mindske bias i udviklingen af selvlærende algoritmer.

 

SPØRGERAMME

Tjek jeres organisations dataetik. Med nedenstående spørgsmål kan I komme rundt i de dataetiske dilemmaer. Brug evt. jeres svar som grundlag for at udarbejde dataetiske retgningslinjer.

Mennesket i centrum
  • Er jeres databehandling tilrettelagt med udgangspunkt i, at I låner data af brugerne?
  • Sikrer I, at brugerens rettigheder bliver prioriteret frem for kommercielle eller institutionelle interesser?
  • Sikrer I, at det først og fremmest er brugerne, der får værdi ud af deres egne data – ikke kun organisationen?
  • Benytter I privacy by design principper, og kan I beskrive dem klart og gennemskueligt?
Individuel datakontrol

On-device processing

  • Sikrer I, at brugernes data så vidt muligt behandles direkte på brugernes egne devices?
  • Når der er behov for behandling af data på andet end brugernes egne devices, eksempelvis egen server eller cloud-løsning, indsamles data så de ikke kan knyttes til en identificerbar person? 

Profilering

  • Bruger I profilering? Og giver I brugeren mulighed for at influere og bestemme de værdier, regler og input, der ligger til grund for profileringen?

Forudsigelser

  • Bruger I data til at forudsige adfærd på individniveau eller kun til mønstre?
Gennemskuelighed

Datalagring

  • I hvilket land opbevares data?
  • Hvor har udbyderen af opbevaringsløsninger hovedsæde?
  • Går transmissionen af data gennem lande uden for EU?

Kunstig intelligens

  • Bruger I machine learning/kunstig intelligens? Hvis ja, kan I forklare jeres algoritme – kriterierne og parametrene?

Adfærdsdesign

  • Bruger I personlig data til at påvirke adfærd?
  • Sikrer I, at det er gennemskueligt for brugerne, at deres adfærd bliver påvirket?
  • Sikrer I, at designet ikke skaber afhængighed og dermed fjerner personens selvbestemmelse og handlekraft?

Open Source

  • Opererer I med åbne økosystemer (open source software), så andre kan bruge det og evt. arbejde videre med det?
Ansvarlighed

Anonymitet

  • Hvornår anonymiserer I persondata?
  • Anvender I end-to-end-kryptering af data?
  • Minimerer I brugen af metadata, og forklarer I hvordan?

Zero-knowledge

  • Anvender I zero-knowledge som design- og behandlingsprincip?

Salg af data

  • Sælger I data til tredjepart?
  • Sælger I data som personhenførbare data?
  • Sælger I data som mønstre i aggregeret form?
  • Hvis I sælger data, sikrer I så, at data er fuldt anonymiserede og kun beskriver mønstre, ikke individer?

Datadeling

  • Bruger I tredjepart cookies?
  • Omfatter disse SoMe (social media)-cookies og SoMe logon?
  • Benytter I Google Analytics eller ligneden tracking redskaber?
  • Er jeres brugere fuldt ud bevidste om, at jeres cookie-brug betyder, at I deler data om dem med tredjepart, og indforstået med det?

Databerigelse

  • Beriger I data med eksterne data, fx fra sociale medier eller web-scraping?
  • Sker denne berigelse på foranledning af eller i samarbejde med jeres brugere?

Organisatorisk forankring

  • Har I en person eller enhed, der er ansvarlig for etisk håndtering af data?
  • Hvordan er arbejdet med dataetik organisatorisk forankret?
  • Hvordan sikrer I, at jeres dataetiske retningslinjer overholdes?

Ekstern kontrol

  • Kan databehandlingen blive auditeret af uafhængig tredjepart?
  • Stiller I krav til og kontrollerer I jeres underleverandører og samarbejdspartneres dataetik?
Ligeværdighed

Offentlige platforme

  • Har I dialog med jeres brugere på en offentlig platform?
  • Har I retningslinjer for brugen af platformen?
  • Modererer I platformen med henblik på at fjerne følsomme persondata?
  • Hvis I udbyder tjenester til børn e, sikrer I så forældresamtykke?

Genbrug

  • Bruges data til at udvikle eller træne en algoritme?
  • Sikrer I, at brugen af data ikke fører til diskrimination?
  • Sikrer I, at brugen af data ikke fører til udstilling af sårbarheder hos individer?

Kunstig intelligens

  • Sikrer I, at brugen af kunstig intelligens/machine learning er til gavn for individet og ikke medfører fysisk, psykisk, social eller økonomisk skade for individet?

Læs her vores FAQ, der uddyber en del af ovenstående

One Response to Dataetiske principper

  1. Pingback: Data Ethics Standards - Dataethical Thinkdotank

Password Reset
Please enter your e-mail address. You will receive a new password via e-mail.