Ti tips før du lader maskinen bestemme

Blog. Infrastrukturer som vi ofte tager for givet, som for eksempel internettet og elektricitet, har et væld af underliggende automatiserede processer for overhovedet at kunne fungere. Automated Decision Making (ADM) bruges til for eksempel til at allokere patienter til hospitaler, spotte børn i farezonen for mistrivsel og af politiet til at vide, hvor de skal sætte ind- vel og mærke, før kriminaliteten er begået. I en undersøgelse på tværs af ADM processer i EU lande kortlægger AlgorithmWatch ti anbefalinger til, hvordan regeringer på tværs af EU bør arbejde med og forstå dette komplekse område.

Flere og flere processer i vores hverdag er understøttet af såkaldt Automated Decision Making (automatisk beslutningstagning). Denne udvikling er på mange punkter med til at drive vores samfund frem, men har også sine skyggesider.

De automatiserede beslutningsprocesser kan misbruges. I en kendt sag vedrørende flysædebooking blev det bevist at American Airlines, som havde udviklet et system, der automatisk bookede sæder i stedet for en tidligere tung og besværlig manuel proces, fremviste deres egne fly først. Brugere af systemet fik altså ikke et retvisende billede af ledige flysæder, men et, der altid viste American Airlines først. På samme måde kan ADM systemer bruges og misbruges på en måde, som ikke altid kommer borgeren, eller brugeren, til gode. Flysæde-eksemplet virker måske simpelt, men forestil dig så, at det bruges til at finde ud af, hvilke patienter der skal tilses først, eller hvilke børn der skal modtage ekstra støtte eller opmærksomhed fra myndighederne. Så bliver debatten og forståelsen af ADM yderligere kompliceret.

Men bør ADM begrænses eller stoppes? Hvornår er der brug for reel regulering og lovgivning? AlgorithmWatch og Bertelsmann Stiftung, er gået sammen om en rapport der tager temperaturen på Automated Decision Making (ADM) på tværs af EU.

Rapporten konkluderer, at selv om svaret om ADM bør begrænses eller tillades, kommer det an på situationen, og det er tvingende nødvendigt at sætte diskussionen om ADM på dagsordenen, da det har store konsekvenser for hverdagen som borger i EU.

Derfor fremsætter rapporten til anbefalinger til videre arbejde med ADM.

  • Fokusér på de vigtigste politiske elementer. 
ADM bruges i en lang række processer i dag, f.eks. til at spotte problemer med kvaliteten af madvareproduktion. Det bør dog være de processer, der mere direkte påvirker hverdagen, som for eksempel ved demokratiske valg, kriminalitet eller hospitals-allokering at ADM bør underlægges analyse og debat.
  • Fokusér på nuværende udviklinger. 
Diskussionen drejer sig hurtigt om kunstig intelligens, super intelligens, men rapporten understreger at disse ofte er præget af spekulationer. Politikere bør i stedet fokusere på de systemer der allerede i dag er i brug.
  • Se ADM som et samlet system
. Det er for let at fokusere på ADM som en enkeltstående teknologi. Rapporten understreger, at man bør se på, hvordan det udvikles og anvendes, med hvilke data og altid med øje for fordele og ulemper. Samtidig må vi være forhindre, at ADM indføres udelukkende som en løsning for at spare penge.
  • Husk borgeren
. I Finland har man satset på et stort online kursus, der skal oplyse om kunstig intelligens, machine learning og bias. Dette gøres for at informere borgeren og sætte alle i stand til at stille kritiske spørgsmål om det, der er i så høj grad påvirker hverdagen.
  • Husk den offentlige administration. 
Ikke kun borgerne, men også vores administrative systemer skal være helt opdateret på udviklingen på området. Rapporten peger på at universiteter bør være en del af dette, ikke kun for nationale instanser men også på EU niveau.
  • Støt civile organisationer. 
Rapporten påpeger, at flere civile organisationer, skal støttes til at kunne forske og deltage i diskussioner om ADM. Disse organisationer vil kunne undersøge konkrete konsekvenser af ADM på lokalt niveau og komme med fremadrettede strategier. Derfor bør der være øremærkede bevillinger til denne type organisationer.
  • Styrk tilsyn
. På nuværende tidspunkt er tilsyn af ADM opdelt efter sektor. Det vil sige, at det er forskellige tilsynsførende der ser på for eksempel selvkørende biler og algoritmisk understøttet aktiehandel. Selvom rapporten peger på at denne opdeling giver hver tilsynsførende organisation god forståelse for netop deres felt, så sår rapporten samtidig tvivl om hvorvidt de hver især har muligt for at inkorporere og arbejde med nyeste viden på området.
  • Luk afstanden mellem EU lande
. Selvom en del EU lande allerede har strategier for arbejde med både digitalisering, big data og ADM så halter andre lande bagud. Disse lande bør hjælpes på vej og kan for eksempel finde støtte og inspiration fra EU’s AI ekspertgruppe.
  • Tænk udover GDPR. 
Nogle ADM processer kan sættes i værk uden at have adgang til personlig data, og dækkes derfor ikke have GDPR lovgivning. For eksempel ved systemer der forudser sandsynligheden for kriminalitet i forskellige nabolag er der ikke nødvendigvis tale om personlig data, ej heller om direkte diskrimination. Derfor går systemet uden om visse former for tilsyn og databeskyttelseslovgivning. Systemet kan dog stadig have utilsigtede konsekvenser og bør derfor stadig underlægges kontrol og tilsyn, påpeger rapporten.
  • Involvér så mange stakeholders som muligt
. Rapportens forfattere understreger at det er tvingende nødvendigt at få så mange synspunkter på ADM som muligt og at landene rent faktisk skal efterleve det.

Comments are closed.

Password Reset
Please enter your e-mail address. You will receive a new password via e-mail.