Skip links

Etiske udfordringer ved selvkørende biler

Blog. Hvordan forandrer selvkørende biler vores transport og byer, hvem har skylden ved en ulykke, er de creepy eller ej. Information stod bag et spændende arrangement på Forskningens Døgn, 25.4.2016. Nedenfor følger udvalgte højdepunkter.

Vi er primært på niveau 1 - nogle få på niveau 2. Slide fra Mette Møller
Vi er primært på niveau 1 – nogle få på niveau 2. Slide fra Mette Møller

Mette Møller, seniorforsker, DTU Transport: 80-90% af alle ulykker skyldes trafikantfejl. Vores hjerne er slet ikke bygget til at vurdere afstande over fart. Og så er der udfordringer som alkohol. Så der er en massiv sikkerhedsforbedring i sigte. Den store udfordring ligger i overgangen, men vi er kun lige i begyndelsen og forskningen skal svare på en række spørgsmål som Hvad laver trafikanterne når de ikke skal køre bilen, skal der differentieres mellem trafikanter? En konklusion er dog, at den menneskelige faktor ikke helt kan elimineres. Det er også mennesker der skal programmere bilerne og sikre, at fejlene elimineres.

Malene Freudendal Petersen, lektor ved Inst for Mennesker og Teknologi, Roskilde Universitet: Selvkørende biler er fantastiske, men de redder ikke alting såsom forureningen, trafik- og parkeringskaos. Selvkørende biler er ikke bare et teknologisk fiks.

Jakob Holtermann, lektor i retsfilosofi ved Københavns Universitet. Hvem bærer ansvaret for en ulykke i en selvkørende bil? Måske er begrebet skyld og ansvar ikke så anvendeligt. Måske skal man lave en NESS-test – necessary element of a sufficient set. Det at jeg trykker på kontakten er måske ikke nok til at få lys i pæren. Pæren skal virke, der skal være el osv. Denne tilgang er særlig anvendelig ved ulykker i komplekse menneskeskabte sikkerhedssystemer som lufthavne og hospitaler. SAS ulykken i Milano 2001 havde fx mange Ness-betingelser: tåge, manglende jordradar, travlhed hos flyveleder, tvetydig lyssignal, misvisende kort over lufthavnen og skiltning mv. Svært at udpege een skyldig. Hvem skal man true med straf, når det gælder selvkørende bileder? Chaufføren, medarbejderen, virksomhedsledelsen, myndigheder? Truslen kan desuden medføre, at folk skjuler farlige situationer. Så vi må tænke forebyggelse – også i konstruktionen af systemerne.

Helle Spindler, lektor ved Psykologisk Institut, Aarghus Universitet. Spørgsmålet er hvor perfekte vi kan lave de har biler. Hvad er den perfekte algoritme – og arbejder vi ud fra et individuel eller samfundsmæssigt perspektiv.

paretoMartin Mose Bentzen, adjunkt i filosofi, DTU. Kan vi bygge etiske robotter? Man kan bruge Pareto-optimering, som betyder, om at handlingen skal gøre situationen bedre for så mange som muligt.  Men hvem skal bestemme hvordan de skal opføre sig? Producenterne, politikere og brugere, som kan sætte den i ‘egoist-mode’. Martin Mose mener ikke at producenterne skal bestemme det selv. Skal robotterne opføre sig utilitaristisk, pareto-optimering eller kantiansk, spørger filosoffen?

'sød'bilGunhild Borggren, lektor ved Institut for Kunst og Kulturvidenskab , Københavns Unniversitet. Mennesker vil helst interagere med robotter, der ligner mennesker. Derfor bliver mange robotter udstyret med et ansigt. Det kender vi også fra biler. Når vi ser dem forfra ligner de ofte et ansigt. Men det kan også blive for meget. En japansk forsker har bevist, at at der er en creepiness grænse. Hvordan kan man undersøge det i forhold til biler? De nye robotbiler har ofte søde ansigter.

Debatten styres af ordstyrer Henrik Føhns fra Harddisken.

DataeEtichs spørger hvad de mener om al den dataopsamling, som følger med de selvkørende biler.

Martin Mose Bentzen siger, at vi bør adskille de to debatter – den tekniske selvkørende bil og så opsamling af data. Men Malene Freudendal Petersen påpeger, at det er supervigtigt – måske det vigtigste for at opnå tillid – og at man absolut ikke bør adskille de to ting.

Nikolaj Nøhr-Rasmussen, Sitemanager i Volvo: I princippet kan bilen kører uden at opsamle persondata. Så teknisk er det en anden diskussion – det er to parallelle spor. Selvkørende bilder skal designes sådan, at de er uafhængige af at være på nettet. Så i princippet er de uafhængige. Men vi vil gerne lære af det. Og der er opsamling af data meget vigtig, men vi kan sagtens gøre det anonymiseret, og det gør vi også.

Mette Møller tilføjer: Ud fra et sikkerheds aspekt kan jeg sige, at jo mere vi ved, des bedre.

Bo Ekman, Vejdirektoratet: Det er vigtigt, at producenterne ikke sidder alene på alle de data, men at man deler dem med myndigheder for at forbedre trafiksikkerheden.

Forskellen på den førerløse bil og din smartphone er, at det har fatale konsekvenser, hvis din bil ikke virker, men det har det ikke med din smartphone. Derfor går det ikke så hurtigt med selvkørende biler, forklarer Mogens Kjærgaard Møller fra Rådet for Sikker Trafik.