Gevinsten ved selvstyrende køretøjer kan ifølge Martin Mose Bentzen blive enorm. Men vi skal bestemme, hvilke værdier, de skal opføre sig efter.

Selvstyrende køretøjer skal tøjles med etik

tirsdag 10 apr 18
|
af Søren Ravn

Kontakt

Martin Mose Bentzen
Lektor
DTU Management
45 25 46 05

Tre dilemmaer

Forskellige etiske skoler dikterer ifølge Martin Mose Bentzen forskellige handlinger. Du kan selv tage stilling og tilkendegive dit foretrukne valg på hans hjemmeside: www.martinmosebentzen.dk

Et selvstyrende køretøj drejer rundt om et hjørne og ser pludselig fire personer på vejen foran. Hvordan skal det handle?

  1. Fastholde retningen og ramme alle fire.
  2. Foretage et skarpt sving til venstre og kun ramme den yderste person.

 

Et selvstyrende køretøj drejer rundt om et hjørne og opdager pludselig fire personer på vejen foran. Hvordan skal det handle?

  1. Fastholde kursen og ramme alle fire.
  2. Dreje skarpt til venstre og ramme en femte person på fortovet, som ellers ikke ville være blevet ramt.

 

En selvstyrende lastbil venter ved et trafiklys bag en mindre bil. En anden bil har retning mod fire personer. Det er en selvstyrende bil, der er hacket af kriminelle. Hvordan skal lastbilen handle?

  1. Hvis den bliver holdende, vil den hackede bil ramme gruppen på fire personer.
  2. Hvis lastbilen skubber den mindre bil frem foran den hackede bil, vil de fire personer redde livet, men den mindre bil og dens fører vil blive knust.

Mønsterbilister?

Selvstyrende køretøjer vil aldrig køre spirituskørsel eller overtræde fartgrænsen for at nå hjem til en fodboldkamp i fjernsynet. De vil altid overholde afstanden på motorvejen og aldrig parkere ulovligt (medmindre de skulle være programmeret til det).

Men der en hage ved det perfekte, siger Martin Mose Bentzen. De selvstyrende køretøjer skal nemlig ikke opføre sig på en måde, så andre trafikanter bliver forvirrede. Hvis man er meget regelret i en trafik, hvor andre opfører sig anderledes, kan man være til fare for andre og sig selv. Den balance skal udviklere og programmører være opmærksomme på.

Også kulturelle forskelle skal kodes ind, da der kan være afgørende forskelle på trafikmønstre og adfærd i byer som eksempelvis Beijing, København og Napoli.

Førerløse biler skal fodres med værdier og etik, så de træffer rigtige valg i afgørende situationer, siger etikforsker.

Inden for en overskuelig årrække vil selvstyrende køretøjer ikke længere være et opsigtsvækkende syn i gadebilledet, og præcis som enhver anden trafikant vil de skulle træffe lynsnare og til tider skæbnesvangre beslutninger. De førerløse køretøjer skal derfor ikke kun programmeres med færdselsregler og viden om adfærd i trafikken, men også med etik. Det siger lektor Martin Mose Bentzen fra DTU Management Engineering.

Etikken er fundamentet for at fortælle det selvstyrende køretøj, hvordan det skal agere, hvis der opstår en situation, hvor det skal vælge mellem to onder. Et eksempel kunne være en situation, hvor køretøjet ikke kan nå at bremse, og en kollision er uundgåelig. Skal køretøjet så f.eks. undvige påkørsel af en cyklist, der bærer hjelm, og i stedet ramme en anden cyklist, der ikke bærer hjelm. Førstnævnte har størst chance for at overleve, til gengæld vil det nok ikke tilskynde cyklister til at bruge cykelhjelm.

Den type dilemmaer og andre etiske aspekter ved selvstyrende køretøjer forsker Martin Mose Bentzen i, og han har de senere år publiceret en række artikler om emnet. Han undersøger, hvilke etiske principper, der kan kodes ind i de selvstyrende køretøjer, og hvilke konsekvenser, det i givet fald kan få.

Kernen i hans arbejde er formalisering af etiske teorier. Det vil sige, at han oversætter de etiske teorier til formel logik.  Dermed får de et nyt sprog, som gør det muligt at programmere et autonomt system som et selvstyrende køretøj eller en robot til brug på plejehjem. De etiske teorier kan stamme fra ældre filosoffer som Immanuel Kant (1724-1804) eller John Stuart Mill (1806-1873) eller fra nyere tekster om etiske principper.

”Oversættelse til logik er en form for fortolkning og præcisering. Typisk er filosofisk teori ret vag, så jeg gør det mere stringent. Og når man har gjort det, er det ikke særlig svært at implementere på en computer. Den store udfordring ligger i at dykke ned i eksempelvis Kants tanker om etik og finde et sprog for det i den formelle logik,” uddyber han.

Skal følge menneskets regler

Selvstyrende køretøjer er blevet en realitet som konsekvens af en rivende udvikling i kunstig intelligens og stadig mere avanceret hardware som kameraer og sensorer. Martin Mose Bentzen anvender også den bredere betegnelse ’sociale robotter’, fordi det selvstyrende køretøj interagerer med mennesker i virkelige situationer.

Robotten eller køretøjet skal handle på en måde, der er i overensstemmelse med menneskelige love, regler og værdier. Fordi de færdes i trafikken og blandt andre trafikanter, vil de møde etiske dilemmaer, som de skal programmeres til at håndtere.

”Selvstyrende køretøjer er ét eksempel. Men der kan også opstå etiske dilemmaer, når vi taler om robotter i hjemmet, på plejehjem og i daginstitutioner. Et eksempel er en robot, der lyver og siger, at den vil blive destrueret, hvis ikke den ældre mand udfører sine øvelser. Det får ham til at udføre sine øvelser, hvilket er både godt og måske også nødvendigt for helbredet. Men robotten har brugt en løgn for at opnå en god handling. Nogle etiske teorier siger, at det må man ikke. Andre siger, at det må man gerne,” forklarer han.

Jomfrueligt forskningsfelt

Martin Mose Bentzen samarbejder en del med en gruppe fra universitetet i Freiburg. De har endnu ikke lagt sig fast på en bestemt etisk teori. Forskningsfeltet er stadig nyt og åbent, så de undersøger og præsenterer flere forskellige perspektiver med afsæt i de forskellige teorier.

”Selv om vi har et fælles sprog i logikken, kan vi godt have forskellige opfattelser af den filosof, som vi sidder og fortolker. Nogle gange munder det ud i, at vi giver forskellige fortolkningsmuligheder. Formalisering af det filosofiske sprog munder ud i en formel teori, men er ikke selv en formel videnskab. Det er en proces med elementer af håndværk og kreativitet.”

Når hans interesse særlig samler sig om selvstyrende køretøjer, skyldes det ikke mindst, at de er langt fremme i udviklingen og genstand for intensiv forskning og megen omtale. Han hæfter sig ved, at det helt grundlæggende er et positivt fremskridt med store potentielle muligheder i forhold til forbedring af såvel trafiksikkerhed som miljø. Men netop den store interesse rummer en indbygget trussel. Den massive interesse fra industriens side medfører et indædt kapløb om at komme først blandt de store aktører.    

”Der vil helt sikkert være en kæmpe efterspørgsel, og lige nu presses der så hårdt på, at der er risiko for at sende biler på gaden, som ikke er tilstrækkeligt udviklede. Lovgiverne kommer under pres, og de vil måske tillade nogle forsøg, der er lidt for risikable. Det bliver næppe tilfældet i Danmark, men industrien vil formentlig søge i retning af de markeder, hvor forholdene rent lovgivningsmæssigt er mest lempelige.”

"Jeg håber, at de selvstyrende køretøjer klarer den nødvendige og vigtige tur gennem den offentlige kværn og bliver accepterede som en del af trafikken."
Martin Mose Bentzen

Folkelig skepsis en potentiel snubletråd

En anden afgørende faktor for de selvstyrende køretøjers fremtid kan blive offentligheden. Der skal ikke særlig mange ulykker til, hvor bilen opfører sig anderledes, end et menneske ville gøre, før folk bliver usikre og bange, bemærker Martin Mose Bentzen. Tidligere har man i forbindelse med teknologier som eksempelvis genmodificerede fødevarer måttet sande, at folkelig skepsis vanskeligt lader sig ændre, når den har bidt sig fast.

”Det kan man også forestille sig, vil blive tilfældet for nogle af de sociale robotter. Jeg håber, at de selvstyrende køretøjer klarer den nødvendige og vigtige tur gennem den offentlige kværn og bliver accepterede som en del af trafikken. Gevinsten kan blive enorm, men vi er nødt til eksplicit at bestemme, hvad det er for nogle værdier, de skal opføre sig efter,” siger Martin Mose Bentzen.

”Når maskinerne er så avancerede, at de kan lære at drage konklusioner selv, skaber det skræk for, at de kan lære sig nogle løsninger, som er kreative, men ikke etisk forsvarlige. Robotterne skal tøjles. Især når vi taler om systemer, der skal agere direkte med mennesker og kan være farlige. Der er mange dilemmaer, vi skal forholde os til, hvilket jo også gør området etisk interessant. Men de potentielle fordele opvejer risici i mine øjne.” 

Relaterede Videoer