Inden for en overskuelig årrække vil selvstyrende køretøjer ikke længere være et opsigtsvækkende syn i gadebilledet, og præcis som enhver anden trafikant vil de skulle træffe lynsnare og til tider skæbnesvangre beslutninger. De førerløse køretøjer skal derfor ikke kun programmeres med færdselsregler og viden om adfærd i trafikken, men også med etik. Det siger lektor Martin Mose Bentzen fra DTU Management Engineering.
Etikken er fundamentet for at fortælle det selvstyrende køretøj, hvordan det skal agere, hvis der opstår en situation, hvor det skal vælge mellem to onder. Et eksempel kunne være en situation, hvor køretøjet ikke kan nå at bremse, og en kollision er uundgåelig. Skal køretøjet så f.eks. undvige påkørsel af en cyklist, der bærer hjelm, og i stedet ramme en anden cyklist, der ikke bærer hjelm. Førstnævnte har størst chance for at overleve, til gengæld vil det nok ikke tilskynde cyklister til at bruge cykelhjelm.
Den type dilemmaer og andre etiske aspekter ved selvstyrende køretøjer forsker Martin Mose Bentzen i, og han har de senere år publiceret en række artikler om emnet. Han undersøger, hvilke etiske principper, der kan kodes ind i de selvstyrende køretøjer, og hvilke konsekvenser, det i givet fald kan få.
Kernen i hans arbejde er formalisering af etiske teorier. Det vil sige, at han oversætter de etiske teorier til formel logik. Dermed får de et nyt sprog, som gør det muligt at programmere et autonomt system som et selvstyrende køretøj eller en robot til brug på plejehjem. De etiske teorier kan stamme fra ældre filosoffer som Immanuel Kant (1724-1804) eller John Stuart Mill (1806-1873) eller fra nyere tekster om etiske principper.
”Oversættelse til logik er en form for fortolkning og præcisering. Typisk er filosofisk teori ret vag, så jeg gør det mere stringent. Og når man har gjort det, er det ikke særlig svært at implementere på en computer. Den store udfordring ligger i at dykke ned i eksempelvis Kants tanker om etik og finde et sprog for det i den formelle logik,” uddyber han.
Skal følge menneskets regler
Selvstyrende køretøjer er blevet en realitet som konsekvens af en rivende udvikling i kunstig intelligens og stadig mere avanceret hardware som kameraer og sensorer. Martin Mose Bentzen anvender også den bredere betegnelse ’sociale robotter’, fordi det selvstyrende køretøj interagerer med mennesker i virkelige situationer.
Robotten eller køretøjet skal handle på en måde, der er i overensstemmelse med menneskelige love, regler og værdier. Fordi de færdes i trafikken og blandt andre trafikanter, vil de møde etiske dilemmaer, som de skal programmeres til at håndtere.
”Selvstyrende køretøjer er ét eksempel. Men der kan også opstå etiske dilemmaer, når vi taler om robotter i hjemmet, på plejehjem og i daginstitutioner. Et eksempel er en robot, der lyver og siger, at den vil blive destrueret, hvis ikke den ældre mand udfører sine øvelser. Det får ham til at udføre sine øvelser, hvilket er både godt og måske også nødvendigt for helbredet. Men robotten har brugt en løgn for at opnå en god handling. Nogle etiske teorier siger, at det må man ikke. Andre siger, at det må man gerne,” forklarer han.
Jomfrueligt forskningsfelt
Martin Mose Bentzen samarbejder en del med en gruppe fra universitetet i Freiburg. De har endnu ikke lagt sig fast på en bestemt etisk teori. Forskningsfeltet er stadig nyt og åbent, så de undersøger og præsenterer flere forskellige perspektiver med afsæt i de forskellige teorier.
”Selv om vi har et fælles sprog i logikken, kan vi godt have forskellige opfattelser af den filosof, som vi sidder og fortolker. Nogle gange munder det ud i, at vi giver forskellige fortolkningsmuligheder. Formalisering af det filosofiske sprog munder ud i en formel teori, men er ikke selv en formel videnskab. Det er en proces med elementer af håndværk og kreativitet.”
Når hans interesse særlig samler sig om selvstyrende køretøjer, skyldes det ikke mindst, at de er langt fremme i udviklingen og genstand for intensiv forskning og megen omtale. Han hæfter sig ved, at det helt grundlæggende er et positivt fremskridt med store potentielle muligheder i forhold til forbedring af såvel trafiksikkerhed som miljø. Men netop den store interesse rummer en indbygget trussel. Den massive interesse fra industriens side medfører et indædt kapløb om at komme først blandt de store aktører.
”Der vil helt sikkert være en kæmpe efterspørgsel, og lige nu presses der så hårdt på, at der er risiko for at sende biler på gaden, som ikke er tilstrækkeligt udviklede. Lovgiverne kommer under pres, og de vil måske tillade nogle forsøg, der er lidt for risikable. Det bliver næppe tilfældet i Danmark, men industrien vil formentlig søge i retning af de markeder, hvor forholdene rent lovgivningsmæssigt er mest lempelige.”
"Jeg håber, at de selvstyrende køretøjer klarer den nødvendige og vigtige tur gennem den offentlige kværn og bliver accepterede som en del af trafikken."
Martin Mose Bentzen
Folkelig skepsis en potentiel snubletråd
En anden afgørende faktor for de selvstyrende køretøjers fremtid kan blive offentligheden. Der skal ikke særlig mange ulykker til, hvor bilen opfører sig anderledes, end et menneske ville gøre, før folk bliver usikre og bange, bemærker Martin Mose Bentzen. Tidligere har man i forbindelse med teknologier som eksempelvis genmodificerede fødevarer måttet sande, at folkelig skepsis vanskeligt lader sig ændre, når den har bidt sig fast.
”Det kan man også forestille sig, vil blive tilfældet for nogle af de sociale robotter. Jeg håber, at de selvstyrende køretøjer klarer den nødvendige og vigtige tur gennem den offentlige kværn og bliver accepterede som en del af trafikken. Gevinsten kan blive enorm, men vi er nødt til eksplicit at bestemme, hvad det er for nogle værdier, de skal opføre sig efter,” siger Martin Mose Bentzen.
”Når maskinerne er så avancerede, at de kan lære at drage konklusioner selv, skaber det skræk for, at de kan lære sig nogle løsninger, som er kreative, men ikke etisk forsvarlige. Robotterne skal tøjles. Især når vi taler om systemer, der skal agere direkte med mennesker og kan være farlige. Der er mange dilemmaer, vi skal forholde os til, hvilket jo også gør området etisk interessant. Men de potentielle fordele opvejer risici i mine øjne.”