Robotter
Af
Charlotte Holst

Ny teknologi rejser etiske dilemmaer: Robotter skal have moralsk kompas

Robotteknologien har fart på, og især sociale robotter rejser svære etiske spørgsmål, som producenter af eksempelvis førerløse biler skal forholde sig til. Nordea Invest Magasinet har talt med forsker Martin Mose Bentzen, som er en af dem, der prøver at opstille rammer for robotters moralske opførsel.

Læs mere om:
Teknik
Martin Mose Bentzen
Martin Mose Bentzen

Hvordan bliver en robot en ordentlig robot? En robot der handler ud fra størst mulige hensyntagen og sikrer at så få mennesker som muligt kommer til skade? Og - hvis uheld ikke kan undgås - hvordan vælger den så, hvem det er, der skal komme til skade?

Etikere og filosoffer har fået hovedroller at spille inden for robotteknologi. De sociale robotter - robotter der interagerer med mennesker - er i fremmarch og skal programmeres til at kunne handle efter etiske standarder. Test af førerløse biler, hvor en robot overtager styringen og bevæger sig rundt blandt bløde trafikanter, har været i gang længe og også inden for kernevelfærdsområder, vil vi se de sociale robotter spille en stadig større rolle, siger Martin Mose Bentzen, adjunkt ved DTU Management Enginee­ring og ph.d. i filosofi.

-Der, hvor der er mest potentiale for udvikling og også flest dilemmaer, er inden for velfærdsområdet: altså ældrepleje, hospitalsvæsen og børnepasning, siger han.

Men der, hvor det lige nu og her er mest påtrængende at få taget stilling til, hvordan robotter skal opføre sig i uheldssituationer, er inden for førerløse biler. Her er udviklingen absolut længst fremme og et kapløb om at erobre forbrugernes gunst er i gang.

Kortene tæt til kroppen

Alligevel er de store bilproducenter påfaldende stille omkring de etiske spørgsmål. De færreste har meldt noget ud om robotternes opførsel i relation til sikkerhedsspørgsmål og går på listefødder i et marked, der pludselig kan eksplodere.

-De er ekstremt forsigtige. De har folk ansat i deres juridiske afdelinger til at se på de etiske dilemmaer, men de holder kortene tæt til kroppen. Der er kæmpestor konkurrence på det her marked, og så er det jo voldsomt kontroversielt, siger Martin Mose Bentzen.

Hvor kontroversielt fik Mercedes en smagsprøve på i sommer, hvor chefen for  Mercedes’ selvkørende biler, Christoph von Hugo meldte ud, at “hvis man ved, at man kan redde mindst én person, så red personen i bilen.”

-Det skabte noget furore og blev til dels trukket tilbage. For hvorfor skal en bil, der allerede er en sikker jernkasse beskytte passageren mere end det barn, der løber ud på vejen, spørger Martin Mose Bentzen.

En bil der dræber? Nej tak

Professor ved Massachusetts Institute of Technology, Lyad Rahwan har skabt ‘Moral Machine’ som via gamification kan skabe et billede af, hvilken etik mennesker ønsker implementeret i en selvkørende bil. Han har sagt:

“Generelt vil folk have bilen til at være moralsk god, så de ønskede en bil, der minimerede skaden for fodgængere, selv om det betyder, at den vil ofre føreren af bilen. Men når de blev spurgt, om de ville købe sådan en bil, var svaret et rungende nej.”

Kilde: IDA Universe

To voksenliv eller ét barneliv?

Han sidder på DTU og arbejder - blandt andet sammen med kolleger i Tyskland - på at skabe et moralkodeks for robotter med højt udviklet kunstig intelligens. Altså etiske standarder for, hvordan de agerer mest korrekt i givne situationer. På nogle punkter vil man skulle stille højere krav til robotten end til et menneske, siger han.

-Fra mennesker kan man måske godt acceptere en hvid løgn i ny og næ. Men vi kan jo ikke have en kunstig intelligens, der går rundt og lyver for os. Så vil man frygte, at det kan komme ud af kontrol.

Der vil dog opstå meget vanskelige dilemmaer, hvor det kan være nærmest umuligt at beslutte, hvordan robotten skal handle. For hvad skal robotten i den førerløse bil gøre, hvis der træder to mennesker lige ud på kørebanen og den - hvis den undviger  - kommer til at ramme et barn på fortovet? De to mennesker har handlet forkert og dumt ved at gå lige ud foran. Til gengæld tager robotten måske kun ét liv, hvis den undviger ved at køre op på fortovet, hvor barnet går.

-Det er ikke min opgave at svare på, hvad robotten skal gøre i sådan en situation. Det, vi arbejder med som forskere, er at give principielle bud på, hvordan man kan ræsonnere ud fra principper i den etiske litteratur, som filosoffer har arbejdet med gennem tusinder af år. Vi kan ikke forvente, at den kunstige intelligens skal være bedre end den menneskelige, men det vi kan forvente er, at bilproducenter har tænkt scenarierne igennem og taget højde for dem, siger Martin Mose Bentzen

Kørte I virkelig selv i gamle dage

Hvor bilproducenterne er nølende med udmeldinger om de etiske dilemmaer har de til gengæld fremhævet den forbedrede trafikale sikkerhed, der vil opstå med de førerløse biler. Robotter drikker ikke, de sms’er ikke, mens de kører, og de lader sig ikke påvirke af skrigende børn på bagsædet. I de mest optimistiske scenarier har eksperter spået, at selvkørende biler kan undgå over 90 procent af ulykkerne.

-Bilen er den mest dødbringende personlige ejendel i verden. Om 50 år vil det blive betragtet som dybt uansvarligt at køre rundt selv, og vores børnebørn vil sige: Gjorde I virkelig det? Jeg tror bestemt, at trafiksikkerheden vil vinde, siger Martin Mose Bentzen.

Vinderen af markedet og forbrugernes gunst bliver til gengæld den bilproducent, der kan skabe størst mulig tryghed og tro på, at deres robot vælger rigtigt, når den - uundgåeligt -  skal træffe svære etiske valg.

-Der skal ikke mange uheld til før det går galt, og den offentlige mening kan vende sig mod en producent. Derfor er det også bydende nødvendigt, at de tager højde for, hvordan deres førerløse biler reagerer i uforudsete situationer.