1 rok temu

Czy samoprowadzący pojazd może zabić swoich pasażerów, żeby chronić przechodniów?

autonomous-driving-2

Samoprowadzące pojazy już niedługo mogą pojawić się na naszych drogach. Technologia jest bliska wprowadzenia na rynek. Zanim to jednak nastąpi nastąpi, konstruktorzy muszą rozwiązać jeszcze kilka problemów – natury moralnej.

Kto powinien zginąć w razie wypadku? Pasażerowie pojazdu, czy piesi?

Na podobne dylematy od wieków stara się odpowiedzieć filozofia, jednak teraz muszą zmierzyć się z nim projektanci samodzielnie kierujących się pojazdów Google i Tesla.

Wyobraź sobie, że jedziesz samodzielnie prowadzącym się samochodem, pod tobą urwisko, zaś na drodze grupa przechodniów – czy samochód powinien ominąć ludzi i spaść w przepaść, zabijając pasażera, czy ocalić osobę w środku?

Ten filozoficzny dylemat nazywano dylematem wagonika.

W najbardziej podstawowej wersji wybór może wydawać się prosty – owszem, samochód powinien poświecić jedną osobę dla większej ilości, co jednak jeśli sytuacja się skomplikuje?

Na przykład: stoisz na moście nad trakcją kolejową, pod sobą widzisz wagonik pędzący w storę 5 osób, obok ciebie stoi postawny mężczyzna, którego waga wystarczyłaby do zatrzymana wagonika, czy należy go zepchnąć i uratować 5 osób?

Przekładając tę filozoficzną zagadkę na praktykę – jak samodzielnie prowadzące się samochody powinny poradzić sobie z taką sytuacją, w której śmierć albo pasażera albo pieszego jest nieunikniona?

Zdaniem większości – zabić pasażera.

Grupa naukowców pod kierownictwem psychologa Jean-François Bonnefon z uniwersytetu w Tuluzie, przygotowała eksperyment badający opinie publiczną w tej kwestii. W badaniu opracowano scenariusze dziesiątek kolizji, które następnie zostały zaprezentowane 900 uczestnikom badania.

Okazało się, że 75% respondentów uważało, że samochód powinien zawsze chronić pieszych, zabijając przy tym kierowcę, nawet w sytuacji, gdy chodziło o uratowanie życia jednego pieszego.

Koncepcyjny samoprowadzący model Mercedesa. Źródło: mirror.co.uk

Koncepcyjny samoprowadzący model Mercedesa. Źródło: mirror.co.uk

Koncepcyjny samoprowadzący model Mercedesa. Źródło: mirror.co.uk

Koncepcyjny samoprowadzący model Mercedesa. Źródło: mirror.co.uk

Ile mniej ofiar tym lepiej.

Wśród etyków problem wyboru jest w takiej sytuacji komplikowany przez serię dodatkowych okoliczności, które odwołują się do naszego poczucia moralności.

Dylemat wagonika jest ostrym tematem dyskusji, ponieważ jest bardzo dobrym przykładem napięcia, powstającego między dwoma obowiązkami moralnymi jakie spoczywają na nas – aby nie wyrządzać szkód oraz aby nie czynić zła.

Według szkoły myślenia zwanej utylitaryzmem, zaproponowanej przez Johna Stuarta Milla, moralnym zachowaniem jest podejmowanie decyzji, które spowodują największe szczęście dla największej liczby osób.

Zgodnie z tym założeniem samochód powinien zachowywać się tak, aby uratować jak największą liczbę ludzi i nie ważne, czy będą to pasażerowi znajdujący się w pojeździe, czy osoby na chodniku.

Jeśli 5 pasażerów pojazdu jest zagrożonych kolizją ze ścianą, samochód powinien postępować w taki sposób, aby ich uratować nawet jeśli oznacza to zderzenie z przechodniem.

562bfba0229a9 - Copy

Jednak krytycy podejścia utylitarnego uważają, że w ocenie sytuacji ważne jest obliczenie skali odpowiedzialności poszczególnych uczestników zdarzenia oraz ewentualnych konsekwencji wyboru.

Czyja odpowiedzialność?

Według niektórych współczesnych myślicieli, firmy produkujące tego rodzaju samochody, powinny programować je zawsze z nastawieniem na ochronę przypadkowych i niewinnych przechodniów, zakładając, że osoba w pojeździe ma większą odpowiedzialność za powstające niebezpieczeństwo.

Przytaczanym przez nich argumentem jest założenie, że naszym podstawowym obowiązkiem moralnym jest nie zabijać innych ludzi. Tak więc, jeśli decydujesz się wsiąść do samokierującego się samochodu, musisz liczyć się z tym, że decyzja ta może być obciążona ryzykiem.

Ta logika daje w konsekwencji zupełnie inny efekt niż założenie utylitarne. Co jednak jeśli w samochodzie znajduje się 5 osób, a wśród nich np. dwoje dzieci, które znalazły się w pojeździe bezwolnie?

Myślicielka Helen Frowe, która problemowi wagonika poświeciła wiele prac, uważa, że jeśli wszyscy pasażerowie są dorośli to bez względu na liczbę przechodniów, którą uratują, powinni wszyscy zginać, ponieważ wsiadając do samochodu podjęli świadomą decyzję i ponieśli ryzyko z nią związane.

Uważa też, że mimo iż dzieci nie są moralnie odpowiedzialne za decyzje rodziców, w dalszym ciągu nie jest moralnie uzasadnione zabicie przechodnia, nawet w celu ratowania dwójki dzieci.

xc_24_dwn_20_2014_hres

Koncepcyjny projekt wnętrza pojazdu samoprowadzącego XchangeE , które umożliwia relaks każdemu pasażerowi, włączając kierowcę (Źródło: Rinspeed)

Lepiej nie robić nic?

Projektanci tego typu pojazdów mają nie łatwy orzech do zgryzienia, a razem z nimi prawnicy, którzy będą musieli rozwikłać ten problem. Bo co jeśli przechodzień jest winny wypadkowi?

Jeśli zachował się bezmyślnie alb nawet wszedł pod koła samochodu z intencją wywołania wypadku i zabicia pasażera? Samochód bez kierowcy nie jest w stanie ocenić intencji przechodnia, dlatego konsekwencje takiej sytuacji są trudne do przewidzenia.

A może rozwiązaniem jest bierność? Czy bardziej moralne jest zjechanie z drogi i świadome uderzenie w przechodnia, czy lepiej pozwolić pojazdowi bezwiednie uderzyć w dowolną ofiarę?

Kolejnym priorytetem wskazywanym przez filozofów jest konieczność szacunku wobec innych ludzi. W związku z tym bezpośrednie celowe działanie mające w efekcie powodować szkody, jest gorsze etycznie niż pośrednie działanie, które w efekcie prowadzi do szkody innych…

Oczywiście przykładowe sytuacje są jedynie modelami i mało prawdopodobne, aby w realnym życiu samochód znajdował się w sytuacji, w której ma tylko dwa możliwe wyjścia z sytuacji.

Jednak im więcej samoprowadzących się pojazdów będzie pojawiać się na naszych drogach, problem oprogramowania, będzie musiał zostać przemyślany.

Producenci samochodów będą musieli w końcu stanąć i przed tym wyzwaniem. Sądząc jednak po braku jednomyślności wśród filozofów, rozwiązania, które finalnie zaistnieją, zapewne, nie będą jednomyślnie akceptowane.