Etika samořídicích aut: Jak by měl správně zabíjet robot?
V tištěném Reflexu najdete rozhovor s naším předním etikem, doktorem Davidem Černým, který se zabývá i etikou automatů – robotů. Rozhovor je podnětný a znepokojující a nastoluje takové otázky, jako koho má samořídicí auto v případě nehody zabít. Můj názor je jednoduchý.
Pan doktor Černý v rozhovoru nastoluje témata, ale nedává jasné odpovědi – ty odpovědi totiž nejsou ještě naší vědě a naší etice známy, musíme je najít, vydiskutovat a pak nějak horko těžko akceptovat. Ta diskuse bude dlouhá, bude plná emocí a gest, ale jednou k nějakému řešení dojít musíme. Totiž v případě, že opravdu chceme samořídicí auta.
Podle doktora Černého se nehodovost po jejich zavedení do provozu sníží o devadesát procent. Robot bude samozřejmě dělat řádově méně chyb. Ale i když pomineme možnost, že udělá chybu samořídicí auto samo, tak bude docházet k nehodám způsobeným chodci. Ti totiž chybují mnohem častěji než robot. A tak v reálném provozu bude dříve nebo později robot muset řešit Sofiinu volbu.
Koho zabít
Modelová situace je jednoduchá. Na dvouproudé silnici s hustým provozem jede samořídicí vůz. Provoz je hustý v obou směrech, nelze přejet do protisměru, protože tam jedou auta. V tu chvíli se robot přiblíží ke kandelábru, který stojí u silnice. A zpoza kandelábru mu přímo pod chladič vyběhne chodec. Počítač řídící robota má volbu: Buď zabije toho chodce – je rozjetý a smrt je jistá, nebo to píchne do onoho kandelábru a zabije svého řidiče. Jak budou stroje takováto dilemata řešit?
Doktor Černý v rozhovoru hovoří o možných strategiích, které může auto vykonat. Buď se může řídit účelovým rozhodováním – to jest zachová se tak, aby zabilo co nejmenší počet obětí bez ohledu na jejich zavinění nehody. Nebo se naopak bude chovat jako tank a bude ze všech sil chránit svou posádku bez ohledu na škody a úmrtí, která nastanou vně vozu. Jak se ale opravdu má to auto zachovat, to zatím v podstatě nevíme, o tom diskutují etici i marketéři těchto přicházejících strojů.
Etických teorií je hodně, ale jak o rozhovoru s panem doktorem přemýšlím – je to už nějaký čas, co jsme ho pořizovali – tak se nemohu rozhodnout pro žádnou. Nejspravedlivější mi přijde strategie „poslední spravedlivý“ – to jest, že by měl zahynout v podobné situaci, jakou jsem modelově popsal, ten, který porušil předpisy. Zdá se, že by takové „superetické“ auto stranilo tomu, kdo se zachová správně, tak, jak se má.
V praxi má tato teorie ovšem jednu závažnou slabinu, a to zvlášť pro lidi jako já, kteří jsou výhradně chodci a auto (ani samořídicí) neřídí. V případě, že by robot rozhodl zabít toho, kdo porušil dopravní předpisy, byl by mrtvý prakticky vždy chodec, protože robot předpisy dodržuje. Takže by v podstatě automaticky při nastíněné modelové situaci umíral chodec. Což se mi moc nelíbí.
A co los?
A tak mně jako asi nejsprávnější, nejspravedlivější a především nerozdílné od reality, kdy neřídí roboti, ale lidé, připadá řešení losem. Že by podobně jako v situaci, kdy řídí živý člověk, převzala rozhodující roli bohyně Náhoda. Podobně jako v realitě nikdy nevíte, jestli když vám někdo vběhne pod chladič, volant strhnete do kandelábru a zahynete, nebo pojedete dál a zahyne chodec. Přes veškerou iracionalitu takového řešení mi ale los připadá jako nejsprávnější řešení podobné krizové situace
Rozhovor s doktorem Davidem Černým si přečtěte v tištěném Reflexu č. 13, který vyšel ve čtvrtek 29. března.
