Budu váš řidič. A možná vás zabiju
Fascinuje mě morální dilema, které existuje v mnoha variantách a asi nejsrozumitelnější je v té, již bych nazval „dilema výhybkáře“. Představte si, že pracujete na železnici a dostanete zprávu, že po trati se k vám řítí nezvladatelný vlak vysokou rychlostí.
Pokud nic neuděláte, tak pravděpodobně zabij e deset dělníků, kteří dál na trati dělají opravy. Nemůžete tomu zabránit. Ale vy jste poblíž výhybky, již můžete přehodit a vlak odklonit na druhou kolej. V tom případě pravděpodobně zabij e jednoho dělníka. Co uděláte? Lépe řečeno, neuděláte nic a budete přihlížet smrti deseti lidí, anebo aktivně přispějete k smrti jednoho člověka? Ve vyhraněné podobě se dá toto dilema také formulovat: Zabili byste jednoho člověka, abyste jich deset zachránili?
Existuje na toto téma bezpočet studií. Obvykle se více lidí rozhodne „optimalizovat“ škody, a to i za cenu, že pak v jistém smyslu nesou větší odpovědnost. Poslední velký experiment na téma morálního dilematu provedli na Univerzitě v Michiganu, kde vůbec poprvé výzkumníci „nepředložili“ účastníkům dilema na papíře, ale ve virtuální, dokonce 3D realitě.
Měli tak dilema jako v reálu, se vším všudy: s rámusem přijíždějícího vlaku, stresem z nedostatku času i s pohledem na případné oběti. Výsledek? Pro přehození výhybky se rozhodla drtivá většina, konkrétně více než 90 procent (133 ze 147 účastníků experimentu).
Dokazuje to zajímavou věc. Máme v sobě zakódovanou „božskou“ potřebu konat v zájmu jakéhosi většího dobra. Záleží jen na tom, jak ho náš mozek vyhodnotí. Významně to samozřejmě ovlivní, když se sami staneme součástí onoho dilematu. Asi každý řidič se děsí situace, kdy na nepřehledné silnici předjíždí cyklistu a proti němu vyrazí v opačném směru nákladní auto. Nechme stranou, kdo udělal chybu, jestli šlo o nebezpečné předjíždění, anebo náklaďák vybočoval ze své části vozovky. Ale řidič se musí rozhodnout, co udělá. Srazí cyklistu, anebo čelně nabourá do protijedoucího auta?
Čekali bychom, chladně uvažujíce, že si drtivá většina „vybere“ jako oběť cyklistu. Ale virtuální testy ukázaly, že překvapivě vysoké procento řidičů ohrozí intuitivně raději sebe. Je v tom něco hluboce pozitivního (a zároveň i trochu děsivého, jak se to vezme) o naší povaze. Pokud něco vyhodnotíme jako dobro, jsme ochotni pro to obětovat i sami sebe.
V jednom americkém státě (a brzy bude i v dalším) byl uzákoněn provoz aut bez řidiče, samozřejmě s přísnými omezeními a v testovacím režimu. Podmínkou je přítomnost člověka, jenž může kdykoliv převzít řízení. Nesmí být například pod vlivem alko holu, ale může telefonovat nebo esemeskovat. Auta řízená počítačem testuje už několik let firma Google a najezdila zatím desítky tisíc kilometrů. Bilancí je jediná nehoda, zaviněná ovšem „živým“ řidičem.
Zdá se neodvratné, že dříve nebo později (tipuji v horizontu maximálně deseti let) se provoz automaticky řízených aut stane běžný. Možná jednou živí řidiči úplně zmizí a provoz se pak stane zcela bezpečným. Ale nepochybně nás čeká období, kdy se na silnicích budou potkávat „živí“ a „počítačoví“ řidiči.
Budou se potkávat a určitě i dostávat do kolizí a můžeme si být jisti i tím, že ti živí budou těm počítačovým vulgárně nadávat a hrozit jim urážlivými gesty. Asi ne často, ale nutně bude však docházet i k podobným situacím, jako je ta popsaná výše.
Víme, co asi udělá řidič, pokud bude volit mezi tím, že ohrozí sebe, anebo skupinku malých dětí na tramvajové refýži. Nevíme už úplně přesně, jak změní své rozhodování, když ve svém autě poveze kromě sebe taky vlastní děti. Ale nemáme nejmenší tušení, jak se zachová počítač.
Vlastně pardon, i to víme přesně. Zachová se přece tak, jak ho my lidé naprogramujeme. Ale jak to bude? Budeme postupovat racionálně, podle logiky „jeden mrtvý lepší než pět mrtvých“? A co když počet případných obětí bude stejný? Rozhodne generátor náhodných čísel? Případně bude v programu zakomponována logika, že počítač upřednostňuje „svoje“ pasažéry před těmi cizími? A pokud ano, bude ho možné v tomto smyslu nelegálně „přeprogramovat“, samozřejmě za úplatek v neautorizovaném servisu, tak jak se dnes například přetáčejí tachometry?
To jsou zatraceně zajímavé otázky. Doufám, že se na ně dozvíme odpovědi dřív, než naše počítače defi - nitivně převezmou řízení.
