Samořiditelné auto: koho může zabít a koho má zachránit? Lidé se nedokáží shodnout. Stroj zatím nedokáže vyřešit morální stránky
Samořiditelná auta jsou vyvíjena všemi velkými světovými automobilkami světa. Už za pár let člověk nebude potřebovat řidičák, prostě jen nasedne do auta a to ho bezpečně zaveze na určené místo. Vše bude obsluhovat počítač, nebo chcete-li, autopilot. Jenže už delší dobu se vynořují kolem celého tohoto konceptu velmi zásadní etické otázky.
Představte si následující situaci. Sedíte na zadním sedadle svého samořiditelného vozu, který řídí autopilot. Před vámi se vybourá cisterna s benzínem. Zbývá tak vteřina dvě do nárazu. Autopilot má na výběr dvě možností. Může se pokusit prudce zatočit na chodník a vyhnout se nárazu. Vám zachrání život, ale zabije nebo těžce zraní lidi na chodníku. Nebo může začít prudce brzdit s tím, že to nejspíš k ničemu nebude a vy zahynete, protože narazíte do cisterny, a pokud vás nezabije náraz, shoříte v následném požáru.
Co má tento případ ukázat? Každý samořiditelný automobil se bude dostávat do situací, které budou vyžadovat tato velmi složitá morální a etická dilemata. Pokud by za volantem seděl člověk, reagoval by instinktivně a vždy tak, aby ochránil sám sebe. Řidič prostě strhne volant a modlí se, aby se nikomu nic nestalo. Autopilot nebo počítač nic takového neudělá, nemá žádné reflexy. I vteřina je pro něj moře času, aby mohl vše spočítat a vykalkulovat. Musí ale v sobě mít zakódované, jak se má vlastně zachovat. A tady přichází na řadu etika, morálka a filozofie. Světové automobilky si začaly uvědomovat, že pokud opravdu chtějí poslat své samořiditelné vozy do ulic, bude se muset tento problém napřed vyřešit.
Chceme za volantem stroj nebo člověka?
Na celé věci už se začalo pracovat. Například vědci z univerzity v Osnabrücku vytvořili speciální počítačový model, který simuloval městský provoz včetně chodců. Do tohoto simulátoru pak poslali opět nasimulovaná samořiditelná auta a sledovali, jak se v reálném provozu umělá inteligence chová. Podle Petera Königa, který na projektu pracoval, stojí před vývojáři zcela zásadní otázka: Má se automobil chovat jako člověk, nebo jako stroj? Má se zohlednit, zda oběť případné nehody bude dítě nebo žena? Má to vůbec být nějaké kritérium? V Osnabrücku odpověď nenašli, pouze konstatovali, že je potřeba najít algoritmus, který to vše bude řídit.
Nechte věcem volný průběh
V Massachutsettském technologickém institutu MIT na celou věc šli jinak. Vytvořili web s názvem Moral Machine a nechali na něm lidi hlasovat o tom, jak by se měla umělá inteligence ovládající volant chovat. Výsledkem bylo, že lidé si většinově přáli, aby autopilot v mezních situacích v podstatě nijak nezasahoval. Hlasovali pro variantu, aby věci měly „volný průběh“, a to bez ohledu na to, že by se tím zvýšil případný počet obětí autonehody. Výsledky však zdaleka nebyly jednoznačné, v některých zemích naopak lidé chtějí, aby automat minimalizoval za každou cenu počet obětí.
Každý život má stejnou hodnotu
Tento názor převažuje v Německu, kde ale zároveň jasně říkají, že by stroj neměl vůbec rozlišovat mezi potencionálními oběťmi. Je jedno, jaké má pohlaví, věk, jestli se na nehodě nějak podílel nebo je v ní nevinně. Všechny životy musí mít stejnou hodnotu. Němci jsou první zemí na světě, která má vůbec nějaký platný manuál pro tuto oblast.
Do takového auta se neposadíte
Problém je, že pokud budou auta fungovat na bázi, že zachránění životů posádky vozu má pro autopilota stejnou prioritu, jako ochrana života chodců, pak do takového auta nikdo nebude chtít sednout. Všichni budou nadšeně souhlasit s konceptem rovnosti životů a minimalizace obětí, ale své blízké ani sami sebe pak do takového auta neposadí. Budou chtít slyšet, že systém v první řadě ochrání je, a pak se až bude ohlížet na někoho dalšího. Opět se tedy celý problém začne cyklit a v tuto chvíli se ukazuje, že jde o vůbec největší překážku v záležitosti rozvoje autonomních vozidel.
Nepomohou ani tři zákony robotiky
Východisko ze situace zatím nezná nikdo. Svou roli navíc hrají i další faktory, jako je například záměrně agresivní chování ze strany lidských řidičů. Jak by autonomní vozidlo fungovalo, kdyby ho začal lidský řidič vybržďovat nebo do něj dokonce chtěl úmyslně narazit? Kdo by nesl zodpovědnost za škody a úmrtí, jaký by byl právní status vozidla a co na to všechno pojišťovny? Problematika autonomních vozidel je zkrátka možná vůbec první podobné téma, u kterého se musí zcela jasně vyjasnit etické aspekty a celková „robotická“ morálka. Kdysi se o ní pokusil ve svých románech sci-fi spisovatel Isac Asimov, který stanovil tři zákony robotiky. Ty byly dlouho považovány za univerzálně platné, ale nyní se ukazuje, že věc bude daleko složitější.
Co vy na to?
Autor: Snaut
MOHLO BY VÁS ZAJÍMAT: