Robin Kopecky

One of the moral questions concerning autonomous vehicles (henceforth AVs) is the choice between types that differ in their built-in algorithms for dealing with rare situations of unavoidable lethal collision. It does not appear to be possible to avoid questions about how these algorithms should be designed. We present the results of our study of moral preferences (N = 2769) with respect to three types of AVs: (1) selfish, which protects the lives of passenger(s) over any number of bystanders; (2) altruistic, which minimizes the number of casualties, even if this leads to death of passenger(s); and (3) conservative, which abstains from interfering in such situations. We differentiate between scenarios in which participants are to make their decisions privately or publicly, and for themselves or for their offspring. We aim to answer two research questions: (1) whether the public visibility of the choice of an AV type choice make this choice more altruistic and (2) which type of situation makes it more difficult to choose altruistically: when choosing for society as a whole, when choosing only for oneself, or when choosing only for one’s offspring. Our results show that respondents exhibit a preference for an altruistic strategy for AVs and that it is reinforced when signaled to others. The altruistic preference is strongest when applies to everybody else, weaker when it reflects a solely personal choice, and weakest when choosing for one’s own child. We conclude that a public choice is considerably more likely to pressure consumers into accepting a more socially beneficial solution.

Our study explores the folk concept of personal identity in the developmental context. Two hundred and seventeen Czech children participated in an interview study based on a hypothetical scenario about a sudden change in their friend, someone they know, or some other unspecified person. The children were asked to judge to what extent particular changes (from six categories of traits) would change the identity core of their friend or some other person on a seven-point scale. We introduced both positive and negative versions of the changes. Our data suggest that children considered moral traits connected to interpersonal relationships crucial for preserving personal identity. Memory connected to personal experiences also scored highly. On the other hand, a change in physical appearance seemed to have the least important impact on personal identity. Negative changes turned out to have a significantly greater impact than positive changes in all categories, except the physical. Possible effects of scenario and the participants’ age and sex were further explored. We discuss the possible causes of the effect of negative moral change and the role of social dimension in the development of the concept of personal identity.

Diskuse o filosofických problémech spojených s nástupem autonomní dopravy je často spojena s negativy a je vedena v duchu techno-pesimismu. Významný prostor v této debatě je věnován aplikaci vozíkového dilematu („trolley problem“) do řídících algoritmů vozů. V této eseji se však zamýšlíme nad dalším problémem našich morálních intuic – otázkou morálního aktérství. Pocit morální odpovědnosti si žádá faktickou kontrolu nad situací a kauzální odpovědnost. O tu bývalý řidič jako pasažér autonomního vozu přichází, ale přesto může cítit vinu. Prioritně bychom se měli soustřeďovat na morální psychologii uživatele, spíše než na hledání optima kolizí pro algoritmy. V eseji poukazujeme na historické paralely absence aktéra v automatických systémech i na to, že lidé snáze přijímají autonomní nákladní dopravu než dopravu osob. Dále nastiňujeme možné způsoby řešení přesunu odpovědnosti, a to nejprve prostřednictvím analogie s řidičem přicházejícím o aktérství nástupem do vozu hromadné dopravy. Možný operátor autonomních vozů, který na provoz dohlíží místo skutečného řidiče, může představovat dočasné opatření. Skutečnou alternativou morální odpovědnosti by se ale mohl stát fiktivní morální aktér dosazený provozovatelem vozů. Oproštění se od vlastnictví autonomního vozu osvobozuje lidi od konečného vnímání morální odpovědnosti, takže krátkodobé výpůjčky, sdílení nebo hromadná doprava by mohly být další vhodnou odpovědí na tento psychologický fenomén. Klíčová slova: aktérství, autonomní vozidla, morální odpovědnost, morální intuice.