Rafaela Hillerbrand

For implementing ethics in AI technology, there are at least two major ethical challenges. First, there are various competing AI ethics guidelines and consequently there is a need for a systematic overview of the relevant values that should be considered. Second, if the relevant values have been identified, there is a need for an indicator system that helps assessing if certain design features are positively or negatively affecting their implementation. This indicator system will vary with regard to specific forms of AI technology. An adequate indicator system for the ethical development of recommendation algorithms, for example, will diverge considerably from another for autonomous road vehicles, although both are based on shared values. In this contribution, we propose solutions to both challenges with regard to the special case of the development of an AI-assisted rescue robot.

At its inception, geoethics was envisioned as a type of professional ethics concerned with the moral implications of geoscientific research, applications, and practices. More recently, however, some scholars have proposed versions of geoethics as public and global ethics. To better understand these developments, this article considers the relationship between geoethics and environmental ethics by exploring different aspects of the human-nature relation (i.e., the moral status and role of humans in relation to the non-human world). We start by noting that the main strains of geoethical thought elaborated so far represent examples of environmental virtue ethics and defend moral weak anthropocentric positions (e.g., “ethical”, “responsible” or “enlightened” anthropocentrism). Some scholars propose that such weak anthropocentric geoethics can synthesize the different positions in environmental ethics and move beyond them toward a novel and distinct approach. We compare the meaning and the use of the term “anthropocentrism” in both environmental ethics and geoethics, stressing that although geoethics is inevitably epistemically anthropocentric (i.e., anthropogenic), it does not need to be morally anthropocentric. We consider the compatibility of non-anthropocentric stances with current geoethical theory and argue for the integration of normative non-anthropocentric accounts (e.g., ecocentric) into geoethical debates and geoscience education.

Im Jahr 2012 veröffentlichte das Wirtschaftsmagazin The Economist eine Ausgabe mit dem Schwerpunktthema »The third industrial revolution«. Auf dem Cover der Zeitschrift ist ein Mann vor einem Personal Computer zu sehen, der nahtlos in eine Fabrik übergeht, aus der verschiedene Produkte hervorspringen. Dieses Bild fasst wie in einem Brennglas zwei Erwartungsmuster zusammen, welche den Diskurs um die Zukunft der Produktion prägen: nämlich zum einen die Verschmelzung von digitaler Informationsverarbeitung mit stofflicher Herstellung und zum anderen die Personalisierung und Dezentralisierung der Fertigungstechnik (The Economist 2012).

Technikethik, wie sie in diesem Handbuch verstanden wird, zielt primär darauf, durch ethische Reflexion zu ›richtigen‹ Entscheidungen in der Sache beizutragen, also in der Gestaltung und Nutzung von Technik und zum Umgang mit ihren Folgen. Technik wird als embedded technology von Beginn an in einem gesellschaftlichen Kontext gesehen, in dem bereits von ersten Designüberlegungen über die Produktion, Nutzung bis zur Entsorgung jeweils Entscheidungen zu treffen sind, die eine moralische Dimension haben und damit einer ethischen Reflexion offenstehen oder sie sogar verlangen. In der Technikethik geht es primär um ›politikpflichtige‹ Elemente an Technik wie z. B. Sicherheit- und Umweltstandards, den Schutz der Bürger vor Eingriffen in Bürgerrechte, Prioritätensetzung in der Forschungspolitik, die Gestaltung von Rahmenbedingungen für Innovation etc., so wie sie hier verstanden wird.

Technikethik befasst sich mit dem richtigen Umgang mit Technik; sie fragt danach, wie aus ethischer Sicht die Folgen und Nebenfolgen für Mensch und Natur sowohl heute als auch in Zukunft zu bewerten sind. Um wirkkräftig zu sein, müssen diese Fragen zur Technik auf verschiedenen Ebenen gestellt werden: Von der gesetzlichen Ebene, die z. B. Treibhausgasemissionen begrenzt, über Regulierungen in Form von Normen zur Nachhaltigkeitsbewertung (s. Kap. 91), bis hin zur Ingenieursethik (vgl. Mitcham 1994), die nach dem richtigen Verhalten in der ingenieurswissenschaftlichen Praxis fragt. Dies ist u. a. gerade deswegen von zentraler Bedeutung, da oftmals nur die Ingenieurin als Entwicklerin und Gestalterin von Technik in der Lage ist, die Folgen und Nebenfolgen ihres Handelns antizipierend mitzudenken (s. Kap. 32).

Bis in die Mitte des 20. Jahrhunderts war die philosophische Ethik neben Vertragstheorien geprägt von zwei ethischen Theoriefamilien: der deontologischen Ethik (s. Kap. 33) und dem Konsequentialismus, Letzter vor allem in Form des Utilitarismus (s. Kap. 31). Diese beiden Ethiktheorien scheinen in vielerlei Hinsicht diametral entgegengesetzt zu sein, etwa wenn die moralische Korrektheit einer Handlung entweder an ihren Folgen (Konsequentialismus) oder in Übereinstimmung mit einem allgemeinen moralischen Gesetz bemessen wird. Dennoch sind es in beiden Theorien die Handlungen, die bewertet werden.

Technischer Fortschritt verlangt Verantwortung. Bei der Energieerzeugung, in der Medizin- und Militärtechnik, der Neurotechnik oder in der Raumfahrt Ethikfragen stellen sich in vielen Bereichen, in denen eine rasante technische Entwicklung stattfindet. Ist diese richtig und gut? Um das entscheiden zu können, müssen Chancen und Risiken, Gefahren und Sicherheit, Fortschritt und Verantwortung bedacht und beurteilt werden. Das Handbuch präsentiert die verschiedenen Technikfelder, klärt die zentralen Begriffe und stellt die ethisch-philosophischen Grundlagen der Technikethik vor. Für die 2. Auflage wurde das Handbuch grundlegend aktualisiert und um 19 neue Kapitel, wie z.B. Autonomisiertes Fahren, Big Data, Additive Verfahren (3D-Druck) und Value Sensitive Design, erweitert.

Engineers interact with their products and processes largely through models, however rarely reflect about the nature of these models and how technical possibilities and actions are affected by the models’ properties and characteristics. Models in engineering describe the product as well as its generating process, but at the same time also shape and create them. This clearly distinguishes them from scientific models that primarily aim to describe a certain target system. While over the last decade, there has been a growing body of literature on models in the sciences, much less research has been done on models in engineering design. In this chapter we aim to fill this gap by taking a closer look at models in engineering design from an epistemic point of view. In particular we suggest a classification of different types of models used in engineering design and compare them to models used in scientific research. Thereby we do not aim at an encompassing map of models in engineering practice, but we aim to identify key categories of models with regards to their relationship to their targets. We contend that the functions of models in engineering design cannot be fully captured when focusing on the representative aspects of models alone as done in contemporary philosophy of science.

Today’s electricity supply and energy access provide the foundation for health, education, economic growth, and societal development. There are manifold interconnections between individual well-being and our energy system. We are currently witnessing an energy transition, a transition towards more sustainable energy sources and uses, and this shift will also greatly impact on human well-being in multiple ways. This transition may involve more (or less) decentralized energy technologies, the transfer of funds (within a society, or internationally), and so forth. However, the impacts this transition may have on individual well-being are not well studied. The interconnection between well-being and energy systems is, in fact, rarely spelled out. Although there are various indicator sets for sustainable energy, most of these fall short of explicating the connection between (sustainable) energy and individual well-being, and most citizens, irrespective of their educational level, are not aware of the multifaceted impacts the energy system or the energy transition may have on their personal well-being.

In present-day particle physics, empirical reasoning is highly inferential as experiments rely on complex instruments and an intensive use of computer-based methods. This paper investigates how these methods impact the evidential status of the data produced, using an expanded epistemic risk framework. Based on a case study from a top-quark physics experiment, we clarify the relationship between inductive and other epistemic risks. We argue that various epistemic risks that arise ahead of evidence affect the inductive risk of the experimental results, and propose an understanding of epistemic risk in relation to different epistemic goals. Specifically, the case study shows how experimental tasks and their associated goals relate to the epistemic aim of the experiment, by revealing modalities of risk and risk dynamics throughout the experimental process.

Nicht eine Wolke aus Asche und Staub, sondern ein „Schwarm von Daten“ habe 2010 nach dem Ausbruch des isländischen Vulkans Eyjafjallajökull den Flugverkehr zeitweise lahm gelegt, so Frank Schirrmacher (2010) in der FAZ. Die Rede ist hier von den Ergebnissen von Computersimulationen, die bei der Entscheidung über das Aussetzen des Luftfahrtgeschehens maßgeblich waren. Die von Schirrmacher geäußerte Kritik ist eine, die auch in der Wissenschaft und in der Philosophie gegen Simulationen erhoben wird: Dass Computersimulationen eben keine wirklichen Messungen oder Beobachtungen sind.

This article introduces Designing for Care (D4C), a distinctive approach to project management and technological design informed by Care Ethics. We propose to conceptualize “care” as both the foundational value of D4C and as its guiding mid-level principle. As a value, care provides moral grounding. As a principle, it equips D4C with moral guidance to enact a caring process. The latter is made of a set of concrete, and often recursive, caring practices. One of the key assumption of D4C is a relational ontology of individual and group identities, which fosters the actualization of caring practices as essentially relational and (often) reciprocal. Moreover, D4C adopts the “ecological turn” in CE and stresses the ecological situatedness and impact of concrete projects, envisioning an extension of caring from intra-species to inter-species relations. We argue that care and caring can influence directly some of the phases and practices within the management of (energy) projects and the design of sociotechnical (energy) artefacts and systems. When issues related to “value change” emerge as problematic (e.g., values trade-offs, conflicts), the mid-level guiding principle of care helps evaluate and prioritize different values at stake within specific projects. Although there may be several actors and stakeholders involved in project management and technological design, here we will focus on the professionals in charge of imagining, designing, and carrying out these processes (i.e., project managers, designers, engineers). We suggest that adopting D4C would improve their ability to capture and assess stakeholders’ values, critically reflect on and evaluate their own values, and judge which values prioritize. Although D4C may be adaptable to different fields and design contexts, we recommend its use especially within small and medium-scale (energy) projects. To show the benefits of adopting it, we envisage the application of D4C within the project management and the technological design of a community battery. The adoption of D4C can have multiple positive effects: transforming the mentality and practice of managing a project and designing technologies; enhancing caring relationships between managers, designers, and users as well as among users; achieving better communication, more inclusive participation, and more just decision-making. This is an initial attempt to articulate the structure and the procedural character of D4C. The application of D4C in a concrete project is needed to assess its actual impact, benefits, and limitations.

Am Beispiel von Indikatoren für nachhaltige Energiesysteme zeigt dieser Artikel die Notwendigkeit von zwei Wendungen in der indikatorengestützten Entscheidungsfindung heraus: Zum einen eine individualistische Wendung, zum anderen eine kontext-sensitive Wendung. Dabei ist der Begriff der Wendung hier nicht als Kehrt- oder gar Abwendung zu verstehen, sondern als Korrektiv im Sinne einer stärkeren Hinwendung. Indikatoren liefern zwar wertvolle Informationen, sowohl für die politische (etwa Ausstieg aus der Kernenergie – ja oder nein?), als auch für die individuelle Entscheidungsfindung (welche Waschmaschine kaufe ich?). Dieser Beitrag zeigt allerdings auf, dass die Konsequenzen einer zu starken Generalisierung und die Vernachlässigung individueller und kontext-sensitiver Aspekte dem ursprünglichen Anliegen, Nachhaltigkeit zu fördern oder auch nur messbar zu machen, entgegenstehen.

Im Jahr 2012 veröffentlichte das Wirtschaftsmagazin The Economist eine Ausgabe mit dem Schwerpunktthema »The third industrial revolution«. Auf dem Cover der Zeitschrift ist ein Mann vor einem Personal Computer zu sehen, der nahtlos in eine Fabrik übergeht, aus der verschiedene Produkte hervorspringen. Dieses Bild fasst wie in einem Brennglas zwei Erwartungsmuster zusammen, welche den Diskurs um die Zukunft der Produktion prägen: nämlich zum einen die Verschmelzung von digitaler Informationsverarbeitung mit stofflicher Herstellung und zum anderen die Personalisierung und Dezentralisierung der Fertigungstechnik.

Technikethik befasst sich mit dem richtigen Umgang mit Technik; sie fragt danach, wie aus ethischer Sicht die Folgen und Nebenfolgen für Mensch und Natur sowohl heute als auch in Zukunft zu bewerten sind. Um wirkkräftig zu sein, müssen diese Fragen zur Technik auf verschiedenen Ebenen gestellt werden: Von der gesetzlichen Ebene, die z. B. Treibhausgasemissionen begrenzt, über Regulierungen in Form von Normen zur Nachhaltigkeitsbewertung, bis hin zur Ingenieursethik, die nach dem richtigen Verhalten in der ingenieurswissenschaftlichen Praxis fragt. Dies ist u. a. gerade deswegen von zentraler Bedeutung, da oftmals nur die Ingenieurin als Entwicklerin und Gestalterin von Technik in der Lage ist, die Folgen und Nebenfolgen ihres Handelns antizipierend mitzudenken.

Bis in die Mitte des 20. Jahrhunderts war die philosophische Ethik neben Vertragstheorien geprägt von zwei ethischen Theoriefamilien: der deontologischen Ethik und dem Konsequentialismus, Letzter vor allem in Form des Utilitarismus. Diese beiden Ethiktheorien scheinen in vielerlei Hinsicht diametral entgegengesetzt zu sein, etwa wenn die moralische Korrektheit einer Handlung entweder an ihren Folgen oder in Übereinstimmung mit einem allgemeinen moralischen Gesetz bemessen wird. Dennoch sind es in beiden Theorien die Handlungen, die bewertet werden.

Technikethik, wie sie in diesem Handbuch verstanden wird, zielt primär darauf, durch ethische Reflexion zu ›richtigen‹ Entscheidungen in der Sache beizutragen, also in der Gestaltung und Nutzung von Technik und zum Umgang mit ihren Folgen. Technik wird als embedded technology von Beginn an in einem gesellschaftlichen Kontext gesehen, in dem bereits von ersten Designüberlegungen über die Produktion, Nutzung bis zur Entsorgung jeweils Entscheidungen zu treffen sind, die eine moralische Dimension haben und damit einer ethischen Reflexion offenstehen oder sie sogar verlangen. In der Technikethik geht es primär um ›politikpflichtige‹ Elemente an Technik wie z. B. Sicherheit- und Umweltstandards, den Schutz der Bürger vor Eingriffen in Bürgerrechte, Prioritätensetzung in der Forschungspolitik, die Gestaltung von Rahmenbedingungen für Innovation etc., so wie sie hier verstanden wird.

In this chapter we identify three practice turns in the social and philosophical study of technology that we also relate to risk analysis. The first practice turn singled out technology as a topic meriting serious investigation as a social phenomenon, the second turn steered the field towards the consideration of philosophical problems directly relating to what technology is and what engineers do. The third practice turn explicitly aims at changing the field’s practice by close collaboration with the engineers. We argue that given the entanglement of evaluative and descriptive aspects of risk, it is important to develop approaches geared at this third turn, which is only now starting to take place. We propose that phronesis can play an important role in making context-sensitive assessments of evaluative aspects of risks, and that it can be assisted by emotions and art, as sources of moral reflection.

Designing complex products involves working with uncertainties as the product, the requirements and the environment in which it is used co-evolve, and designers and external stakeholders make decisions that affect the evolving design. Rather than being held back by uncertainty, designers work, cooperate and communicate with each other notwithstanding these uncertainties by making assumptions to carry out their own tasks. To explain this, the paper proposes an adaptation of Kendall Walton’s make-believe theory to conceptualise designing as playing games of make-believe by inferring what is required and imagining what is possible given the current set of assumptions and decisions, while knowing these are subject to change. What one is allowed and encouraged to imagine, conclude or propose is governed by socially agreed rules and constraints. The paper uses jet engine component design as an example to illustrate how different design teams make assumptions at the beginning of design activities and negotiate what can and cannot be done with the design. This often involves iteration – repeating activities under revised sets of assumptions. As assumptions are collectively revised, they become part of a new game of make-believe in the sense that there is social agreement that the decisions constitute part of the constraints that govern what can legitimately be inferred about the design or added to it.

Some risks have extremely high stakes. For example, a worldwide pandemic or asteroid impact could potentially kill more than a billion people. Comfortingly, scientific calculations often put very low probabilities on the occurrence of such catastrophes. In this paper, we argue that there are important new methodological problems which arise when assessing global catastrophic risks and we focus on a problem regarding probability estimation. When an expert provides a calculation of the probability of an outcome, they are really providing the probability of the outcome occurring, given that their argument is watertight. However, their argument may fail for a number of reasons such as a flaw in the underlying theory, a flaw in the modeling of the problem, or a mistake in the calculations. If the probability estimate given by an argument is dwarfed by the chance that the argument itself is flawed, then the estimate is suspect. We develop this idea formally, explaining how it differs from the related distinctions of model and parameter uncertainty. Using the risk estimates from the Large Hadron Collider as a test case, we show how serious the problem can be when it comes to catastrophic risks and how best to address it.