Jacqueline Bellon

Dem vorliegenden Band liegt Forschungsarbeit zu dem thematisch spezifischen Forschungsgegenstand der sozialen Angemessenheit zugrunde: Sozialisation wird mit sozialer Angemessenheit zusammen gedacht, insofern Sozialisationsprozesse in einigen Hinsichten mit Fragen angemessenen Verhaltens zusammenhängen. „Techniksozialisation“ kann zweifach verstanden werden: einerseits werden Menschen auch durch und mit Technik sozialisiert, andererseits stellt sich die Frage danach, inwiefern über eine Sozialisation von Technik(en) gesprochen werden kann und ob, ggf. wie, diese gestaltungsseitig zu beeinflussen wäre. Technik ist durchzogen mit Angemessenheitsurteilen. Indem Technik gewisse Handlungsweisen nahelegt, unterstützt und sichert sowie andere verdeckt und hemmt hat sie grundsätzlich Einfluss auf Wahl, Modus und Gelingen unseres Handelns. Insofern diese Wirkung explizit oder implizit Eingang in die Gestaltung der Technik findet, bedeutet Technik zu gestalten, Handeln zu vermitteln. Insofern Technik Handeln vermittelt, bezeichnen wir sie in einem weiten Sinn als sozioaktiv. In jeder Technik sind Urteile über richtiges, nützliches, angemessenes Verhalten im Umgang mit oder unter Nutzung von dieser Technik implementiert. Im Zuge der Digitalisierung und der erweiterten Anpassungsfähigkeit und Verhaltensvarianz von ‚intelligenten‘ interaktionsfähigen Systemen wird die Wechselwirkung von Technikgestaltung, Angemessenheitsurteil und Handlungsvermittlung in verstärktem Maße problematisch und intensiviert sich u. U. sogar. In einem engeren Sinn bezeichnet das Label „sozioaktiv“ demnach die Fähigkeit von technischen Systemen aufgrund bestimmter „soziosensitiv“ etwa über entsprechende Sensoren ‚wahrgenommener‘ und verarbeiteter sozialer Signale zwischen verschiedenen dem System zugänglichen Verhaltenssequenzen zu wählen und diese an die ‚wahrgenommene‘ Situation anzupassen.

The present volume is based on research on the thematically specific research subject of social appropriateness: socialisation is thought of combined with social appropriateness, insofar as socialisation processes are in some respects related to questions of appropriate behaviour. “Technology socialisation” can be understood in two ways: on the one hand, people are socialised by and with technology, on the other hand, the question arises to what extent one can speak about a socialisation of technologies and whether, and if so how, this could be influenced on the design side. Technology is interwoven with judgments of appropriateness. By suggesting, supporting and securing certain ways of acting as well as concealing and inhibiting others, technology has a fundamental influence on the choice, mode and success of our actions. To the extent that this effect is explicitly or implicitly incorporated into the design of technology, to design technology is to mediate action. Insofar as technology mediates action, we call it socioactive in a broad sense. Implemented in every technology are judgments about correct, useful, appropriate behaviour in dealing with or using that technology. In the wake of digitalisation and the extended adaptability and behavioural variance of ‘intelligent’ systems capable of interaction, the interaction of technology design, judgments of appropriateness, and mediation of action becomes problematic to an increased degree which may even intensify. In a narrower sense, “socioactive” thus refers to the ability of technical systems to choose between different behavioural sequences accessible to the system based on certain “sociosensitively” ‘perceived’ social signals (for example, by corresponding sensors) and to adapt thereby to the ‘perceived’ situation.

Anwendungen Künstlicher Intelligenz, Maschinellen Lernens sowie Robotik und weitere informatische Systeme spielen in immer mehr Bereichen der menschlichen Lebenswelt eine immer wichtigere Rolle. Technik wird dabei auch weiterhin und zunehmend Medium menschlicher Kommunikation und Interaktion sein, darüber hinaus wird jedoch auch immer mehr menschliche Interaktion nicht nur durch sondern mit Technik stattfinden. Eine Dimension neuer Mensch-Technik-Relationen ist dabei das Phänomen sozialer Angemessenheit. Obgleich sich dieses nicht auf ein einfaches Regelwerk reduzieren lässt, verhalten sich Menschen in zwischenmenschlicher Interaktion ganz selbstverständlich sozial angemessen und treffen in der Regel ohne Weiteres ‚den richtigen Ton‘. Wie aber verhält es sich mit ‚intelligenten‘ technischen Systemen? Können – sollten – diese mit Fähigkeiten zu entsprechendem Sozialverhalten ausgestattet werden, um damit auch eine weitere bedeutsame Grenze zwischen Mensch und Technik zum Verschwinden zu bringen? Anders gefragt: Ist es möglich und erforderlich, Technik zu sozialisieren?

This chapter discusses (1) French philosopher Gilbert Simondon’s image theory by introducing his four-phase model of modes of existence of images and his idea of image evolution; and (2) applies this theory and other notions from his philosophy to the analysis of human-technology relations and the fostering of artificial intelligence (AI) literacy through culture/public discourse – thus discussing a part of what makes media futures. The argument is supported by examples of current practices of generating and sharing AI-generated synthetic images online, images produced with text-to-image generative AI applications such as MidJourney, Stable Diffusion, or DALL·E, which are shared on social media platforms like Facebook or Instagram with non-malicious intentions. These practices are interpreted as a playful engagement with technology through the lens of human-technology relations and as calling for a need for AI literacy and epistemic competence. This interpretation builds on Simondon’s image theory in Imagination and Invention and his philosophy of technology in On the Mode of Existence of Technical Objects. Overall, the contribution deals with both mental and material images, points out some human-machine differences, and discusses how living beings “host” mental images.

Sprache kann „eine Fülle von Phänomenen […] ‚vergegenwärtigen‘, die räumlich, zeitlich und gesellschaftlich vom ‚Hier und Jetzt‘ abwesend sind“ und dafür sorgen, dass „eine ganze Welt in einem Augenblick ‚vorhanden‘“ ist (Berger et al., 1980, S. 41). Sprachgebrauch ist selten oder vielleicht nie nur inhaltlich, manche Begriffe oder Worte können „signalhaft eingeschnapp[t]“ (Adorno, 1973, S. 417) sein, sie sind außerdem im zwischenmenschlichen Gebrauch nicht „unberührt von Geschichte“ und keine „austauschbaren Spielmarken“ (Adorno, 1973, S. 418). Rezeptionsseitig ergänzen Menschen als Lesende auf verschiedene Weisen hinzu: Sie müssen nicht jedes Wort einzeln lesen, um einen Eindruck vom Gelesenen zu bekommen, sie assoziieren, ergänzen, korrigieren Fehler und machen sich Vorstellungen z. B. zu Inhalt und Glaubwürdigkeit von Texten aufgrund verschiedenster Sprachmerkmale. Im Folgenden finden sich einige Überlegungen dazu, was daraus folgt, wenn Textsequenzen nicht von Menschen, sondern von Maschinen und Modellen generiert werden: Werden Begriffe mit der Verbreitung synthetischen Texts zu „austauschbaren Spielmarken“? Gilt noch, dass Sprache Abwesendes vergegenwärtigt? Inwiefern legen Wortwahl und -anordnung ggf. ungültige Rückschlüsse, z. B. auf Wahrheitsgehalte oder text-urhebende Instanzen nahe? Mit der Verbreitung syntethischen Texts und in einer Zeit, in der die text-urhebende Instanz nicht mehr durchgängig bekannt und identifizierbar ist, können Vermutungen über Informationsgehalt, Glaubwürdigkeit und Sprechereigenschaften zumindest nicht mehr in derselben Weise vorgenommen werden wie zuvor. Gleichzeitig haben Menschen zunächst einmal „für die Beschreibung und Erklärung nicht-menschlicher Phänomene keine andere Möglichkeit, als Prädikatoren, die sich in der Beschreibung und Erklärung zwischenmenschlicher Phänomene bewährt haben, auf diese zu übertragen“ (Gethmann, 2022, S. 65). Gerade deshalb müssen Menschen, so das Plädoyer des vorliegenden Beitrags, dringend neue kognitive Heuristiken in Bezug auf Sprache und deren produzierende Instanzen – zu denen heute auch große Sprachmodelle gehören und in Zukunft gehören werden – ausbilden. Zuletzt wird im vorliegenden Beitrag danach gefragt, wie generative KI-Anwendungen und Sozialisation zusammengedacht werden könnten.

Summary Based on Clausius’ phrasing of a “transformational content” and the resulting 2nd law of thermodynamics, I demonstrated that Gilbert Simondon’s On the Mode of Existence of Technical Objects is historically situated at the threshold of understanding open systems thermodynamics and the related concepts of balance. Furthermore, I showed that Gestalt theory, as represented by Wolfgang Köhler, at least reproduced, if not partially anticipated or even prepared this development of 20th century thinking. Finally, I gave some short examples of how Simondon applied the figure/ground distinction to human perception, memory, and a general theory of becoming and I introduced his proposal to analyse “the grounds” just as thoroughly as the laws of figuration.

Anwendungen Künstlicher Intelligenz, Maschinellen Lernens sowie Robotik und weitere informatische Systeme spielen in immer mehr Bereichen der menschlichen Lebenswelt eine immer wichtigere Rolle. Technik wird dabei auch weiterhin und zunehmend Medium menschlicher Kommunikation und Interaktion sein, darüber hinaus wird jedoch auch immer mehr menschliche Interaktion nicht nur durch sondern mit Technik stattfinden. Eine Dimension neuer Mensch-Technik-Relationen ist dabei das Phänomen sozialer Angemessenheit. Obgleich sich dieses nicht auf ein einfaches Regelwerk reduzieren lässt, verhalten sich Menschen in zwischenmenschlicher Interaktion ganz selbstverständlich sozial angemessen und treffen in der Regel ohne Weiteres ‚den richtigen Ton‘. Wie aber verhält es sich mit ‚intelligenten‘ technischen Systemen? Können – sollten – diese mit Fähigkeiten zu entsprechendem Sozialverhalten ausgestattet werden, um damit auch eine weitere bedeutsame Grenze zwischen Mensch und Technik zum Verschwinden zu bringen? Anders gefragt: Ist es möglich und erforderlich, Technik zu sozialisieren?

Warum und wie genau darf zu Hause oder auf einer Theaterbühne anders gehandelt werden, als im Büro; wie verändert sich die Bedeutung von Worten, je nachdem wo, von wem und wie sie gesagt werden? Warum und mit welchen Mitteln versuchen wir, höflich zu sein, und inwiefern sind wir von unangemessenem Verhalten anderer bedroht? Welches Weltwissen benötigen Beobachter, um beurteilen zu können, wann Verhalten als angemessen oder unangemessen einzustufen ist? Im vorliegenden Band untersuchen die Beitragenden das Phänomen sozialer Angemessenheit unter anderem aus philosophischer, sozialpsychologischer, soziologischer, kulturtheoretischer, linguistischer und anthropologischer Perspektive. Dabei werden insbesondere Bedingungen und Auswirkungen, Merkmale sowie Wandlungs- und Entstehungsprozesse sozialer Angemessenheit thematisiert. Die Herausgebenden Jacqueline Bellon M.A. promoviert an der TU Darmstadt und arbeitet als Philosophin, Kultur- und Sozialwissenschaftlerin. Dr. Bruno Gransche ist Philosoph am Institut für Technikzukünfte (ITZ) des Karlsruher Instituts für Technologie (KIT). Sebastian Nähr-Wagener M.A. ist wiss. Mitarbeiter am Institut für Technikzukünfte (ITZ) des Karlsruher Instituts für Technologie (KIT).

Part I of this chapter deals with conceptualizing emotion. By splitting up ‘emotion’ into an evaluative, expressive, behavioural, physiological, mental and phenomenological component, giving examples of emotion research theories and state-of-the-art technical systems, I will bring together an analytical and conceptual with empirical approaches to human-machine interaction to evaluate to what extent it may be logically appropriate to speak of ‘emotional machines’. I will give an overview of the mentioned components and their potential to be implemented into technical systems through functional equivalents. This concerns the technical recognition of emotion components in humans as well as the technical simulation/emulation of emotion components. Part II deals with human-machine relations and argues that human understanding of technical systems is crucial to a well-functioning society. I emphasise the importance of an in-depth human understanding of technical systems and plead for the integration of the voices and work of so-called mechanologists into cultural practices and discourse, from which the entire societal setup in which human-machine interaction takes place will benefit. Throughout the chapter I refer to some aspects of classical debates in psychology and philosophy on the relations of emotion, cognition, and consciousness. Additionally, I draw from psychologist and philosopher Gilbert Simondon’s, as well as from gestalt theorist Kurt Lewin’s writings.

There are several ways to look at technical objects and at human-machine interaction with regard to emotions and emotional bonding. Some research deals with machines’ ability to detect emotions in humans, some with a technical object’s options to signal emotions in a way understandable to living beings, some with how to alter human emotions with machinic help, some with the pragmatics or ethics of such endeavours. Philosophers, psychologists, and producers of machines may try to argue for or against the usefulness of technical objects ‘becoming emotional’ (i.e., to process signs of a living being’s emotions or produce signals of emotion understandable to living agents) and explore hypothetically and empirically the consequences of machinic emotion simulation. Social psychologists may study emotional attachment to or acceptancy of machines, designers may try to find ways to build technical objects according to the desired emotional impact on a human. All throughout this, discussions about human-machine relations often concentrate on positive emotions linked to the possibility of friendship, companionship, or human acceptance of machines. Where anger, hate, disappointment, indifference, or curiosity as a source of generally hostile or corrective behaviour towards technical systems are of concern this is often in a context of ‘robot abuse’ (Brscić et al. 2015), robot rights (Gunkel 2018), or in contexts in which authors argue that machines are morally considerable entities either in themselves (Ryland 2021), or, from a point of view of virtue ethics, because of the impact a human beings’ behaviour towards inanimate objects has on the human beings’ character (Coeckelbergh 2021, also cp. Ess in this volume). To add another perspective with regard to the question of how human beings relate to inanimate objects, in this contribution we will specifically analyse the merit of expressing frustration-related emotions towards technical systems in terms of aiming at the goal of a ‘good life’. To this end, we sketch how frustration expression is involved in other interactions (human-human, human-world), we theoretically grasp the frustration-related concepts of ‘trust’, cognitive and normative ‘expectation’ and refer to attributed autonomy along the way, analyse the usefulness of frustration-related emotion expression towards technical objects with and without sociosensitive and socioactive functions, and point to some arguments for and against the use of such functions.

Social appropriateness is an important topic – both in the human-human interaction (HHI), and in the human-machine interaction (HMI) context. As sociosensitive and socioactive assistance systems advance, the question arises whether a machine’s behavior should include considerations regarding social appropriateness. However, the concept of social appropriateness is difficult to define, as it is determined by multiple aspects. Thus, to date, a unified perspective, encompassing and combining multidisciplinary findings, is missing. When translating results from HHI to HMI, it remains unclear whether such insights into the dynamics of social appropriateness between humans may in fact apply to sociosensitive and socioactive assistance systems. To shed light on this matter, we propose the Five Factor Model of Social Appropriateness (FASA) which provides a multidisciplinary perspective on the notion of social appropriateness and its implementation into technical systems. Finally, we offer reflections on the applicability and ethics of the FASA Model, highlighting both strengths and limitations of the framework.