Sebastian Weydner-Volkmann

This paper investigates the impact of Large Language Model (LLM)-assisted writing on reflective thinking, building on existing adaptations of Albert Borgmann’s device paradigm to Don Ihde’s postphenomenology. Academic writing can facilitate engagement with our beliefs and pre-judgments, making it highly conducive to reflective thinking. However, generative AI tools, such as OpenAI’s ChatGPT and Microsoft Word Copilot, may undermine such meaningful engagement as they ‘disburden’ users of the effort inherent in reflective writing. Still, we fall short when we leave unexamined the kinds of uses each writing app inclines its users to pursue. Despite using the same LLM, a cross-comparison reveals that the user interface (UI) design of ChatGPT and Word Copilot affords distinct forms of interaction: ChatGPT’s UI design may, in principle, facilitate reflective engagement through conversational interactions, prompting users to formulate and engage with their beliefs on a given topic. In contrast, Word Copilot emphasizes automated document production, making a similar kind of engaging use unviable. As a conceptual basis for the argument, this paper extends Ihde’s history of writing ‘technics’ and brings it together with recent conceptual developments in postphenomenology by discussing the apps in terms of ‘quasi-materiality’ of application UIs and the affordances they offer as part of ‘multistabilities’. This paper concludes with a call for academic writers to critically assess how their tools mediate academic writing and thinking processes, arguing that choosing a writing tool for academic writing has ceased to be a matter of personal preference and has become one of academic ethos.

Der Beitrag geht davon aus, dass es die immer stärkere Ausweitung von Maßnahmen zur Gewährleistung öffentlicher Sicherheit durch den Staat notwendig macht, sich innerhalb der philosophischen Ethik dezidiert mit dem Feld der öffentlichen Sicherheit zu befassen. Von der Zielvorstellung her, wissenschaftliche Politikberatung leisten und gesellschaftliche Debatten strukturierend unterstützen zu können, entwickelt Volkmann dabei in seinem Aufsatz eine Reihe von bereichsbezogenen sowie anwendungsbezogenen Anforderungen, die eine solche angewandte Ethik für öffentliche Sicherheit inhaltlich und methodisch einlösen können muss.

The rise of ChatGPT affords a fundamental transformation of the dynamics in human-technology interaction, as Large Language Model (LLM) applications increasingly emulate our social habits in digital communication. This poses a challenge to Don Ihde’s explicit focus on material technics and their affordances: ChatGPT did not introduce new material technics. Rather, it is a new digital app that runs on the same physical devices we have used for years. This paper undertakes a re-evaluation of some postphenomenological concepts, introducing the notion of quasi-materiality to better understand the role that user interfaces (UIs) play in affording different stabilities in technological mediation. We propose the term “active User Interface” (aUI) to denote the specifics of how ChatGPT makes use of LLMs within its UI design to afford seamless, intuitive conversations with a quasi-other in what Ihde termed “alterity relations”. Drawing inspiration from Peter-Paul Verbeek’s work on the intelligification of our material world through (AI) technologies, our analysis leads to the formulation of a novel stability afforded through aUIs: “machinic embodiment stability”. This concept sheds light on how ChatGPT’s aUI integrates with our established habits of digitally mediated social communication. As the use of LLMs is expected to become increasingly prevalent, this provides a new perspective on the current evolution of the technological landscape.

This article explores the use of open-source intelligence (OSINT) techniques as part of data-driven border checks in the EU. While the idea to group travelers into risk categories in order to differentiate the intensity of border checks has been criticized for its likely impact on privacy and other fundamental rights, the exclusive use of “open,” “public” data was proposed as an alternative that mitigates these issues. However, OSINT remains a rather vague term, as it is unclear what constitutes “open” or “public” data, how the use of such techniques would contribute to the production of security, and whether its use actually mitigates most ethical issues. The goal of this article is to contribute toward a situated answer to these questions. It will provide groundwork by clarifying what OSINT practices could entail in the context of the European border checks regime and by developing an ethical perspective on these practices. I will show that the impact depends not so much on the public availability of the analyzed data, but on the specifics of the implementation of OSINT techniques. Thus, certain uses of OSINT continue to raise severe privacy and fundamental rights issues.

The fact that information and communication technologies (ICTs) increasingly shape our online and offline lifeworlds has lead to the emergence of a new societal threat in the form of vulnerabilities in critical ICT systems that may be exploited by malicious actors. Cybersecurity researchers work on finding such vulnerabilities and on identifying new attack vectors, i.e. they systematically step into the role of attackers. Normatively, however, the goal of this research is to strengthen ICTs against cyberattacks and, thus, to reduce the societal threat. However, this implies a dual-use potential: as in any discipline, results in cybersecurity research need to be published at some point and the disclosure of vulnerabilities to software companies and ICT administrators is an integral part of ensuring that ICT vulnerabilities are closed; such a disclosure, however, can be misused by attackers, as well. Thus, instruments for ethical orientation in regard of these dual-use issues seem to be necessary to identify potential issues and to guide researchers in dealing with them. While corresponding resources, such as codes of conduct, already exists for cybersecurity research, we will show that they currently do not adequately address the need for ethical orientation in the academic context. This, we argue, creates the need for a new research ethics culture in cybersecurity research.

Learning Analytics und Künstliche Intelligenz in der Hochschulbildung versprechen individualisierte und personalisierte Verbesserung des Lernens und Lehrens. Bildungstechnologien bieten aus ethischer Perspektive jedoch nicht nur Verbesserungspotentiale und -chancen, sondern sie bringen auch Risiken und potenzielle Gefahren mit sich, für das Individuum, aber auch für die Gesellschaft als Ganzes. Eine ethische Reflexion und Diskussion der Chancen und Risiken ist für eine ethisch vertretbare Gestaltung, Implementierung und Nutzung von solchen Technologien von fundamentaler Bedeutung, wie z. B. im Rahmen des Projekts KI:edu-nrw an der Ruhr-Universität Bochum. Eine solche Reflexion und Diskussion bedarf allerdings gewisser ethischer Basiskompetenzen. Das Teilprojekt Ethik entwickelte ein Konzept tugendethischer Kompetenzbildung, um u. a. disziplinäre Barrieren abzubauen sowie um Praktizierenden Basiswerkzeuge der ethischen Reflexion und Entscheidungsfindung in ihren jeweiligen Anwendungskontexten bereitzustellen. In diesem Beitrag stellen wir sowohl die theoretischen Fundamente unseres Ansatzes als auch den Prozess und die Ergebnisse unserer Arbeit dar.

Learning Analytics (LA)-based feedback applications are becoming increasingly important in higher education institutions (HEIs). However, the impact of such systems on student autonomy is contested in parts of the research debate, where hopes and ambitions of learner autonomy and self-regulated learning are confronted with fears that learners are being reduced to mere numeric constructs and are caught up in neoliberal demands to self-optimize. We explore these challenges from the debate with a focus on automated, LA feedback systems in HEIs and their impact on student autonomy. As we show, such technologies must be seen within a field of tension between heteronomous (i.e., contextual and societal) demands and autonomous, self-organized learning. Aiming to bridge the critical parts of the debate with those that highlight the potential of such technologies, we build upon meaningful conceptions of limited, situated autonomy and explore what it would mean for such feedback systems to strengthen, not undermine student autonomy. To make the concept of student autonomy applicable, we propose a list of philosophical design considerations for LA-based feedback systems. We believe that this will offer a philosophically informed intellectual tool to address common concerns raised by parts of the debate and that it can encourage further discussion on recognizing, promoting, and preserving student autonomy in higher education.

Educational disparities between traditional and non-traditional student groups in higher distance education can potentially be reduced by alleviating social identity threat and strengthening students’ sense of belonging in the academic context. We present a use case of how Learning Analytics and Machine Learning can be applied to develop and implement an algorithm to classify students as at-risk of experiencing social identity threat. These students would be presented with an intervention fostering a sense of belonging. We systematically analyze the intervention’s intended positive consequences to reduce structural discrimination and increase educational equity, as well as potential risks based on privacy, data protection, and algorithmic fairness considerations. Finally, we provide recommendations for Higher Education Institutions to mitigate risk of bias and unintended consequences during algorithm development and implementation from an ethical perspective.

Die gesellschaftspolitischen Konflikte um die Verschärfung von Fluggastkontrollen belegen, dass es bei Entscheidungen darüber, wie und mit welchen Techniken derartige Kontrollprozesse zu organisieren sind, einen Bedarf an ethischer Expertise gibt. Getroffen werden müssen solche Entscheidungen vor einem komplexen Horizont von Wertvorstellungen, der sich nicht auf den Gegensatz ‚entweder Sicherheit oder Freiheit‘ reduzieren lässt. Entsprechend muss eine informierte Entscheidungsfindung berücksichtigen, welche impliziten Wertvorstellungen uns bei der Forderung nach mehr Sicherheit durch Fluggastkontrollen leiten und welche Wertungskonflikte verschiedene Kontrolltechniken jeweils konkret implizieren. Über eine hermeneutische Lesart von John Deweys Moralpragmatismus werden in dieser Arbeit jene Wertvorstellungen rekonstruiert, die uns bei der Forderung nach Sicherheit leiten, wie auch jene, die dabei auf dem Spiel stehen. Auf dieser Basis präsentiert die Arbeit eine Methode zur operationalisierten Technikbewertung, über die verschiedene Kontrollprozesse verglichen sowie Handlungsempfehlungen generiert werden können.

Infolge der tiefgreifenden Durchdringung unserer Lebenswelt mit digitalen Systemen hat sich die gesamtgesellschaftliche Anforderung formiert, diese Systeme gegen immer neue Formen von Angriffen absichern zu können. In diesem Beitrag zeigen wir, inwiefern der IT-Sicherheitsforschung hierbei eine zentrale Rolle zukommt, aber auch, dass im Rahmen dieser Rolle eine besondere forschungsethische Problematik entsteht. Weil IT-Sicherheitsrisiken strukturell neuartige Probleme für die gesellschaftliche Gewährleistung von Sicherheit aufwerfen, treten Forschende systematisch auch in die Rolle der Angreifenden. Dabei erhöhen Forschende durch den notwendigen Schritt der Veröffentlichung gefundener Lücken die Gefährdungslage von IT-Systemen. Zugleich zielt die Entwicklung von Angriffstechniken normativ auf eine Stärkung gesamtgesellschaftlicher Sicherheit: die Sicherheitslücken sollen geschlossen und die Robustheit von IT-Systemen vergrößert werden. Hier wird ein Konflikt im Umgang mit IT-Sicherheitsrisiken deutlich, der einen Bedarf an ethischer Orientierung erzeugt. Im Beitrag zeigen wir, inwiefern sich in der Forschungspraxis auch bereits Anfänge einer systematischen ethischen Reflexion als Antwort auf diesen Bedarf herausgebildet und institutionalisiert haben. Da die Problematik im Umgang mit Sicherheitslücken aber noch nicht adäquat adressiert wird, vertreten wir die These, dass in der IT-Sicherheitsforschung der Schritt hin zu einer Bereichsethik für IT-Sicherheitsforschung erforderlich ist, um so adäquatere Orientierungsangebote für Forschende entwickeln und um die breitere gesellschaftspolitische Rolle der Sicherheitsforschung reflektieren zu können.

This article explores what John Dewey’s political philosophy can offer in regard to the current crisis in digital democracy. It focuses on two digital mechanisms, the “filter bubble” and the “echo chamber”. While there is a prominent, Dewey-inspired debate on “digital publics” in the literature, a reconstruction of the Deweyan concepts of the public and of shared experience shows that it does not adequately reflect the aspect of situated and embodied experience. Based on this, it is shown that digital media offerings must also be rooted in local contexts of experience in order to answer the challenge of those two problematic mechanisms.

Anhand der Mechanismen „Filterblase“ und „ Echokammer“ in digitalen Medien beleuchtet der Artikel, inwiefern Deweys funktionaler Öffentlichkeitsbegriff für die aktuelle Demokratiekrise mögliche Lösungsperspektiven erschließen lässt. Eine Rekonstruktion von Deweys Begriffen der Öffentlichkeit und der geteilten Erfahrung legt offen, dass der Aspekt der situativ-leiblich eingebundenen Erfahrung in der Forschungsdebatte zu digitalen Öffentlichkeiten nicht adäquat berücksichtigt wird. Darauf aufbauend lässt sich im Widerspruch zu einigen Debatten-Beiträgen zeigen, dass eine stärkere Rückbindung an lokale Lebenskontexte eine Voraussetzung dafür ist, diesen problematischen Mechanismen digitalisierter Medien zu begegnen.

Purpose The purpose of this paper is to defend the notion of “trust in technology” against the philosophical view that this concept is misled and unsuitable for ethical evaluation. In contrast, it is shown that “trustworthy technology” addresses a critical societal need in the digital age as it is inclusive of IT-security risks not only from a technical but also from a public layperson perspective. Design/methodology/approach From an interdisciplinary perspective between philosophy andIT-security, the authors discuss a potential instantiation of a “trustworthy information and communication technology (ICT)”: a solution for privacy respecting video surveillance. Here, strong data protection measures address grave concerns such as the threat of bulk biometric tracking of citizens. In a logical argument, however, the authors show that this technical notion of “trust” needs to be complemented by interlocking trust relations to justify public trust. Findings Based on this argument, the authors demonstrate that the philosophical position considering “trust in technology” to denote either “reliability” or “interpersonal trust” is too limited as it fails to address critical aspects of IT-security. In a broader, socio-technical sense, however, it is shown that several distinct accounts of trust – technical, interpersonal and institutional – should meaningfully interlock, to address concerns with ICTs. Originality/value This conceptual study demonstrates the potential of “trust in technology” for a more comprehensive evaluation of ICTs within the context of operation. Furthermore, it adds to the discussion of trust in IT-security by highlighting the layperson’s challenge of judging a technology’s trustworthiness. Vice versa, it contributes to Ethics of Technology by highlighting crucial IT-security needs.

Video surveillance is an omnipresent phenomenon in today’s metropolitan life. Mainly intended to solve crimes, to prevent them by realtime-monitoring or simply as a deterrent, video surveillance has also become interesting in economical contexts; e.g. to create customer profiles and analyse patterns of their shopping behaviour. The extensive use of video surveillance is challenged by legal claims and societal norms like not putting everybody under generalised suspicion or not recording people without their consent. In this work we propose a technological solution to balance the positive and negative effects of video surveillance. With automatic image recognition algorithms on the rise, we suggest to use that technology to not just automatically identify people but blacken their images. This blackening is done with a cryptographic procedure allowing to revoke it with an appropriate key. Many of the legal and ethical objections to video surveillance could thereby be accommodated. In commercial scenarios, the operator of a customer profiling program could offer enticements for voluntarily renouncing one’s anonymity. Customers could e.g. wear a small infrared LED to signal their agreement to being tracked. After explaining the implementation details, this work outlines a multidisciplinary discussion incorporating an economic, ethical and legal viewpoint.

Videoüberwachung ist heute allgegenwärtig. Sie dient dazu, Delikte im Nachhinein aufzuklären, zur Echtzeit-Überwachung oder zur Abschreckung. Darüber hinaus gibt es aber auch wirtschaftliche Interessen für eine Videoüberwachung und automatische Erfassung von Personen – z.B. zur Erstellung von Kundenprofilen und somit zur Analyse von Kaufverhalten. Dem gegenüber stehen Rechtsanspruche sowie ethische und gesellschaftliche Grundnormen, etwa dass Menschen nicht unter Generalverdacht gestellt oder ohne Zustimmung aufgezeichnet werden dürfen. In dieser Arbeit wird ein technischer Lösungsansatz behandelt, der eine flexible Handhabung der Videoüberwachung erlaubt. Es werden in diesem Zusammenhang neben der technischen Umsetzung auch ökonomische, ethische und juristische Fragen betrachtet. Der Lösungsansatz besteht darin, Personen auf Videoaufnahmen durch ein kryptographisches Verfahren unkenntlich zu machen, noch bevor die Aufnahmen die Kamera-Elektronik verlassen. Nur mittels eines geheimen kryptographischen Schlüssels können einzelne Zeit- und Bildbereiche einer Aufnahme wieder deanonymisiert werden, wodurch rechtlichen wie ethischen Bedenken Rechnung getragen werden kann. In kommerziellen Szenarien erlaubt es diese digitale Tarnkappe, dass Kunden z.B. im Rahmen eines Prämien-Programms freiwillig auf Anonymisierung verzichten. Während in der Literatur der Informatik bereits seit längerem Technologien für solche System beschrieben werden, werden in dieser Arbeit Wege gezeigt, wie dessen Einbettung in die Gesellschaft wirklich realisiert werden könnte.

This article explores the potential for “trust in technology” to make a productive conceptual contribution to the ethical evaluation of technology, complementing the concepts of “acceptance” and “acceptability” already established in technology assessment. It shows that for digital technologies in particular, “trust” can better address aspects of security against attacks as it allows to integrate concepts of IT security. Furthermore, “trustworthy technology” allows for a better inclusion of lay perspectives, since rationally justified trust in the sense of risk expectations can be mediated interpersonally by experts. Especially for the evaluation of digital technologies, “trust in technology” can thus bridge a conceptual gap between acceptance and acceptability.

Der Artikel beschreibt, welches Angebot über einen moralpragmatischen Ansatz in der Technikfolgenabschätzung (TA) konkret gemacht werden kann. Ethisch argumentierende TA, so die These, lässt sich mit John Dewey als eine Kartografie situativer Wertungskonflikte begreifen. Die entstehenden „moralischen Landkarten“ zu konkreten technischen Entscheidungssituationen zielen darauf ab, den Bedarf an wissenschaftsgestützter, möglichst neutraler Beratung für den öffentlich-politischen Prozess zu ermitteln. Pragmatisch kann „Neutralität“ allerdings nicht als normative Abstinenz verstanden werden. Vielmehr soll der Ausgang von einer Rekonstruktion der normativen Konflikte genommen werden, wobei die Wertvorstellungen, die in den Entscheidungssituationen technischen Handelns jeweils relevant sind, bewusst aus unterschiedlichen Perspektiven erschlossen werden.

Die Arbeit analysiert die für Hannah Arendts politische Philosophie zentrale Differenzierung von Macht und Gewalt, mit der sie einen Gegenpol zu Denkerinnen und Denkern bildet, die das Wesen der Politik explizit in gewaltsamen Strukturen sehen. Allerdings wird die Abgrenzung politischer Macht von Formen der Gewaltsamkeit in der postmodernen Arendt-Rezeption stark kritisiert. Speziell bei poststrukturalistischen Theorien – etwa bei Chantal Mouffe – wird stattdessen betont, das Zusammenschließen zu einer Gruppe und einem konsensfähigen ‚Wir‘ komme nie ohne ein Moment an gewaltsamen diskursiven Ausschlüssen und Marginalisierungen aus. Arendts begriffliche Unterscheidung von Macht und Gewalt könne daher nicht aufrechterhalten werden. Vor der Folie von Mouffes (gegen-)hegemonialem Antagonismus wird herausgearbeitet, inwiefern Arendts Philosophie durch ihren Fokus auf dem Neu-Beginnen die diskursiven Bedingungen, unter denen Handeln sich vollzieht, tatsächlich nur undeutlich in den Blick nehmen kann. Gleichzeitig wird aber auch gezeigt, dass ihre Konzepte der Welt, des Zuschauers und des Handelns im Sinne von gerere bzw. πράττειν durchaus reichhaltige Anknüpfungspunkte bieten für die Berücksichtigung gewaltsamer diskursiver Strukturen – und zwar ohne die für ihr Denken so charakteristische Unterscheidung von Macht und Gewalt aufgeben zu müssen.

This book is based on the premise that the trade-off between privacy and security is both unsound and conceals important aspects of surveillance and control. Accordingly, the authors analyse the symbiotic relationship between liberty and security, and the emptiness of both concepts when considered in isolation. They explore and contextualise different notions of risk, surveillance practices and the value of the rights to private life and data protection. Thereby, they show that surveillance and control neither necessarily attain security, nor always pose a threat to privacy and, conversely, that protecting privacy does not necessarily hamper security provision. Moreover, they appreciate how surveillance and control, mediated through technology, express and sustain specific power relationships. The book thus offers a kaleidoscope of perspectives, ranging from critical studies to international relations, law, philosophy and sociology, to rethink surveillance and control.

In “Risk Based Passenger Screening in Aviation Security: Implications and Variants of a New Paradigm”, Sebastian Weydner-Volkmann describes the current paradigm shift from ‘traditional’ forms of screening to ‘risk based passenger screening’ (RBS) in aviation security. This paradigm shift is put in the context of the wider historical development of risk management approaches. Through a discussion of Michel Foucault, Herfried Münkler and Ulrich Beck, Weydner-Volkmann analyses the shortcomings of such approaches in public security policies, which become especially evident in the aviation security context. As he shows, the turn towards methods of RBS can be seen as an attempt to address a trade-off ‘trilemma’ between the effective provision of security, the implied costs for industry and passengers, and the ethical, legal and societal implications of the screening procedures. In order to analyse foreseeable outcomes of embracing RBS, he differentiates three prototypical variants of the new paradigm on the basis of their main referent and rationale. For each variant, he then subsequently assesses the implications for the ‘trilemma’, after having unveiled the criteria of analysis that will necessarily have to be followed within a serious appraisal of RBS methods.

The book introduced in this text is based on the premise that the trade-off between privacy and security is both unsound and conceals important aspects of surveillance and control. Accordingly, the authors analyse the symbiotic relationship between liberty and security, and the emptiness of both concepts when considered in isolation. They explore and contextualise different notions of risk, surveillance practices and the value of the rights to private life and data protection. Thereby, they show that surveillance and control neither necessarily attain security, nor always pose a threat to privacy and, conversely, that protecting privacy does not necessarily hamper security provision. Moreover, they appreciate how surveillance and control, mediated through technology, express and sustain specific power relationships. The book thus offers a kaleidoscope of perspectives, ranging from critical studies to international relations, law, philosophy and sociology, to rethink surveillance and control.

This book is based on the premise that the trade-off between privacy and security is both unsound and con-ceals important aspects of surveillance and control. Accordingly, the authors analyse the symbiotic relati-onship between liberty and security, and the emptiness of both concepts when considered in isolation. They explore and contextualise different notions of risk, surveillance practices and the value of the rights to pri-vate life and data protection. Thereby, they show that surveillance and control neither necessarily attain security, nor always pose a threat to privacy and, conversely, that protecting privacy does not necessarily hamper security provision. Moreover, they argue that surveillance and control, mediated through technolo-gy, express and sustain specific power relationships. The book offers a kaleidoscope of perspectives, ranging from critical studies to international relations, law, philosophy and sociology, to rethink surveillance and control.