Alkis Gounaris

Στο κεφάλαιο αυτό επιχειρείται μια εισαγωγή στη φιλοσοφία της νόησης και της συνείδησης των ζώων. Αρχικά χαρτογραφείται το διεπιστημονικό πεδίο έρευνας, καθώς και τα διαφορετικά επίπεδα περιγραφής, όπως αυτά οργανώνονται στη μελέτη της συμπεριφοράς, των γνωσιακών και υπολογιστικών λειτουργιών και του νευροβιολογικού υποβάθρου του νου. Στη συνέχεια, διευκρινίζεται ο ρόλος της φιλοσοφίας σε αυτήν την έρευνα, κυρίως μέσω της επιστημολογίας και της φιλοσοφίας της επιστήμης. Προσεγγίζονται συνοπτικά οι κυριότεροι όροι που συγκροτούν το εννοιολογικό πλαίσιο και επισημαίνονται οι λεπτές διαφορές στη σημασία των όρων κατά τη χρήση τους από τα επιμέρους πεδία επιστημονικής εξειδίκευσης. Παράλληλα, σημειώνονται τα βασικά φιλοσοφικά ζητήματα που συνοδεύουν την εννοιολογική αποσαφήνιση, και επισημαίνεται η σπουδαιότητα που έχει η αφετηριακή θέση που λαμβάνει κάθε ερευνητής απέναντι σε αυτούς τους όρους για τον τρόπο που θα αναπτύξει την ερευνητική του μεθοδολογία και θα καταλήξει σε συμπεράσματα. Τέλος, επιχειρείται μια συνοπτική παρουσίαση των βασικών εμποδίων στη μελέτη των νοητικών καταστάσεων των ζώων, με έμφαση στο θέμα της γλώσσας, του ανθρωπομορφισμού, του θεωρητικού εμποτισμού και του γνωσιολογικού ορίου των άλλων νόων. Η συγκεκριμένη εισαγωγή έχει ως στόχο να συμβάλει στην ομαλοποίηση του ερευνητικού πεδίου και να καταδείξει ότι η κατανόηση των ανθρωποκεντρικών δεσμεύσεων στη μελέτη της νόησης, της νοημοσύνης και της συνείδησης των ζώων αποτελεί το πρώτο βήμα για μια υπέρβαση τους, έτσι ώστε να γίνει εφικτή η αναγνώριση του πλούτου και της ποικιλότητας των νοητικών φαινομένων που αναδύονται μέσα από την αλληλεπίδραση των ζώων με το περιβάλλον τους.

Ο συλλογικός τόμος Νόηση και Συνείδηση στα Ζώα περιλαμβάνει μέρος του ερευνητικού έργου φοιτητών και διδασκόντων του Προγράμματος Μεταπτυχιακών Σπουδών «Ζώα: Ηθική, Δίκαιο, Ευζωία» της περιόδου 2020–2025. Το έργο υπερβαίνει τα στεγανά των ετερόκλιτων επιστημονικών εξειδικεύσεων των συγγραφέων του και συμβάλλει στη σύνθεση νέας γνώσης και νέων θεωρητικών οπτικών που, αφενός, έχει διεπιστημονικό ενδιαφέρον, και, αφετέρου, εντάσσει τη φιλοσοφία και, δη, την εφαρμοσμένη της εκδοχή στον πυρήνα της επιστημονικής έρευνας. Σκοπός αυτού του τόμου είναι να εισάγει τον μη μυημένο αναγνώστη στο δύσβατο και πολυεπίπεδο πεδίο μελέτης της νόησης και συνείδησης των ζώων και να δείξει το πώς η φιλοσοφία μπορεί να συμβάλλει πρακτικά στην εννοιολογική αποσαφήνιση και καθαρότητα, στην αναγνώριση των ερευνητικών εμποδίων, στη λογική ανάλυση, στην πρόταση θεωρητικών μοντέλων και στη συγκρότηση ενιαίου σώματος μελέτης, ακόμα και στις περιπτώσεις που υπάρχουν διαφορετικές αφετηριακές θέσεις και οπτικές στην ανάγνωση, ερμηνεία και αξιολόγηση των ερευνητικών ερωτημάτων.

Ο συλλογικός τόμος Νόηση και Συνείδηση στα Ζώα περιλαμβάνει μέρος του ερευνητικού έργου φοιτητών και διδασκόντων του Προγράμματος Μεταπτυχιακών Σπουδών «Ζώα: Ηθική, Δίκαιο, Ευζωία» της περιόδου 2020–2025. Το έργο υπερβαίνει τα στεγανά των ετερόκλιτων επιστημονικών εξειδικεύσεων των συγγραφέων του και συμβάλλει στη σύνθεση νέας γνώσης και νέων θεωρητικών οπτικών που, αφενός, έχει διεπιστημονικό ενδιαφέρον και αφετέρου, εντάσσει τη φιλοσοφία και δη την εφαρμοσμένη της εκδοχή στον πυρήνα της επιστημονικής έρευνας. Σκοπός αυτού του τόμου είναι να εισάγει τον μη μυημένο αναγνώστη στο δύσβατο και πολυεπίπεδο πεδίο μελέτης της νόησης και συνείδησης των ζώων και να δείξει το πώς η φιλοσοφία μπορεί να συμβάλλει πρακτικά στην εννοιολογική αποσαφήνιση και καθαρότητα, στην αναγνώριση των ερευνητικών εμποδίων, στη λογική ανάλυση, στην πρόταση θεωρητικών μοντέλων και στη συγκρότηση ενιαίου σώματος μελέτης, ακόμα και στις περιπτώσεις που υπάρχουν διαφορετικές αφετηριακές θέσεις και οπτικές στην ανάγνωση, ερμηνεία και αξιολόγηση των ερευνητικών ερωτημάτων.

Οι περισσότεροι από εμάς γνωρίσαμε τον HAL 9000 ως βασικό πρωταγωνιστή της ταινίας του Stanley Kubrick «2001, Η Οδύσσεια του Διαστήματος», της οποίας το σενάριο βασίστηκε σε διηγήματα του Arthur Clarke. Ο HAL, ένας Ευρετικά Προγραμματισμένος Αλγοριθμικός Υπολογιστής –μια εξελιγμένη μορφή Τεχνητής Νοημοσύνης (TN)– προκειμένου να διασφαλίσει την επιτυχία της αποστολής που έχει αναλάβει, όταν κατάλαβε ότι αυτή κινδυνεύει, αποφάσισε να σκοτώσει το πλήρωμα του διαστημόπλοιου μέσα στο οποίο ήταν εγκατεστημένος, και να αποκτήσει τον έλεγχο. Βρισκόμενος στο κατώφλι των καταιγιστικών τεχνολογικών εξελίξεων του 21ου αιώνα, ο Daniel Dennett, ο οποίος συμμετείχε τότε σε ένα ακριβοπληρωμένο αλλά αποτυχημένο –όπως αποδείχθηκε στη συνέχεια– πρόγραμμα κατασκευής ευφυούς ΤΝ, δημοσιεύει το δημοφιλές πλέον κείμενό του, σχετικά με τα ηθικά ζητήματα που αφορούν την εξέλιξη της τεχνολογίας των ηλεκτρονικών υπολογιστών, θέτοντας το ερώτημα «When HAL Kills, Who’s to Blame?». Δυο δεκαετίες μετά, επαναδιατυπώνοντας το κλασικό πλέον ερώτημα του Daniel Dennett, επιχειρώ να τονίσω την ανάγκη για μια επικαιροποιημένη φιλοσοφική απάντηση, υπό το πρίσμα τόσο των σημερινών εξελίξεων στον τομέα της TN, όσο και εκείνων του άμεσου μέλλοντος.

When we talk about enhancement or modifying the human body, we often put forward the argument of the limits of human nature, and therefore, acts that violate those limits are judged negatively. This view, however, contains assumptions that lead to logical fallacies. In the face of the new era, where scientific and technological achievements are changing human capabilities, we will increasingly be confronted with ethical dilemmas as well as dilemmas at a practical, political and institutional level. As a guide when dealing with such dilemmas, in this article we will firstly attempt to free ourselves from the logical fallacy of resorting to the argument of violating the limits of human nature, and secondly to see how the prevailing ethical and political stances address the dilemmas associated with human enhancement. For illustration purposes we will adopt two points of view: Iron Man's and Aristotle's. The first one focuses on human potential, free will and individual rights. The second one focuses on social purpose, social justice and human eudaimonia within the community. Both viewpoints set criteria and conditions for the enhancement and improvement of human nature, but fail to provide a satisfactory answer that could act as a rule in practical terms, so that a future legislator can take a clear stand on these issues. A safe and at the same time practical approach would be to think beyond personal volition and social purpose, with a general perspective that will help us exculpate and stop demonizing human enhancement. Could there be a minimum “eligibility” condition, according to which any enhancement that satisfies it, could be legitimized in the future? On the way to this quest, it is our duty to approach without fear but with prudence, self-restraint, respect and care for mankind and our fellow man, the inevitable, immediate future that is now visible in front of us.

This paper is an extended synopsis of my thesis, where I attempt, on one hand, to classify some of the main problems in the philosophy of mind (such as intentionality, the body-mind problem, qualia, and the subjective experience of the world). On the other hand, I aim to formulate a hypothesis for the naturalistic foundation of human mind and intelligence. The common thread in this investigation is the question of meaning, or in other words, mental content, and how something can mean one thing and not another.

Η συζήτηση περί απόδοσης ηθικού καθεστώτος σε συστήματα Τεχνητής Νοημοσύνης (Τ.Ν.) παρουσιάζει ολοένα και μεγαλύτερο ενδιαφέρον, τόσο σε ακαδημαϊκό επίπεδο όσο και σε επίπεδο θεσμών, καθώς οι εκθετικά αυξανόμενες τεχνολογικές δυνατότητες μετασχηματίζουν την μέχρι πρότινος θεωρητική άσκηση σε ρεαλιστική προοπτική. Η υπολογιστική ισχύς των μηχανών και η αυτονόμηση της λειτουργίας τους, εγείρουν πιεστικά ερωτήματα σχετικά με τη δυνατότητα απόδοσης ηθικού καθεστώτος και δη «ευθύνης» στα ίδια αυτά δρώντα συστήματα. Στο παρόν κείμενο εξετάζουμε κριτικά τους συνήθεις τρόπους προσέγγισης των εν λόγω ερωτημάτων, λαμβάνοντας ως παράδειγμα εργασίας την περίπτωση των αυτόνομων οπλικών συστημάτων (Lethal Autonomous Weapons Systems: LAWS), καθώς η δράση τους συνυφαίνεται με αποφάσεις ζωής και θανάτου, καθιστώντας τα ίσως την πλέον αιχμηρή έκφανση της Τ.Ν. Εντούτοις, η από μέρους μας επιχειρούμενη κριτική ανάλυση γίνεται με τέτοιο τρόπο ώστε να έχει και μια γενικότερη ισχύ, πέραν της περίπτωσης των αυτόνομων όπλων Τ.Ν. Εκκινώντας από κλασικές θέσεις υπέρ της απόδοσης ηθικού καθεστώτος στα συστήματα αυτά, αναδεικνύουμε τα λογικά σφάλματα και τα επιστημολογικά κενά των συγκεκριμένων επιχειρημάτων, υιοθετώντας εν τέλει μια σκεπτικιστική στάση ως προς τη δυνατότητα ικανοποιητικής διευθέτησης του ζητήματος απόδοσης ηθικής ευθύνης στα συστήματα Τ.Ν.

The debate over the attribution of personhood to non-human entities is of an increasing concern to both academia and institutions. The intelligence, autonomy and efficiency exhibited by modern AI systems, raise pressing questions regarding the moral responsibility issues their use entails. In our paper we focus our discussion on autonomous war machines, as their actions touch upon issues of life and death and their design, production and use cause philosophical controversies. Prompted by the classic position of Daniel Dennett, defending the possibility that autonomous intelligent systems are responsible for their actions, we consider a) the argument of cognitive and / or functional equivalence of humans and machines, b) the argument of autonomy as such and c) the argument of excessive efficiency of the actions of intelligent machines. Our investigation upholds a skeptical stance towards the issue of recognition of moral personhood, while illuminating aspects such as the difference between cognition and intelligence, the necessary and sufficient conditions that imply moral responsibility and the differences between the ontological and the epistemological examination of the above problems. Finally, the contradiction between the demand for clear and solid decision-making criteria and the endless nature of a philosophical analysis that strives to be consistent is emphasized.

Ένα από τα πιο ενδιαφέροντα και προκλητικά ζητήματα της Ηθικής της Τ.Ν. που θα κληθούμε να αντιμετωπίσουμε στο άμεσο μέλλον έχει να κάνει με την κατασκευή και χρήση υπολογιστικών συστημάτων για ρυθμιστικούς σκοπούς και, συγκεκριμένα, συστημάτων Τ.Ν. που θα προβαίνουν στη λήψη αποφάσεων ηθικής ή νομικής φύσης, συμμετέχοντας καθοριστικά στη λειτουργία απόδοσης Δικαιοσύνης. Η λήψη αποφάσεων per se, δεν συνιστά εν πρώτοις οξύ πρόβλημα, καθώς ήδη εφαρμογές Τ.Ν., που χρησιμοποιούμε στην καθημερινότητά μας, λαμβάνουν αποφάσεις οι οποίες ενδεχομένως να έχουν εμμέσως κάποιον ηθικό αντίκτυπο, όμως τα κριτήρια λήψης των αποφάσεών τους δεν είναι ηθικά ή νομικά και o ρόλος τους παραμένει κατά βάση εισηγητικός. Σε αντίθεση με τέτοιου τύπου «Εισηγητικά Συστήματα Τ.Ν.», στο μέλλον είναι πολύ πιθανό να δημιουργηθούν «Ρυθμιστικά Συστήματα Τ.Ν», δηλαδή συστήματα που δεν θα εισηγούνται απλώς, αλλά θα λαμβάνουν τα ίδια αποφάσεις, με βάση ηθικά κριτήρια ή κριτήρια δικαίου εν γένει, και θα μπορούν να χρησιμοποιηθούν στο άμεσο μέλλον για νομοθετικό έργο, απόδοση δικαιοσύνης, καθορισμό κυβερνητικών ή εταιρικών πολιτικών ή ακόμα και για αξιολόγηση της καθημερινής μας συμπεριφοράς.

Η διεπιστημονικότητα και οι διεπιστημονικές συνεργασίες εν γένει βρίσκονται, τις τελευταίες δεκαετίες, στο επίκεντρο των ερευνητικών προγραμμάτων καθώς και των πολιτικών χρηματοδότησης. Ωστόσο, τα εμπειρικά δεδομένα δείχνουν ότι πολλές διεπιστημονικές συνεργασίες δυσκολεύονται να επιτύχουν ουσιαστική σύνθεση γνώσης και να ενσωματώσουν τις ανθρωπιστικές και κοινωνικές επιστήμες στην αντιμετώπιση πολύπλοκων προβλημάτων, όπου ο ρόλος τους είναι καθοριστικός. Στην παρούσα δημοσίευση υποστηρίζεται ότι ένα σημαντικό μέρος αυτών των δυσκολιών δεν οφείλεται πρωτίστως σε γλωσσικά ή επικοινωνιακά εμπόδια, αλλά στις επιστημολογικές και μεταφυσικές παραδοχές που συγκροτούν τις διαφορετικές κοσμοθεωρίες των συνεργαζόμενων επιστημονικών πεδίων και οδηγούν στη μεταξύ τους απόκλιση, μειώνοντας την αποτελεσματικότητα της συνεργασίας. Για την αντιμετώπιση αυτής της πρόκλησης διατυπώνεται η υπόθεση ότι η διάγνωση, αποτύπωση και ανάλυση των αρχικών επιστημολογικών και μεταφυσικών παραδοχών των συνεργαζόμενων σε ένα διεπιστημονικό έργο πεδίων μπορεί να συμβάλει στη βελτίωση της διεπιστημονικής πρακτικής. Η αμοιβαία κατανόηση των διαφορετικών εννοιολογικών όρων, των αντιλήψεων σχετικά με την επιστημονική μέθοδο, τον ρόλο της γλώσσας, τον ρόλο της λογικής και ευρύτερα των αρχών που χαρακτηρίζουν κάθε κλάδο της επιστήμης, μπορεί να επιτευχθεί εντοπίζοντας τα θεμελιώδη σημεία σύγκλισης ή απόκλισης των αφετηριακών στάσεων με τις οποίες εισέρχονται ερευνητές διαφορετικών κατευθύνσεων στις διεπιστημονικές συνεργασίες. Σε αυτό το πλαίσιο παρουσιάζεται ένα νέο φιλοσοφικό εργαλείο διάγνωσης επιστημολογικών στάσεων, το οποίο τυποποιεί και αποτυπώνει τις αφετηριακές παραδοχές των μελών μιας διεπιστημονικής ομάδας, ενώ εισάγεται ο «δείκτης γνωσιακής αρετής» ως κεντρική καινοτομία του εργαλείου. Το εργαλείο λειτουργεί ψηφιακά, δεν προϋποθέτει την παρουσία facilitator και ενισχύει την επιστημολογική αυτογνωσία και την αυτορρυθμιζόμενη προσαρμογή των συνεργαζόμενων μερών προς μια κατεύθυνση γνωσιακής ευθυγράμμισης για την επίτευξη του σκοπού της διεπιστημονικής συνεργασίας.

In recent years, Artificial Intelligence has concentrated its research interest in the philosophical theories of embodied cognition. Seeking a way out of the GOFAI’s dead-end attempt to develop intelligent robots with the ability to perform complex tasks in unknown and changing environments, AI adopted basic principles of the EC, like the body’s direct interactions with the world. This view inspired AI researchers to abort traditional “sense-plan-act” architectures in favor of bottom-up approaches that focused on the integration of action and perception. However, the embodied AI community, tried to integrate these concepts by encapsulating them into frameworks that relied heavily in fundamental assumptions and mechanisms, that violated core principles of EC, both ontologically and practically, as in the utilization of sensorimotor knowledge in the sense of information extraction -instead of using sensorimotor knowledge in the sense of a meaningful “know-how”, the utilization of internal states and representations coupled with computational information processing based architectures, and the conceptualization of affordances grounded in categorization and internal representations. In this paper our objective is to identify and classify the fundamental principles and properties, by which embodied AI and EC differ, in a philosophical as well as in a technical context. In our view, grasping this fundamental ontological bounds, apart from being philosophically interesting, will contribute to the understanding of the limits of the capabilities of embodied AI, compared to the concept of embodied cognition.

This paper explores the application of Aristotelian virtue (arête), as quality of excellence and as a key notion of ethics, to AI systems as classified in the EU Artificial Intelligence Act. It argues that while the Act’s approach based on ‘ethical data’ and ‘prima facie values’ aligns with the Rossian paradigm, such principles may not be suitable for all AI systems, particularly those in ‘limited’ or ‘minimal risk’ zones. The paper suggests that the Aristotelian concept of virtue can be effectively applied to designing, training, operating and using no-risk or low-risk AI systems. However, its application to the design and training of high-risk areas such as migration, asylum, border control, and justice, where clearly defined objectives are essential, requires ongoing consideration. The paper concludes that by distinguishing between (a) design, development, training, deployment, operation and use, (b) by stage evaluation of systems, and c) virtuous use of the systems, Aristotelian ethics can serve as a post ex evaluating method for all-risk AI systems, while further research and the potential use of regulatory sandboxes are needed to explore the integration of Aristotelian virtues into the design, development and training of such applications. Finally, we propose a virtuous-based ‘AI Seal of Excellence’ certification process, which empowers the virtuous use of AI systems.

At the turn of the 21st century, Susan Leigh Anderson and Michael Anderson conceived and introduced the Machine Ethics research program, that aimed to highlight the requirements under which autonomous artificial intelligence systems could demonstrate ethical behavior guided by moral values, and at the same time to show that these values, as well as ethics in general, can be representable and computable. Today, the interaction between humans and AI entities is already part of our everyday lives; in the near future it is expected to play a key role in scientific research, medical practice, public administration, education and other fields of civic life. In view of this, the debate over the ethical behavior of machines is more crucial than ever and the search for answers, directions and regulations is imperative at an academic, institutional as well as at a technical level. Our discussion with the two inspirers and originators of Machine Ethics highlights the epistemological, metaphysical and ethical questions arising by this project, as well as the realistic and pragmatic demands that dominate artificial intelligence and robotics research programs. Most of all, however, it sheds light upon the contribution of Susan and Michael Anderson regarding the introduction and undertaking of a main objective related to the creation of ethical autonomous agents, that will not be based on the “imperfect” patterns of human behavior, or on preloaded hierarchical laws and human-centric values.