Murilo M. Vilaça

A Inteligência Artificial (AI) é a mais nova hype tecnológica. Embora envolva grande diversidade de tecnologias, uma imagem genérica, superpoderosa, fortemente negativa e, no limite, distópica da IA tem sido disseminada, especialmente por obras de ficção científica. Recentemente, sobretudo após o lançamento do ChatGPT, houve uma explosão de publicações jornalísticas e acadêmicas, que, em parte, reforçam esse imaginário. Nas abordagens acadêmicas, os riscos seguem em destaque e, inclusive, cenários apocalípticos relacionados à AI são levados em consideração. A preocupação ética, então, assume um sentido eminentemente negativo e os possíveis benefícios das AIs, muito mais realistas, são subfocalizados. Neste artigo, destacamos a importância de ir além da hype, desenvolvendo abordagens multi/interdisciplinares, delimitadas, realistas e ponderadas. Recorrendo à inteligência coletiva expressa na interação entre pesquisadores de três áreas (ciência da computação, linguística e filosofia), abordamos uma ferramenta de tradução automática (Machine Translation) gratuita: Google Translate. Nosso objetivo é mostrar que abordagens bem delimitadas, multidisciplinares, tecnicamente respaldadas e que não adotem o discurso sensacionalista nos conduzem a reflexões epistemicamente mais consistentes e crítico-normativas mais ponderadas, o que seria fundamental para o avanço do debate sobre AI.

Human extinction is something generally deemed as undesirable, although some scholars view it as a potential solution to the problems of the Earth since it would reduce the moral evil and the suffering that are brought about by humans. We contend that humans collectively have absolute intrinsic value as sentient, conscious and rational entities, and we should preserve them from extinction. However, severe threats, such as climate change and incurable viruses, might push humanity to the brink of extinction. Should that occur, it might be useful to envision a successor to humans able to preserve and hand down its value. One option would be to resort to humanoid robots that reproduce our salient characteristics by imitation, thanks to AI powered by machine learning. However, the question would arise of how to select the characteristics needed for our successors to thrive. This could prove to be particularly challenging. A way out might come from an algorithm entrusted with this choice. In fact, an algorithmic selection both at the social and at the individual level could be a preferred choice than other traditional ways of making decisions. In this sense, reflecting on human extinction helps us to identify solutions that are also suitable for the problems we face today.

Resumo: neste artigo, examinamos a ideia de que o transumanismo é uma religião. Para isso, partimos de uma definição prototípica do transumanismo, que orientará nossa abordagem. Na sequência, apresentamos a ideia de transumanismo como um tipo de religião. Além de destacar as semelhanças entre transumanismo e religião apontadas pelos defensores de tal possibilidade de associação/identificação, apresentamos algumas das suas alegações fundamentais, concluindo a seção com uma lista de diferenças entre transumanismo e religião. Em seguida, tendo em mente semelhanças e diferenças, analisamos as alegações apresentadas na seção anterior, o que nos leva à contestação da plausibilidade daquela ideia. Concluímos o artigo com uma breve reconstrução da teoria habermasiana da religião, a fim de fundamentar a manutenção da separação entre as esferas da ciência e da religião, o que seria fundamental para salvaguardar o horizonte epistêmico e normativo das sociedades pós-metafísicas, democráticas e pluralistas.

No artigo, abordo a ideia de melhoramento humano (MH), visando a contestar três frustrantes tendências dos seus críticos, a saber, as ideias de: (1) que a natureza humana será artificializada, sugerindo que estaremos diante de algo novo e incomparavelmente perigoso, bem como que ainda seja possível preservar uma separação radical entre natureza e técnica; (2) que é possível abordar e criticar o MH a partir de uma singularidade semântica; e, diretamente relacionada à anterior, (3) que há univocidade entre os defensores do MH acerca de como os indivíduos devem lidar com os meios biotecnocientíficos disponibilizados, a saber, como uma ingênua e acrítica obrigação de melhorar. In this paper, I discuss the idea of human enhancement (HE). My goal is to refute three frustrating trends in the HE criticism, namely the ideas that: (1) human nature will become artificial, suggesting that we will be facing something new and uniquely dangerous, and that it is still possible to preserve a radical separation between nature and technique; (2) it is possible to address and criticize HE from a semantic uniqueness, which is directly related to the previous item; and (3) there is an univocity among the HE's defenders on how individuals should handle the available bio-techno-scientific tools made available, namely, as a naive and uncritical obligation to become enhanced

The generic idea that the human should enhance seems uncontroversial. However, there is a great controversy about the meaning of enhance and the means that should be used. The possibilities of enhance humans through the use of biotechnology are a central theme of the current bioethical debate. Human Enhancement is the concept used to translate the idea that a biotransformation would generate a bioenhancement. In this article, we present a proposal for a factual-elementary framework of the generic concept of human enhancement, in order to highlight the differences between a normative terminology and a descriptive terminology. Then, we contest the radical polarization that creates a harmful bias in the debate, arguing that what is at issue is a decision making based on non-universal value judgments

Uma forma de compreender o humano é pela sua biologia, a qual pode ser vista como ambígua. Por um lado, há características biológicas correlacionadas a capacidades extremamente especializadas e complexas, as quais abrem possibilidades que lhe são particulares, distinguindo-o ‘positivamente’ dos outros seres vivos. Por outro, como todo ser vivo, há características que tornam a vida humana finita e relativamente vulnerável, as quais costumam ser ‘negativamente’ interpretadas. Em ambos os casos, há características biológicas que, em si, não são boas nem más, apenas são, constituindo uma espécie biológica. No debate bioético, tem havido uma passagem direta de fatos para valores, de modo que o fato do humano ser biologicamente vulnerável justificaria uma opção valorativa pela superação de algumas características biológicas. Postulando uma tensão entre fatos e valores, nosso objetivo é mostrar a pertinência de submeter os meios biotecnocientíficos de melhoramento humano à regulação proveniente da proteção da liberdade de escolha baseada na autocompreensão existencial do indivíduo (que chamaremos de escolha hermenêutica), medida fundamental para evitar ou combater formas de opressão num contexto biopolítico.

Following a trend in bioethical/applied ethics approaches, one of the frustrating features of studies on technological human enhancement is their dichotomous tendency. Often, benefits and risks of technological human enhancement are stated in theoretically and empirically vague, polarized, unweighted ways. This has blocked the debate in the problematic ‘pros vs. cons’ stage, leading to the adoption of extremist positions. In this paper, we will address one side of the problem: the focus on risks and the imprecise approach to them. What motivates our approach is the identification of the weaknesses of the anti-enhancement criticism, which stem from its use of the concept of risk, as well as the heuristic of fear and the precautionary principle. Thus, ‘taking a step back’ to move forward in the debate, our purpose is to establish some theoretical foundations concerning the concept of risk, recognizing, at the same time, its complexity and importance for the debate. Besides the concept of risk, we emphasize the concept of existential risk, and we make some considerations about epistemic challenges. Finally, we highlight central features of more promising approaches to move the debate forward. Keywords: Human enhancement technologies, risk, uncertainty, conceptual problem, epistemic challenges.

Um modo de aperfeiçoamento humano desponta, atualmente, como inovador e problemático: o bioaperfeiçoamento. Concebendo o humano como um ser fundamentalmente biológico e o seu aperfeiçoamento como uma matéria basicamente biotecnocientífica, esta modalidade de melhoramento causa sentimentos opostos. Inobstante opostos, o medo e a esperança referem-se, grosso modo, a um mesmo ponto: a alteração da natureza humana. Este artigo analisa o conceito de natureza humana, a fim de mostrar como uma acepção ampliada oferece ganhos teórico-conceituais, permitindo outra visada sobre pontos fundamentais desse tema central em ética aplicada