Carlos Barth

Há crescente confiança em sistemas algorítmicos, particularmente aqueles baseados em Inteligência Artificial (IA), cujo modo de operação denominamos cálculo. Eles influenciam e substituem tomadores de decisão humanos em domínios cada vez mais sensíveis. Isso ocorre a despeito de profundas divergências no modo como o juízo humano e o cálculo operam, e de persistentes desafios à tentativa de superá-las. Neste artigo, defendemos que essa confiança é desmedida e decorre parcialmente de uma falha em perceber o fenômeno da colonização do juízo pelo cálculo: o que aparece como uma crescente acurácia na simulação do juízo é, em boa medida, fruto de uma crescente influência do cálculo no modo como o juízo opera, delimitando seus contextos de operação e incitando a adoção de suas trajetórias inferenciais. Isso se mostra em habilidades cognitivas fundamentais, como a de determinar fatores relevantes em quaisquer contextos, inclusive os de deliberação moral.

Este livro é fruto de um esforço para pensar a relação entre Filosofia, Ética e Ciência. Ele nasce de uma proposta de parceria entre os grupos de pesquisa Ética e Ciência, Desafios para uma Ética Contemporânea e Estudos Vazianos. Também é o resultado da colaboração entre FAJE, ISMD, FDLM e PPGFIL-UFPI. O ponto de partida, que anima a reflexão, são as propostas dos filósofos Henrique Cláudio de Lima Vaz e Jean Ladrière. Estes autores nos descortinam questões que são abordadas no livro a partir de perspectivas distintas e tradições filosóficas variadas.

A Inteligência Artificial clássica tem um lugar fundacional em Brandom: as práticas cujo domínio constitui a posse de um vocabulário são a aplicação de uma série de algoritmos. A explicitação desses algoritmos fornece uma explicação para o projeto brandomiano de trazer para o jogo de dar e receber razões os comprometimentos inferenciais implícitos em nossas práticas. Esse projeto falha por uma razão já bem conhecida na IA, o frame problem. Brandom propõe uma solução para o frame problem através de aprendizado por treinamento. A proposta de Brandom se aproxima de redes neurais desenvolvidas através do aprendizado de máquina. Se essa aproximação não permite a manutenção do quadro brandomiano de Between Saying and Doing, o paralelo com Making it Explicit traz uma consequência importante para a compreensão do projeto da Inteligência Artificial Explicável, a saber, tornar explícitos os comprometimentos inferenciais implícitos de processos decisórios que afetam nossa vida em comum.

This work aims to contribute to the explanation of cognitive capacities that are essential to human intelligence: commonsense and situation holism. The attempt to explain them within the field of cognitive sciences raises a foundational challenge. How can human cognition distinguish what’s relevant and what’s not in an open-ended set of contexts? The challenge is characterized by a circularity. Potential solutions end up relying on the very capacity that they should be explaining, i.e. the sensitivity to what’s contextually relevant. The argument here developed is an attempt to get out of this circularity. It is grounded on a bi-dimensional analysis of the problem. The first one is representational and is about how cognitive knowledge on what’s relevant can be stored. This dimension is related to the frame problem from artificial intelligence. I claim that this representational aspect of the issue can be neutralized by abandoning language-like representational schemes and sticking to a plurality of structural ones. They allow representational states to play a clear and non-trivial explanatory role while enabling a kind of representational productivity that is not bothered by the frame problem. The second dimension is the inferential one. It encompasses our relevance-sensitive inferential productivity, i.e. our capacity to efficiently infer what’s relevant in indefinitely many contexts, including ones we’ve never faced before. I argue that such relevance sensitivity cannot be neither innate, for innate mechanisms result in the aforementioned circularity, nor learned through innate mechanisms, for learning processes themselves rely on relevance sensitivity. The suggested alternative is that relevance sensitivity is a cognitive gadget. A kind of mental mechanism that is culturally, rather than genetically, inherited. This possibility is rendered plausible within Cecilia Heyes’ “cognitive gadgets” framework. She shows how developmental tweaks and biases culturally established can participate in the constitution of cognitive mechanisms. Thus, cultural elements can participate in human cognition not only as information sources, but also in the form of tweaks that bias the processing of that information towards what’s culturally established as contextually relevant.

The frame problem, a long-standing issue in Artificial Intelligence (AI), revolves around determining the relevance of information in an ever-changing array of contexts, posing a formidable challenge in modeling human reasoning. The purpose of this paper is to explore the hypothesis that emotions are able to solve, or at least enable a substantial step towards a solution. I argue that, while emotions are integral to cognitive processes, they do not offer a solution to the frame problem, nor can they play a significant role in a solution. In the course of the argument, I’ll show why some previous claims that emotions could be helpful towards a solution rely on a problematic analysis of what the frame problem is. Ultimately, the conclusion is that no context-dependent feature can play a non-trivial role in solutions to the frame problem, and that is the case of emotions.

Abordagens pós-cognitivistas mais recentes têm lançado duras críticas à noção de representação mental, procurando ao invés disso pensar a mente e a cognição em termos de ações corporificadas do organismo em seu meio. Embora concordemos com essa concepção, não está claro que ela implique necessariamente a rejeição de qualquer tipo de vocabulário representacional. O objetivo deste artigo é argumentar que representações podem nos comprar uma dimensão explicativa adicional não disponível por outros meios e sugerir que, ao menos em alguns casos, elas podem participar da explicação de performances ou capacidades cognitivas. A noção de representação apresentada, como deixaremos claro ao longo do artigo, não viola os preceitos metodológicos mais caros à cognição 4E em geral e ao enativismo em particular, podendo, portanto, ser utilizada como uma ferramenta teórica útil em investigações sobre a natureza corporificada e situada da mente.

Context sensitivity is one of the distinctive marks of human intelligence. Understanding the flexible way in which humans think and act in a potentially infinite number of circumstances, even though they’re only finite and limited beings, is a central challenge for the philosophy of mind and cognitive science, particularly in the case of those using representational theories. In this work, the frame problem, that is, the challenge of explaining how human cognition efficiently acknowledges what is relevant from what is not in each context, has been adopted as a guide. By using it, we’ve been able to describe a fundamental tension between context sensitivity and the mental representations used in cognition theories. The first chapter discusses the nature of the frame problem,as well as the reasons for its persistence. In the second and third chapters, the problem is used as a measure tool in order to inquiry a few representational approaches and check how well suited they are to deal with context dependencies. The problems found are then correlated with the frame problem. Throughout the discussion, we try to show that 1) none of the evaluated approaches is capable of dealing with context sensitivity in a proper manner, but 2) that’s not a reason to think that the frame problem constitutes an argument against representational approaches in general, and 3) that it constitutes a fundamental conceptual tool in contemporary research A sensibilidade ao contexto é uma das marcas distintivas da inteligência humana. Compreender o modo flexível como o ser humano pensa e age em função de um número potencialmente infinito de circunstâncias, ainda que munido de recursos finitos e limitados, é um desafio central para a filosofia da mente e para a ciência cognitiva, em particular aos que fazem uso de teorias representacionalistas. Nesse trabalho, adotou-se como fio condutor o modo como isso se manifesta no "frame problem": a dificuldade em explicar como a cognição humana reconhece, de maneira eficiente, o que é ou não relevante em cada contexto. A partir dele, buscou-se caracterizar uma tensão fundamental entre a sensibilidade ao contexto e o uso de representações mentais em teorias da cognição. O primeiro capítulo discute a natureza do frame problem, bem como as razões de sua resiliência. No segundo e terceiro capítulos, faz-se uso do problema como métrica para investigar o quão adequado é o tratamento das dependências contextuais no âmbito de várias abordagens representacionais. No decorrer da discussão, realiza-se um esforço argumentativo para mostrar que 1) nenhuma das estratégias abordadas é capaz tratar adequadamente da sensibilidade ao contexto, mas que 2) apesar disso, o frame problem não constitui argumento fatal para teorias representacionalistas em geral, e que 3) ele constitui uma ferramenta conceitual fundamental para pesquisas contemporâneas.

Artificial intelligence (AI) techniques are used to model human activities and predict behavior. Such systems have shown race, gender and other kinds of bias, which are typically understood as technical problems. Here we try to show that: 1) to get rid of such biases, we need a system that can understand the structure of human activities and;2) to create such a system, we need to solve foundational problems of AI, such as the common-sense problem. Additionally, when informational platforms uses these models to mediate interactions with their users, which is a commonplace nowadays, there is an illusion of progress, for what is an increasingly higher influence over our own behavior is took for an increasingly higher predictive accuracy. Given this, we argue that the bias problem is deeply connected to non-technical issues that must be discussed in public spaces. Técnicas de inteligência artificial (IA) são utilizadas para modelar as atividades humanas e gerar predições comportamentais. Estes sistemas têm apresentado vieses diversos, inclusive de raça e gênero, tipicamente tomados como problemas de engenharia. Realiza-se aqui um esforço argumentativo para mostrar que: 1) escapar dos vieses demanda um sistema que compreenda a estrutura das atividades humanas e; 2) criar um sistema que apresente tal compreensão, demanda a solução de problemas fundacionais da IA, em particular, o problema de como modelar o senso comum. No caso de plataformas informacionais que usam desses modelos para mediar interações com seus usuários, algo cada vez mais comum, o não reconhecimento disso dá margem a uma ilusão de progresso, em que uma crescente influência sobre nosso comportamento é tomada como uma crescente acurácia preditiva. Nesse cenário, argumenta-se que o problema dos vieses está associado a questões não técnicas que devem ser discutidas em espaços públicos.