Como um filósofo olharia para um design ou para uma arquitetura de solução?

Introdução

Esses comentários nasceram de uma leitura do artigo “Values that Matter: A New Method to Design and Assess Moral Mediation of Technology” escrito pelo filósofo holandes Peter-Paul Verbeek — falamos um pouco sobre ele aqui em Quem é Peter-Paul Verbeek e qual é a sua contribuição para o estudo da relação entre humanos e tecnologia?

Verbeek argumenta que a tecnologia tem uma influência cada vez maior em nossas vidas. Até aqui, nada de novo, constatamos isso através de experiência própria, cotidiana. O que torna a visão de Verbeek mais interessante é a atenção dada à forma como a tecnologia afeta nossos valores e princípios morais. “Afetar”, aqui, tem um sentido de “colocar em tensão”.

Por exemplo, o uso de carros poderia levar a um aumento da poluição do ar e do ruído. Nesse cenário, como considerar as noções de “qualidade de vida”? O que deveríamos privilegiar? Essa noção ou a de “mobilidade pessoal”? (Verbeek, 2006). Em que medida as redes sociais não afetam nossa percepção da privacidade e do compartilhamento de informações pessoais? Não há conflito entre o “valor da privacidade” e o “valor da conexão social”? (Verbeek, 2011) Reprodução assistida? “Valor da parentalidade biológica” ou “valor da parentalidade baseada no cuidado e na criação”? (Verbeek, 2008) Ficando apenas em alguns exemplos, as implicações são muitas.

É nessa posição, a partir dessa tensão, que começamos a responder a pergunta que deu título para esse texto. Um filósofo deveria reconhecer a necessidade de um método para projetar e avaliar a medição moral da tecnologia, que leve em conta não apenas as consequências previsíveis de sua aplicação, mas também as mudanças que a tecnologia pode causar na maneira como entendemos e valorizamos o mundo.

“A tecnologia é uma das principais formas pelas quais moldamos nossa relação com o mundo e com os outros. Ela é um meio pelo qual mediamos nossas ações e pensamentos, e como tal, tem um impacto fundamental em nossos valores e crenças. É importante que prestemos atenção a esse impacto e busquemos desenvolver tecnologias que estejam em linha com nossos valores e princípios morais” (Verbeek, 2011).

O método

O método proposto por Verbeek enfatiza a importância de uma abordagem reflexiva e participativa, que envolva os usuários e outros stakeholders no processo de avaliação e design da tecnologia. Ele argumenta que esse método pode ajudar a garantir que a tecnologia seja desenvolvida de forma responsável e ética, de acordo com os valores e princípios morais que são importantes para a sociedade. Aqui os paradigmas de interdisciplinaridade — importante para as ciências humanas e comunidade — importante para as cenas de tecnologia, se encontram.

Não apenas os designers e engenheiros, mas também os usuários e outros grupos afetados (Verbeek, 2006) deveriam ser envolvidos na aplicação do método. Sendo mais preciso, deveriam ser envolvidos no desenvolvimento de qualquer nova solução tecnológica. Percebam, não apenas como agentes de teste e validação do ponto de vista funcional ou de viabilidade econômica, mas do ponto de vista dos valores em questão. O que está sendo proposto é incluir uma camada de “design moral” quando se projeta um tecnologia e esse “desing moral” deveria ser um diálogo social e democrático entre todos os atores envolvidos” (Verbeek, 2011).

Como um filósofo (ou qualquer agente das chamadas ciências humanas e sociais) olharia para uma solução ou uma arquitetura de soluções? Trazendo à luz as tensões de valores e moralidades possíveis. Sugerindo “não como uma lista de regras, mas um método de avaliação crítica que coloca em perspectiva os valores e princípios morais subjacentes à tecnologia” (Verbeek, 2006).

As três etapas do método

Verbeek sugere três etapas para um método de “Design Moral”, são elas: Valores Relevantes, Design Reflexivo e Avaliação Crítica. Essas etapas são interdependentes e circulares, ou seja, elas se relacionam e se retroalimentam ao longo do processo de design e avaliação da mediação moral da tecnologia.

A primeira etapa, valores relevantes, envolve a identificação dos valores morais relevantes para a tecnologia em questão, levando em conta o contexto em que ela será usada e os impactos que pode ter sobre a sociedade. Essa etapa é importante para orientar o processo de design e operação da tecnologia, levando em conta os valores e princípios morais que são importantes para a sociedade.

“O processo de design deve ser aberto a valores e objetivos morais relevantes, e esses valores e objetivos devem ser incorporados na tecnologia por meio de mecanismos de medição moral. Isso requer um diálogo reflexivo entre designers e usuários, no qual diferentes perspectivas sobre valores e objetivos morais podem ser discutidos e negociados” (Verbeek, 2022).

Se não fosse pela circularidade do método, poderíamos dizer que essa é a principal etapa. Pois se trata da identificação dos valores morais relevantes para a tecnologia em questão, levando em conta o contexto em que ela será usada e os impactos que pode ter sobre a sociedade. Trata-se de um processo que pode envolver a análise de documentos normativos, a realização de entrevistas ou grupos focais com usuários e outras partes interessadas, a análise de casos históricos ou outros métodos de pesquisa relevantes.

A segunda etapa, design reflexivo, envolve a participação ativa de usuários e outros stakeholders no processo de design e avaliação da tecnologia. Essa etapa busca incorporar as conclusões das análises anteriores em decisões concretas sobre o design e a operação da tecnologia, garantindo que ela seja desenvolvida de forma ética e responsável.

“O design reflexivo deve ser integrado ao processo de avaliação crítica, a fim de assegurar que os valores e objetivos morais relevantes sejam incorporados na tecnologia. A avaliação crítica, por sua vez, deve informar o processo de design, identificando questões éticas e morais que possam surgir com o uso da tecnologia” (Verbeek, 2022)

No design reflexivo, o fundamental é a incorporação das conclusões das análises realizadas na avaliação crítica em decisões concretas sobre o design e a operação da tecnologia. Essa etapa envolve a participação ativa de usuários e outros stakeholders. Por exemplo, pode ser necessário realizar testes de usabilidade ou experimentos com usuários para avaliar a eficácia da tecnologia ou envolver outros métodos de pesquisa relevantes para compreender melhor as necessidades e expectativas dos usuários.

A terceira etapa, avaliação crítica, envolve uma reflexão crítica sobre os valores morais que estão em jogo na tecnologia, levando em conta as análises anteriores e buscando identificar possíveis conflitos ou tensões. Essa etapa é importante para garantir que a tecnologia seja utilizada de forma responsável e ética, levando em conta os valores e princípios morais que são importantes para a sociedade.

“O processo de design e avaliação da tecnologia deve ser circular, no sentido de que o design reflexivo e a avaliação crítica devem ocorrer continuamente ao longo de todo o processo de desenvolvimento da tecnologia. Isso permite que os valores e objetivos morais sejam refinados e ajustados à medida que a tecnologia é desenvolvida e aplicada” (Verbeek, 2022).

Em termos de avaliação crítica, o que Verbeek espera é que superemos, conforme mencionado anteriormente, uma avaliação estrita dos aspectos funcionais e de viabilidade econômica. Há sim uma análise prática que consideraria esses aspectos e também dinâmicas sociais em torno da tecnologia, incluindo como os usuários interagem com ela e como ela pode afetar suas atitudes e comportamentos. Mas há também a análise de valor, que consiste em examinar como eles estão sendo incorporados na tecnologia e como eles afetam as nossas vidas. Isso inclui tanto os valores expressos pelos designers e usuários da tecnologia quanto os valores que são implicitamente incorporados nas próprias características da tecnologia. “A análise de valores críticos é necessária para avaliar o papel que a tecnologia desempenha na definição, reforço ou transformação dos valores humanos” (Verbeek, 2011).

Conclusão: Como um filósofo olharia?

Em primeiro lugar, trazendo à luz aquilo que se costuma negligenciar: as tensões de valores e tensões morais que soluções tecnológicas criam ou podem criar. Além disso, superando a visão comum que enxerga a tecnologia pura e simplesmente no plano dos objetos ou ferramentas — que a enxerga tão somente como um instrumento.

O que se percebe é que, ela é capaz de moldar as nossas relações com o mundo, reconfigurando a nossa forma de pensar e agir, e até mesmo definindo novas possibilidades de ação e comportamento. Dessa forma, ela não é vista apenas como uma extensão da nossa vontade e intenção, mas sim como um agente com capacidade de agência própria e de influência nas nossas escolhas e decisões.

Ora, esse “trazer à luz” só é possível em perspectiva interdisciplinar e comunitária. Projetar para mediação moral requer uma compreensão profunda dos valores humanos, que são multifacetados e podem variar entre indivíduos, culturas e contextos. Alcançar essa compreensão requer colaboração entre especialistas de diferentes disciplinas, incluindo ética, psicologia, sociologia e antropologia (Verbeek, 2011). É um fato que o método que apresentamos aqui é inerentemente interdisciplinar, baseado em insights e métodos de campos tão diversos como engenharia e design, filosofia e psicologia, por exemplo.

Em segundo lugar e concluindo, um filósofo olharia com método — propondo um “procedimento ou estratégia sistemática para gerar conhecimento ou realizar uma tarefa específica” (Verbeek, 2005). Promover a colaboração entre especialistas de diferentes áreas não é algo simples. Diferentes disciplinas têm diferentes métodos que refletem suas respectivas formas de investigação e produção de conhecimento. A cada vez é necessário fomentar a colaboração e o aprendizado contínuo, estabelecer questões fundamentais é um bom caminho para isso, delimitar com clareza os limites de cada área de atuação também — isto é, levar os atores envolvidos até o limite de suas competências. Por fim, estabelecer uma linguagem comum, as diferentes áreas têm suas próprias linguagens, termos e conceitos que podem tornar a comunicação difícil. Estabelecer uma linguagem comum pode ajudar a superar essas barreiras.

Referências:

VERBEEK, Peter — Paul (2022). Values that Matter: A New Method to Design and Assess Moral Mediation of Technology. Design Issues 2022

VERBEEK, Peter-Paul. What things do: Philosophical reflections on technology, agency, and design, 2005.

VERBEEK, Peter-Paul. Moralizing Technology: Understanding and Designing the Morality of Things, 2011.

VERBEEK, Peter-Paul. Aesthetics of interaction: a pragmatist reading of Wittgenstein, 2000.