Há complexidade das relações humanas nas máquinas?

Os problemas enraizados na sociedade são levados para o mundo digital, mesmo que, de forma inconsciente. Todos os seres humanos, inclusive eu, temos preconceitos ou tendências contra ou a favor de uma coisa, pessoa ou grupo, baseados em pensamentos, ideias, julgamentos, e experiências guardadas no nosso cérebro. Essas tendências são chamadas de vieses inconscientes.

Vamos fazer um exercício mental em conjunto. Qual é o pensamento imediato quando eu pergunto: que imagem vem à cabeça ao pensar em uma pessoa rica? Para a grande maioria, a imagem padrão não corresponde a uma mulher negra e mãe, geralmente temos pessoas brancas como modelo e representação.

Buscando uma solução

Um dos estudos que são tratados como referência no entendimento dos vieses foi do psicólogo Daniel Kahneman, vencedor do Nobel de economia. Ele percebeu que o pensamento mais imediato, dito como automático, muitas vezes garante a nossa sobrevivência, no entanto nos levará a decisões menos assertivas em outros momentos.

Para melhorar a qualidade de nossas decisões é importante trazer o pensamento para o racional, para o analítico, aquele que acontece após o imediato. Analisar nossos comportamentos, realizar autorreflexão, tornar consciente o inconsciente são atitudes importantes para reconhecer e diminuir o impacto dos vieses.

Outro ponto fundamental é garantir mais diversidade na Ciência de Dados, seja buscando construir times responsáveis por pensar soluções que estejam conectadas com todas as realidades, incorporando, por exemplo, treinamentos com dados diversos.

Uma direção é criar um conjunto de técnicas de aprendizado de máquina que possuam modelos explicáveis, permitindo que as pessoas possam entender, administrar e confiar, mas mantendo o alto desempenho. De acordo com o artigo A survey on bias and fairness in machine learning (Uma pesquisa sobre viés e justiça no aprendizado de máquina), métodos que verificam vieses se enquadram em três categorias: pré-processamento, em processamento e pós-processamento.

1. No pré-processamento, as técnicas tentam transformar os dados para remover qualquer discriminação. É preciso que ele tenha permissão para modificar os dados de treinamento.

2. Em processamento, tentam modificar e alterar o aprendizado da última geração de algoritmos removendo discriminações durante o processo de treinamento do modelo.

3. Já o pós-processamento é realizado após o treinamento, alcançando um conjunto de validação que não foi envolvido durante o treinamento do modelo.

É crucial ter responsabilidade e consciência social quando o que fazemos afeta direta e indiretamente a vida de muitos. Aproveito e deixo indicado, para aprofundamento no assunto de viés inconsciente, a leitura do livro A cor do inconsciente: significações do corpo negro, por Isildinha Baptista Nogueira, mestre em Psicologia Social pela Pontifícia Universidade Católica de São Paulo e doutora em Psicologia Escolar e Desenvolvimento Humano pela Universidade de São Paulo.

Referência:

O artigo teve como principal norteador o livro: Comunidades, algoritmos e ativismos digitais: olhares afrodiaspóricos, organizado por Tarcízio Silva.