Há complexidade das relações humanas nas máquinas?

Uma das características da Ciência de Dados é poder ser aplicada em variadas áreas, como ciências humanas, saúde, ciência tecnológicas, entre outras. Esta característica pode ser atraente para quem tem interesse em trabalhar como Cientista de Dados, pois o campo acolhe pessoas com saberes plurais, ilustres profissionais em T.

Por um lado, múltiplas áreas e pessoas são beneficiadas. Por outro, elas são afetadas de alguma forma. Você já parou para refletir sobre como a Ciência de Dados conduz camadas da vida de cada indivíduo? Biometria, reconhecimento facial, recomendação de conteúdos em mídias sociais, segurança digital são algumas utilizações que fazem parte do dia a dia em nossos celulares e computadores. Será que problemas existentes na sociedade são carregados para o mundo digital?

Sociedade e mundo digital

Pensemos no seguinte: a sociedade, com toda sua complexidade e problemas, é formada por pessoas, que por sua vez, desenvolvem os algoritmos. Qual a probabilidade do mundo digital ser neutro? Por mais difícil que seja aceitar a resposta, em algoritmos desenvolvidos por equipes com características semelhantes, a chance da neutralidade é estatisticamente mínima.

Os problemas enraizados na sociedade são levados para o mundo digital, mesmo que, de forma inconsciente. Todos os seres humanos, inclusive eu, temos preconceitos ou tendências contra ou a favor de uma coisa, pessoa ou grupo, baseados em pensamentos, ideias, julgamentos, e experiências guardadas no nosso cérebro. Essas tendências são chamadas de vieses inconscientes.

Vamos fazer um exercício mental em conjunto. Qual é o pensamento imediato quando eu pergunto: que imagem vem à cabeça ao pensar em uma pessoa rica? Para a grande maioria, a imagem padrão não corresponde a uma mulher negra e mãe, geralmente temos pessoas brancas como modelo e representação.

Buscando uma solução

Um dos estudos que são tratados como referência no entendimento dos vieses foi do psicólogo Daniel Kahneman, vencedor do Nobel de economia. Ele percebeu que o pensamento mais imediato, dito como automático, muitas vezes garante a nossa sobrevivência, no entanto nos levará a decisões menos assertivas em outros momentos.

Para melhorar a qualidade de nossas decisões é importante trazer o pensamento para o racional, para o analítico, aquele que acontece após o imediato. Analisar nossos comportamentos, realizar autorreflexão, tornar consciente o inconsciente são atitudes importantes para reconhecer e diminuir o impacto dos vieses.

Outro ponto fundamental é garantir mais diversidade na Ciência de Dados, seja buscando construir times responsáveis por pensar soluções que estejam conectadas com todas as realidades, incorporando, por exemplo, treinamentos com dados diversos.

Uma direção é criar um conjunto de técnicas de aprendizado de máquina que possuam modelos explicáveis, permitindo que as pessoas possam entender, administrar e confiar, mas mantendo o alto desempenho. De acordo com o artigo A survey on bias and fairness in machine learning (Uma pesquisa sobre viés e justiça no aprendizado de máquina), métodos que verificam vieses se enquadram em três categorias: pré-processamento, em processamento e pós-processamento.

1. No pré-processamento, as técnicas tentam transformar os dados para remover qualquer discriminação. É preciso que ele tenha permissão para modificar os dados de treinamento.

2. Em processamento, tentam modificar e alterar o aprendizado da última geração de algoritmos removendo discriminações durante o processo de treinamento do modelo.

3. Já o pós-processamento é realizado após o treinamento, alcançando um conjunto de validação que não foi envolvido durante o treinamento do modelo.

É crucial ter responsabilidade e consciência social quando o que fazemos afeta direta e indiretamente a vida de muitos. Aproveito e deixo indicado, para aprofundamento no assunto de viés inconsciente, a leitura do livro A cor do inconsciente: significações do corpo negro, por Isildinha Baptista Nogueira, mestre em Psicologia Social pela Pontifícia Universidade Católica de São Paulo e doutora em Psicologia Escolar e Desenvolvimento Humano pela Universidade de São Paulo.

Referência:

O artigo teve como principal norteador o livro: Comunidades, algoritmos e ativismos digitais: olhares afrodiaspóricos, organizado por Tarcízio Silva.