A tecnologia está cada vez mais presente em nosso dia a dia e a percepção, em geral, é de que ela tende a facilitar muito nossas rotinas, seja em casa ou no trabalho.
Algoritmos podem facilitar nossas vidas automatizando muitas decisões e acelerando resultados. Porém, é preciso entender que eles são subjetivos. Modelos algorítmicos trazem opiniões embutidas a partir do histórico, de experiências e da determinação de critérios de sucesso de quem os cria. Isso reforça vieses escondidos na formação da nossa sociedade.
Por isso, nós, tecnologistas, devemos questionar a responsabilidade do nosso papel na sociedade, quebrar o paradigma de que a tecnologia é neutra para conseguir endereçar os problemas existentes e atuar de maneira positiva no mundo, e não perpetuar vieses injustos e inconscientes em todos nós.
Imaginem criar um algoritmo que seleciona potenciais perfis para contratação na área de tecnologia. Definimos, inicialmente, dois critérios de sucesso: terem sido promovidos pelo menos uma vez a cada dois anos e terem feito palestras em eventos. Os dados serão dos últimos 20 anos, para uma amostragem inicial. Seguindo esses critérios iniciais, os resultados de pessoas tecnologistas contratadas serão majoritariamente de homens, brancos, classe média alta. Isso porque esses critérios olham para o que foi sucesso num período histórico em que a questão da diversidade na indústria de tecnologia não era abordada e, por questões sociais de acesso e pela reprodução de vieses de gênero, tal indústria era composta quase exclusivamente por homens. Mas será que é bom para a sociedade que apenas um mesmo grupo homogêneo continue produzindo as tecnologias que todos nós utilizamos hoje?
Se não olharmos para incluir padrões que quebrem o status quo, não teremos a diversidade que representa a nossa sociedade brasileira e mundial, para assim endereçar as suas necessidades gerando mais equidade.
Como disse Cathy O'Neil, em seu livro Weapons of Math Destruction, "Nós, tecnologistas, precisamos ser tradutores dos debates éticos que acontecem na sociedade", afinal, construímos soluções para pessoas reais com problemas reais.
E você, qual futuro do trabalho e dos negócios está construindo hoje?
