Como a tecnologia pode ser racista?

Reportagem: Bruno Vinicius (@brunoluiz97)

Ilustração: Gabriel Souza (@thefurmiga)

O ano de 2011 me marcou. Estava na transição entre os 13 e 14 anos de idade. Minha estatura média comportava um corpo magro. Era quase franzino. Os traços comuns a um adolescente negro, como a pele escura, o nariz grande e grosso e os cabelos crespos iam tomando forma. Estava obedecendo às heranças africanas, as quais havia herdado da minha mãe. A cada dia, eu ia me adaptando e deixando os traços embranquecidos, que foram deixados por uma miscigenação.

Porém, a cada avanço conquistado pelo meu corpo negro, o racismo ia destruindo minha autoestima. A adolescência era cruel. Para colegas de turma, meu cabelo não era crespo, era “bombril”. Ao nariz grande, coube apelidos como “porrote”, “nariz de porco”... A partir daquele momento, eu já não me reconhecia como uma pessoa bonita. Havia aceitado que qualquer pessoa, de quaisquer natureza, poderia ser menos feia do que eu.

Coincidentemente, ganhei meu primeiro smartphone no aniversário de 14 anos. Com ele, pude aliviar as injúrias por um outro tipo de racismo. O celular possuía um filtro automático das fotos: ele afinava meu nariz, aumentava meus olhos, clareava minha pele e, de quebra, escondia que meu cabelo era crespo. Na época, as nossas vidas já estavam sendo pautadas pelas redes sociais. Nossos status já eram definidos por quantidade de seguidores, curtidas e repercussão dos nossos posts no facebook e no twitter.

Entre filtros, aplicativos e cenários favoráveis, a minha adolescência estava sendo pautada pelo embranquecido proporcionado pelas tecnologias. Elas poderiam me deixar menos feio. Mais visível para as pessoas. A realidade não é diferente para outro(a)s adolescentes negro(a)s. O racismo nos acompanha desde a infância e se alastra na adolescência. A tecnologia agora é o ponto de convergência, porque ela está pautando nossas relações sociais. Nossos costumes, gostos e até a política já são mediadas por máquinas, que por sua vez, são construídas, em sua maioria, por homens brancos.

Isso também influencia nos mecanismos de buscas. Ao pesquisar a frase “cabelos bonitos” em quaisquer banco de imagens, a maior parte dos resultados vai atender padrões brancos, apresentando fotos de cabelos lisos, loiros ou ruivos. Contudo, quando se busca palavras como “bandido”, “marginal” ou “carcereiro”, temos, em sua maioria, rostos de homens negros e em situação degradáveis. Esses mecanismos sustentam ideias de uma sociedade pautada pelo eurocentrismo (quando o branco é o centro do poder). Transformaram-se em novas ferramentas racistas.

O conjunto de ferramentas pode ser denominada de racismo algoritmo. Ele ocorre quando sistemas matemáticos ou de Inteligência Artificial (IA) - que comandam mecanismos de buscas e outros suportes -, são alimentados por informações que distorcem ou colocam grupos minoritários, como nós negros, em colocações racistas. Segundo pesquisadores de comunicação e tecnologia, isso implica no aumento de desigualdades e na segregação racial, à medida em que estamos caminhando para uma automação quase total das rotinas de produção.

Essas desigualdades já são acentuadas no Brasil. No país em que os afrodescentes ocupam a maior parcela da população, demandas sociais - como a segurança pública -, são percalços seculares que nos atingem. E, a partir de agora, a segurança é automatizada. Ela já pune a população afrobrasileira. De acordo com um balanço realizado pela Rede de Observatórios de Segurança, divulgado na semana passada, mais de 90% dos presos por reconhecimento facial no País são negros. A tecnologia começou a ser implantada neste ano e cinco estados brasileiros a adquiriram. Ela vem para piorar a situação de uma parcela que já representa 64% dos carcereiros, como aponta o Levantamento Nacional de Informações Penitenciárias (Infopen).

Embora o Nordeste esteja puxando uma corrente progressista nacional, a região lidera com o número de estados à frente da política racista: Bahia, Ceará e Paraíba. Rio de Janeiro, no Sudeste, e Santa Catarina, no Sul, são os outros dois estados analisados pela pesquisa. A tendência é que as tecnologias se expandam para outros lugares do País. Espírito Santo, Minas Gerais, Distrito Federal e o Pará estão em processo de aquisição de algum tipo de inovação na segurança. Quando se fala do Nordeste, além dos citados acima, a região como um todo passa por um processo de modernização da segurança.

Se há um processo de inovação, por que a segurança pública continua sendo racista? Na prática, o reconhecimento facial faz uma biometria do rosto, ligando um ponto da parte do corpo de uma pessoa ao que já há registrado. Entretanto, nenhuma biometria analisa 100% do corpo humano, o que significa que pode haver informações que não são compatíveis à análise. Em alguns casos, como de negros e asiáticos, aparelhos estão reconhecendo rostos e traços iguais nas pessoas - gerando constrangimento em casos de pessoas presas por engano.

Ocupando os espaços

O racismo encontrado na tecnologia se vale da ausência de negros e negras na área. Para a jornalista e consultora de marketing digital, Taisa Oliveira, isso é reflexo da falta de políticas inclusivas por parte das empresas. “As empresas precisam entender que diversidade dentro dos seus quadros é importante. Não é apenas uma questão de representatividade, mas é de compromisso com os seus consumidores também. Quando se tem um quadro diverso dentro das empresas, há múltiplas visões sobre a usabilidade de determinado produto. Por exemplo, uma mulher tem uma noção de segurança completamente diferente da de um homem”, explica Taisa.

Para alcançar a inclusão, também é necessária a formação de mais trabalhadores no setor. Embora os negros tenham conseguido um espaço significativo no ensino superior nos últimos anos, a permanência dentro das instituições depende de uma série de fatores sociais. “A gente teve um aumento significativo dos negros nas universidades, mas quantos desses podem permanecer? A gente sabe que tem outras demandas quando eles ocupam essas universidades públicas, como se dividir entre o trabalho e o curso. Às vezes não têm passagens”, frisa a jornalista.

De fato, existe uma desproporcionalidade no mercado. Dos profissionais de inovação, apenas 36% são negros. É o que constata a pesquisa #QuemCodaBR, realizada em parceria entre o PretaLab, plataforma de inclusão de mulheres negras na tecnologia, e a ThoughtWorks, consultora de software, com resultados divulgados neste ano. Além de branca e masculina, a tecnologia é heterossexual. De acordo com os resultados, 79% são heterossexuais. A pesquisa entrevistou 693 pessoas em 21 estados, incluindo o Distrito Federal, entre novembro de 2018 e março de 2019.

Foto: UX Para Minas pretas/Facebook

As estatísticas são frias diante da realidade. Elas são sentidas na pele por profissionais negros. Independentemente de onde ocupa, sempre são estado de exceção. Como é o caso da designer e especialista em design de interação, Taís Nascimento, que trabalha em um dos maiores centros tecnológicos do País. “Hoje eu trabalho no CESAR, na área de UX Design.Eu trabalho na área de tecnologia há quase 20 anos. E dentro desse tempo, eu vim ter uma colega de trabalho negra, igual a mim, há apenas dois anos. Isso dentro de uma empresa de 600 pessoas. Somos poucas pessoas na área de tecnologia, na comunicação e na área de conhecimento como um todo. Somos sempre uma exceção nesses espaços”, enfatiza Taís.

Não à toa, Taís e Taisa, as duas entrevistas nesta reportagem, foram as primeiras pessoas negras de tecnologia com quem tive contato durante anos de jornalismo. E estamos ligados por uma das maiores concentrações de empresas da área do País. Porto Digital, CESAR, centros universitários de ponta e núcleos de pesquisas em inovação são uma realidade para Pernambuco. Mas quantos negros e negras estão ocupando esses espaços? Quantos estão sendo ouvidos? Ainda segundo a #QuemCodaBR, não há negros nas equipes de 32,8% dos entrevistados. Em quase 70% dos grupos de trabalho, os negros não chegam a compor 10% dos efetivos.

Para Taís Nascimento, a realidade vem mudando à medida em que pessoas negras integram esses ambientes. Iniciativas como a UX Para Minas Pretas, PretaLab, Afrotech Br, Black Money visam a inclusão de mulheres e homens, por exemplo, dentro desses campos. “Isso vem mudando quando você olha para o Brasil um série de iniciativas. Na minha área, temos o UX para Minas Pretas, uma iniciativa lá de São Paulo. Inclusive, trouxemos para o Recife em julho. E a gente vê que pessoas negras entrando na tecnologia têm essa vontade e essa energia de trazer outras pessoas negras para essa área”, conta a designer.

“É um espaço que a gente precisa ocupar. O futuro está sendo codificado. A forma como as relações sociais, a nossa forma de se comunicar… tudo isso passa pelo desenvolvimento da tecnologia. Então, a gente precisa ocupar esses espaços. Então, somos resistência quando estamos aqui presentes, é resistência quando uma menina preta passa para o curso de ciência da computação”, relata Taís.