A reprodução de concepções racistas dentro dos algoritmos
O mundo evoluiu assim como o ser humano e suas necessidades, com isso surgiram as novas tecnologias criadas para proporcionar melhorias e novidades em diversas áreas, como saúde, comunicação, economia e lazer. As tecnologias permitiram coisas boas acontecerem, deixou nossas vidas mais fáceis, otimizou os lucros das empresas e aliada a saúde permitiu maravilhas como transplante e tratamento de doenças incuráveis acontecer, por exemplo, com apenas um click uma informação percorre longas distancias em instantes, não precisamos mais de fitas para assistir filmes mas de uma plataforma de streaming, o ato de ler também mudou, arrisco dizer que se tornou mais democrático, não precisamos tocar em um livro para lê-lo.
A tecnologia abriu horizontes e quebrou barreiras, conecta o mundo cada vez mais; porém, como diz o ditado popular “Nem tudo são flores”, com ela também surgiram novos problemas, problemas esses que as gerações passadas não precisaram enfrentar. Uma das grandes criações revolucionárias da tecnológica foi a internet, a partir dela surgiram diversas ramificações como os apps, sites, plataformas digitais etc. Por outro lado, surgiram novos problemas, entre eles podemos destacar o racismo algorítmico.
O Racismo algorítmico basicamente refere-se a softwares que privilegiam pessoas brancas, e discriminam imagens ou qualquer conteúdo de pessoas negras. Sim! o racismo estrutural enraizado em nossa sociedade está refletindo nos softwares. No artigo anexado ao post, é explicado a parte do processo de manutenção de processos ligados a uma cultura supremacista dentro de ambientes digitais.
Podemos dizer que as interfaces e sistemas são capazes se comportarem de formas em que seja possível traçar um paralelo, ou até mesmo identificar uma reprodução sólida dos pensamentos que derivam de toda essa estruturação excludente (racial e economicamente) dentro da sociedade, principalmente os pensamentos e conceitos mais sutilmente perceptíveis, vale salientar que movimentações realizadas por supremacistas são reconhecidas dentro da internet desde os anos 1990, de acordo com Daniels (2009,2013).
Através do conceito de “dupla opacidade”, dito como “o modo pelo qual os discursos hegemônicos invisibilizam tanto os aspectos sociais da tecnologia quanto os debates sobre a primazia de questões raciais nas diversas esferas da sociedade — incluindo a tecnologia, recursivamente (SILVA, 2019).’’, é demonstrado também, como, juntamente ao processo de evolução tecnológica, a forma como os sistemas e algoritmos armazenam e interpretam dados relacionados a pessoas negras — computação visual (visual computing) — é problemática, desde a base de coleta desses dados, que nos resultados apresentados, em sua maioria ocorre de forma rasa ou enviesada (ainda que partindo de uma suposta neutralidade cultural) até o funcionamento desses bancos de dados, principalmente aos voltados a padronização por tags, atrelando por exemplo pessoas negras a gorilas, ou a sentimentos negativos.
Há diversos e diferentes casos de racismo algorítmico, podemos citar o clareamento de pessoas negras em filtros e aplicativos de embelezamento, a prioridade de conteúdo de pessoas brancas em redes sociais, resultados de buscas na internet marginalizando negros, recursos de reconhecimento facial que só se conectam a pessoas brancas enquanto erram na identificação de rostos negros, entre outros que já não estão passando despercebido pelas pessoas.
O mundo evoluiu, porém, pensamentos preconceituosos e discriminatórios permanecem até hoje, e como podemos ver estão sendo refletindo nos softwares, softwares esses criados por pessoas privilegiadas que não enxergam pessoas que não fazem parte desse grupo e não desenvolve produtos voltados a diversidade, perpetuando um conjunto de comportamentos discriminatórios. Quem são as pessoas que estão criando esses softwares? Não é possível perceber o comportamento racismo e evitá-lo? Como é possível mudar isso? Alguém está se mobilizando para mudar essa realidade? E como as plataformas e desenvolvedores são responsabilizadas? Afinal racismo é crime.
A baixo, um artigo sobre o assunto:
