O racismo algorítmico pode anular o direito de ir e vir aos milhares de brasileiros e brasileiros
O que realmente sabemos sobre o algoritmo? Podemos dizer que é parecido com uma receita de bolo. Assim como na receita mostra todos os ingredientes necessários e todo passo a passo para chegar a um bolo gostoso. No caso dos algoritmos, mostram ao computador qual é a lógica e a gradualidade para chegar ao fim esperado.
Mas como o algoritmo está conectado ao fenômeno social do racismo? É exatamente aqui que temos uma problemática. Uma vez que a formulação do algoritmo é desenvolvida por especialista da área da informática, contudo, em geral, a sua formação técnica segue o padrão de uma sociedade racista e baseadas em valores da branquitude. Portanto, a tendência ao se pesquisar os sites de busca os algoritmos expõem discriminações raciais e privilégios de alguns grupos sociais.
Se historicamente o Brasil teve uma abolição da escravidão (1888) sobre a qual predominou a negação de direitos para manter e legitimar estruturas violentas de exclusão racial e de gênero, dentre outras, que mantém até atualidade as desigualdades nas relações sociais, econômicos, políticos, tecnológicos, incluindo, a precarização do direito do trabalhador/a. Quando trazemos essas questões para área da tecnologia, observamos que a base racista ressoa digitalmente. Nesse sentido, a estrutura técnico-algorítmica pode facilitar práticas racistas, conforme as reflexões recentes de Tarcízio Silva (2022), um estudioso sobre o ônus da discriminação racial no ambiente digital, o “racismo algorítmico”.
Segundo ele, as tecnologias de comunicação atuais são produzidas tendo como base imaginários e práticas do mundo social, a exemplo dos racismos estruturantes das relações sociais no caso do Brasil. Dessa forma a ordenação algorítmica apresenta-se como racializada, com classificação social, recursos e violências em se tratando de grupos minorizados, como pessoas negras, povos indígenas, dentre outros.
De forma concreta, trago o caso de um recente edital lançado pela Prefeitura de São Paulo, em novembro de 2022: contratar empresa para implantação, no decorrer de dois anos, um sistema com vinte mil câmeras para o reconhecimento facial – chamado Smart Sampa –da população “suspeita”, considerando também a “cor da pele” e outros aspectos físicos dos indivíduos. O já citado Tarcizo Silva analisa que esse sistema de monitoramento com tecnologia avançada tem forte tendência a dar continuidade e, até mesmo, aumentar as práticas do racismo estrutural (reportagem publicada no UOL/Cotidiano, 28 de novembro de 2022).
Não por acaso, há várias críticas a essa tecnologia, exatamente por reafirmar um viés racista, altamente discriminatório e anticonstitucional. O mencionado sistema poderia ser usado para monitorar, sobretudo, aquelas pessoas em situação de rua, vistas potencialmente como praticantes da “vadiagem” e de comportamento suspeito.
Certamente, a população negra e os tantos moradores (negros e brancos) em situação de rua poderão ser os mais atingidos. Acerca desta última condição, uma pesquisa, a do Polos/UFMG, aponta quem são as pessoas que vivem em ruas: 68% são negras, sendo 87% de homens (entre 18 a 59 anos), com baixa escolarização (ensino fundamental incompleto).
O projeto Smart Sampa tem sido duramente criticado, tanto pelo Instituto Brasileiro de Defesa do Consumidor (Idec) quanto por mais cinquenta organizações sociais e parlamentares, que acionaram o Ministério Público do Estado de São Paulo, cuja ação foi aceita e houve a suspensão do Edital, por indicar inúmeras violações aos direitos dos cidadãos, com uso da tecnologia para uma vigilância racializada.
Na minha opinião, por fim, o projeto da Smart Sampa novamente traz à tona uma “atualizada” e tecnológica maneira de controlar, principalmente, os corpos negros e garantir a “segurança” da população paulistana, deixando de enfrentar questões sociais antigas como o genocídio da população negra.
Isto é de tal forma que o racismo algorítmico pode anular o direito de ir e vir aos milhares de brasileiros e brasileiros que, circunstancialmente, são vitimados pelo aumento do desemprego, aprofundado no decorrer da pandemia da Covid-19, pelo aumento da pobreza e da fome e pelo descaso do Estado brasileiro com as mais de 30 mil pessoas em situação de rua. Além disso, há que se impedir a expansão do racismo por meio de tecnologias, como o racismo algoritmo, que poderá aprofundar, cada vez mais, as discriminações sociais e raciais existentes num mundo pouco conhecido, o digital.
Para saber mais:
- Documentário sobre inteligência artificial: Coded Boas, 2020, dirigido por Shalini Kantayya (Netflix).
- SILVA, Tarcízio. Racismo Algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Editora Sesc SP, 2022.
*Ana Dindara é arqueóloga, fotógrafa e, atualmente, atua como Assessora da Secretaria Nacional de Combate ao Racismo da Central Única dos Trabalhadores/CUT-Brasil, ativista antirracista, mulherista africana e tem colaborado com o CCN Notícias – São Paulo/SP.
**Texto originalmente publicado no Coletivo de Comunicação Norte Notícias/São Paulo/SP. A versão para o Brasil de Fato/PB passou por algumas alterações.
Edição: Cida Alves