BRASIL – Deputada denuncia racismo algorítmico em plataformas de inteligência artificial após criar arte inspirada em desenhos animados
Ao gerar uma imagem baseada em sua autodescrição, Renata Souza se deparou com uma ilustração que retratava uma mulher negra segurando uma arma em uma favela. Ela enfatizou que em nenhum momento mencionou armas ou violência em sua descrição, apenas falou sobre uma mulher negra em uma favela. Essa imagem, segundo a deputada, comprova que as inteligências artificiais são racistas.
A parlamentar ressaltou que essa lógica de criminalização das pessoas negras dos territórios de favela e periferia está presente nos algoritmos, pois preside a CPI do Reconhecimento Fotográfico e já testemunhou o quão racista é o algoritmo usado pela inteligência artificial em reconhecimento facial, que tende a enxergar negros, pobres e jovens como possíveis criminosos.
Renata Souza informou que está analisando as medidas cabíveis para encaminhar a denúncia e pretende buscar um canal de diálogo com a direção da empresa responsável pelo aplicativo gerador dessas imagens.
Vale destacar que, desde o dia 19 de outubro, uma lei estadual está em vigor no Rio de Janeiro impedindo o uso do reconhecimento fotográfico como única prova em pedidos de prisão de investigados.
A denúncia de Renata Souza sobre o racismo nas plataformas de inteligência artificial traz à tona uma questão alarmante, pois evidencia como o preconceito racial está presente inclusive em algoritmos utilizados por grandes empresas. Essa situação reforça a importância de uma discussão séria e a adoção de medidas para combater o racismo algorítmico e garantir que a tecnologia seja justa e inclusiva para todas as pessoas.
É fundamental que os legisladores e as empresas responsáveis por essas tecnologias estejam atentos a essa problemática e trabalhem em conjunto para corrigir tais falhas e evitar que a discriminação racial seja perpetuada no ambiente virtual.