Racismo algorítmico: regulação das plataformas de inteligência artificial generativas

Resumen

O presente artigo discute como as IAs, ao operarem com bases de dados eurocentradas, perpetuam o apagamento de saberes afro-brasileiros e reforçam estereótipos raciais. A partir do conceito de colonialidade do saber, evidencia-se que essas tecnologias contribuem para a marginalização de grupos racializados, tanto pela reprodução de imagens negativas quanto pela imprecisão ao tratar da história e cultura negras. Diante disso, o texto defende a regulação estatal como medida indispensável, criticando a autorregulação corporativa. Propõe-se, então, o Projeto de Lei 2.338/2023 como marco legal capaz de assegurar diversidade, transparência e justiça algorítmica. Além disso, destaca-se a importância do controle social e da explicabilidade dos algoritmos. Assim, a regulação das IAs é entendida como um passo fundamental para democratizar a produção de conhecimento e garantir que as tecnologias operem em favor da equidade racial e da dignidade humana.