O Espelho Digital: Algoritmo, Lélia Gonzalez e o Racismo que a IA Reflete

O que acontece quando a inteligência artificial, uma ferramenta de criação e expansão, decide, de forma enviesada, redesenhar a história de uma de nossas maiores intelectuais? Recentemente, o Instituto de Referência em Internet e Sociedade (IRIS) e a AqualtuneLab formalizaram uma denúncia grave junto ao Ministério da Igualdade Racial, expondo um caso de racismo algorítmico na plataforma Canva.

O incidente, ocorrido em novembro de 2024, envolve a ferramenta de expansão de imagem por IA da plataforma. Ao ser aplicada a uma fotografia da pensadora Lélia Gonzalez, a ferramenta adicionou elementos que remetem a traços de cocaína à imagem. Em contraste, um teste realizado com a fotografia de um homem branco resultou na adição de elementos associados ao consumo de leite. Este descompasso não é apenas um erro técnico; é o reflexo de um viés estrutural que codifica preconceitos históricos em pixels e processamento.

O Viés que se Codifica

A denúncia aponta que a IA não está apenas processando imagens, mas reinterpretando a realidade sob uma ótica de supremacia. Quando uma ferramenta de design, amplamente utilizada para a democratização da estética, falha sistematicamente em reconhecer a dignidade de corpos negros ou, pior, associa elementos estigmatizados a figuras de liderança negra, ela está operando uma forma de apagamento e distorção simbólica. O racismo algorítmico não é um “bug”; é a reprodução automatizada de uma desigualdade que já existe no mundo físico e que a tecnologia, em sua aparente neutralidade, acaba por amplificar.

A falta de transparência é o outro grande gargalo. As organizações que lideram a denúncia não pedem apenas reparação, mas mecanismos de governança: auditorias de viés racial, canais de denúncia dedicados e códigos de ética para o uso de IA. Sem isso, a “democratização” da criação digital torna-se um campo de minas para a dignidade das identidades marginalizadas.

Reflexão da Casa: A Herança no Código

Sob a lente da Amefricanidade, precisamos nos perguntar: de quem é a memória que a IA está sendo treinada para reconstruir? Se as ferramentas de criação de imagem não são auditadas para respeitar a complexidade e a história de nossos povos, corremos o risco de ver nossos ícones — como a própria Lélia — subvertidos por algoritmos que não compreendem a luta, apenas o estereótipo. A tecnologia, para ser emancipatória, precisa carregar o nosso Axé, a nossa verdade, e não apenas a média estatística de um banco de dados enviesado.

O que estamos construindo é uma arquitetura de visibilidade ou um espelho que distorce o que é essencialmente nosso?