A Ilusão da Empatia Algorítmica: O GuIA e o Estado Brasileiro
Imagine a cena em um terminal de ônibus na zona leste de São Paulo, em uma manhã cinzenta de julho. Um jovem negro, vestindo sua melhor camisa para uma entrevista de emprego, é parado por agentes de segurança. O motivo? Um alerta disparado por um sistema de reconhecimento facial instalado no teto da estação. Ele não cometeu crime algum, mas o algoritmo, treinado em bases de dados que perpetuam a imagem do ‘suspeito padrão’, encontrou uma correspondência probabilística. Enquanto ele é submetido ao constrangimento de uma revista detalhada sob olhares curiosos e julgadores, a quilômetros dali, nos corredores acarpetados de Brasília, o Governo Federal celebra o lançamento do Guia Unificado de Inteligência Artificial (GuIA). O documento promete que a IA no serviço público será ‘ética’, ‘segura’ e ‘centrada nas necessidades da população’. Há um abismo intransponível entre o PDF elegante do guia e a realidade tátil da pele que sente a pressão da algema algorítmica. A pergunta que ecoa nos becos da periferia não é se o sistema é eficiente, mas quem desenhou a régua que mede a nossa ‘suspeição’.
No dia 3 de julho de 2026, o Governo Federal lançou oficialmente o GuIA (Guia Unificado de Inteligência Artificial), um marco que visa orientar a implementação de soluções de IA na administração pública. Paralelamente, a Autoridade Nacional de Proteção de Dados (ANPD) elevou o tom ao instigar a realização de ‘auditorias de empatia’ em contratos governamentais que utilizam biometria e reconhecimento facial. O objetivo declarado é nobre: garantir que a tecnologia não reproduza preconceitos e que haja um olhar humano sobre a decisão automatizada. No entanto, para entender a profundidade desse movimento, precisamos olhar além da burocracia. O Brasil carrega a herança de um Estado colonial e extrativista, onde a vigilância nunca foi neutra; ela sempre serviu para mapear, controlar e disciplinar corpos negros e indígenas. A introdução de IAs no setor público não acontece em um vácuo ético, mas sobre camadas sedimentadas de racismo estrutural. Quando o Estado fala em ’empatia algorítmica’, ele está tentando resolver com técnica um problema que é fundamentalmente político e histórico.
A análise fria do cenário revela uma contradição sistêmica. Como pode existir ’empatia’ em um sistema de reconhecimento facial que, por design, opera através da redução de identidades complexas a vetores matemáticos? As auditorias de empatia propostas pela ANPD correm o risco de se tornarem meros exercícios de conformidade — check-lists onde se marca ‘sim’ para a existência de um comitê de ética, enquanto a base de dados continua sendo alimentada por registros policiais enviesados. A verdadeira tensão reside no fato de que a IA não cria o preconceito; ela o automatiza e o escala, conferindo-lhe uma ‘aura de objetividade’. Se o algoritmo diz que aquele jovem na estação é um risco, o agente de segurança tende a acreditar mais na máquina do que na humanidade do rapaz. É a transição do perfilamento humano para o perfilamento algorítmico: o preconceito deixa de ser um erro individual do policial para se tornar uma característica ‘técnica’ do sistema.
Sob a lente da Amefricanidade, proposta por Lélia Gonzalez, percebemos que a IA no Brasil frequentemente serve como uma nova ferramenta de colonização digital. A pergunta central não é apenas ‘se’ o algoritmo erra, mas ‘quem ganha e quem paga’ com esse erro. Quem ganha são as empresas de tecnologia que vendem contratos milionários de segurança pública para prefeituras e governos estaduais, prometendo eficiência e redução de custos. Quem paga são os habitantes das favelas, os quilombolas e a população negra, que veem seus territórios transformados em laboratórios de vigilância constante. O conceito de ‘territórios de desconfiança’ é expandido: agora, não é apenas o bairro que é suspeito, mas a própria fisionomia do cidadão, processada por um código escrito em salas com ar-condicionado, longe da poeira e do calor do terreiro ou da periferia. A ’empatia’ prometida pelo GuIA torna-se, assim, uma cortina de fumaça que tenta suavizar a violência de um Estado que continua a tratar certas populações como dados a serem monitorados, e não como sujeitos de direitos.
Ao refletirmos sobre esse cenário através dos valores da Casa de 7, somos forçados a encarar a necessidade de Justiça e Reparação. Não há empatia sem reconhecimento do dano histórico. Uma auditoria ética que não questione a legitimidade do uso de reconhecimento facial em espaços públicos é uma auditoria vazia. A Coletividade nos ensina que a tecnologia deve servir ao florescimento comum, e não à extração de valor ou ao controle social. Se o GuIA deseja ser verdadeiramente ‘centrado na população’, ele precisaria incluir no seu desenho a governança comunitária: as comunidades afetadas deveriam ter poder de veto sobre quais tecnologias são implantadas em seus territórios. Isso seria aplicar a lógica do Quilombo à governança digital — criar espaços de autoproteção e autonomia contra o poder central extrativista.
O Bem Viver, ou *Sumak Kawsay*, nos convida a pensar em uma tecnologia que promova o equilíbrio e a dignidade. Uma IA que promove o Bem Viver seria aquela voltada para a saúde comunitária nas aldeias Yanomami ou para a preservação da memória oral nas Mães de Santo de Salvador, e não aquela que otimiza prisões preventivas baseadas em probabilidades matemáticas. A verdadeira ‘auditoria de empatia’ exigiria que os desenvolvedores desses sistemas passassem dias vivendo a realidade de quem é alvo deles. Exigiria que o código fosse aberto para escrutínio popular e que houvesse reparação financeira e simbólica imediata para cada erro algorítmico comprovado.
Portanto, o Guia Unificado de Inteligência Artificial é um passo burocrático importante, mas insuficiente. Ele trata a ética como um anexo do manual de instruções, quando a ética deveria ser o próprio alicerce da infraestrutura. Enquanto a tecnologia for usada para reforçar a muralha invisível que separa a elite financeira da Avenida Paulista da realidade das periferias, qualquer guia de ‘boa conduta’ será apenas poesia para justificar a repressão. A dignidade humana não pode ser reduzida a um parâmetro de ajuste em um modelo de machine learning.
Diante disso, deixo uma provocação aos cidadãos e gestores brasileiros: estamos construindo ferramentas para libertar o potencial humano ou estamos apenas aperfeiçoando as correntes da nossa herança colonial? Se a IA deve ser ética, ela precisa primeiro admitir que não existe neutralidade em um país onde a cor da pele ainda define quem é ‘suspeito’ e quem é ‘cidadão’. A pergunta final que resta é: teremos a coragem de desligar os sistemas que, mesmo com ‘guias éticos’, continuam a produzir a exclusão?