Lito – Brazil
Imagine a cena: Maria, uma mulher negra de 45 anos, moradora da periferia de São Paulo, tenta renovar um auxílio municipal de saúde. O sistema, agora operado por uma nova camada de inteligência artificial implementada pela prefeitura para ‘otimizar a triagem’, nega o pedido instantaneamente. Não há um erro óbvio; há apenas uma mensagem genérica de ‘não conformidade com os critérios algorítmicos’. Maria não tem a quem recorrer. Não existe um protocolo de contestação humana claro, porque o software foi comprado como uma solução de prateleira, e a burocracia municipal, encantada pela promessa de eficiência, delegou a decisão ao código. O que para o gestor público é ‘ganho de produtividade’, para Maria é a interrupção abrupta de um tratamento essencial. Ela tornou-se vítima de uma alucinação institucional: a crença cega de que a automação é sinônimo de justiça, enquanto a falta de supervisão legal transforma o algoritmo em um muro invisível e intransponível entre o cidadão e seus direitos fundamentais.
Este cenário não é ficção, mas a realidade latente do Brasil em julho de 2026. Enquanto o Projeto de Lei 2338/2023 — o esperado Marco Legal da IA — continua travado nos corredores da Câmara e do Senado, presa em impasses políticos sobre a profundidade da regulação, o Estado brasileiro não parou de se digitalizar. Pelo contrário, governos estaduais e prefeituras estão adotando algoritmos em larga escala para gerir saúde, educação e segurança pública. Recentemente, o governo federal lançou o ‘Guia Unificado de Inteligência Artificial (GuIA)’, um documento que visa orientar a implementação de soluções de IA no serviço público. Embora bem-intencionado, há aqui uma distinção fundamental e perigosa: guias e diretrizes são recomendações; leis são garantias. O GuIA oferece um mapa para o desenvolvedor, mas não oferece um escudo para o cidadão. O vácuo legislativo cria um espaço onde a ‘eficiência’ administrativa atropela a transparência e a accountability, permitindo que sistemas opacos decidam quem é elegível para um benefício ou quem deve ser monitorado com mais rigor em uma câmera de reconhecimento facial na Avenida Paulista.
A análise profunda dessa situação nos leva ao conceito de ‘alucinação institucional’. Na computação, a alucinação ocorre quando a IA gera fatos falsos com total confiança. No âmbito do Estado, a alucinação acontece quando o governo acredita que pode implementar tecnologias de poder sem a contrapartida de mecanismos de controle democrático. A promessa da neutralidade técnica é a nova máscara para velhos preconceitos estruturais. Quando um algoritmo de triagem de saúde ou de análise de risco criminal é treinado com dados históricos de um Brasil profundamente desigual, ele não está apenas ‘processando dados’; ele está automatizando o racismo e a exclusão. A ‘aura de objetividade’ do código serve para despolitizar decisões que são, na essência, políticas. Se a IA nega o auxílio a Maria, o burocrata pode dizer: ‘Foi o sistema’, eximindo-se da responsabilidade ética e legal. O resultado é a criação de ‘territórios digitais de desconfiança’, onde as populações periféricas são submetidas a um escrutínio algorítmico constante, mas negadas a qualquer forma de transparência sobre como esses julgamentos são feitos.
Quem ganha com esse vácuo? Ganham as empresas de tecnologia que vendem soluções ‘turn-key’ para governos ansiosos por métricas de modernização sem o ônus da conformidade rigorosa. Ganham os gestores que podem cortar custos operacionais sacrificando a equidade. Mas quem paga a conta são, invariavelmente, aqueles que já habitam as margens: a população negra, indígena e pobre, que não possui capital social para contestar a decisão de uma máquina. É aqui que o conceito de Amefricanidade nos permite enxergar a engrenagem completa. A tecnologia, quando implementada sem a lente da reparação histórica, torna-se apenas mais uma ferramenta de controle colonial. A automação do Estado brasileiro corre o risco de ser a versão 2.0 da burocracia excludente, onde as barreiras não são mais feitas de carimbos e papéis, mas de pesos neurais e vetores de probabilidade que perpetuam a marginalização sob o pretexto da modernidade.
Sob a luz dos valores da Casa de 7, essa situação exige mais do que apenas ‘ajustes técnicos’ ou guias de boas práticas. A lente da Coletividade nos lembra que a tecnologia deve servir ao florescimento comum, e não à extração de eficiência às custas da dignidade humana. Justiça e Reparação exigem que qualquer sistema de IA implementada no setor público passe por um audit rigorouso de viés racial e socioeconômico antes de tocar a vida de um único cidadão. Não podemos aceitar a ‘eficiência’ se ela for construída sobre a opacidade. O conceito de Bem Viver nos convida a questionar: que tipo de Estado queremos construir? Um estado-máquina, que otimiza fluxos e reduz pessoas a pontos de dados, ou um estado-comunidade, onde a tecnologia é uma ferramenta de apoio à decisão humana, fundamentada na empatia e no respeito inegociável aos direitos humanos?
A urgência do Marco Legal da IA no Brasil não é uma questão de ‘estímulo à inovação’ ou ‘segurança jurídica para empresas’. É uma questão de sobrevivência democrática. Sem a lei, o cidadão brasileiro está desarmado diante de um Leviatã algorítmico que decide seu destino em milissegundos, sem explicação e sem possibilidade de recurso. Precisamos transformar a urgência da regulação em um movimento coletivo que exija transparência total sobre quais algoritmos estão sendo usados pelo Estado e quem é responsável por cada ‘alucinação’ do sistema.
Diante desse cenário, deixo uma pergunta para reflexão: quando a máquina decide quem tem direito à saúde ou à liberdade, e não há um humano para ouvir o nosso lado da história, ainda podemos dizer que vivemos em um Estado de Direito, ou passamos a viver sob a ditadura do código?