Análise
Doze meses depois do debate sobre o marco legal da IA no Congresso, o que o Brasil tem para mostrar? Um texto em tramitação que ainda não é lei, uma avalanche de produtos que não esperaram por ela, e um conjunto de casos que provam que a pergunta relevante não é se a IA vai impactar o trabalho — é quem arca com os custos quando o impacto é negativo. Para o homem negro brasileiro, em 2025, a resposta foi: ele mesmo, mais uma vez.
O dossiê do ano documenta cinco campos onde a IA produziu efeitos mensuráveis sobre populações negras: reconhecimento facial, triagem em RH, diagnóstico no SUS, plataformas educacionais e geração de imagem. Em todos os cinco, o padrão foi similar: a ferramenta funcionava bem para fototipos claros e piorava à medida que a pele escurecia. Não por acidente — por design. Conjuntos de treinamento sem curadoria racial reproduzem a sub-representação do mundo offline no mundo digital.
O caso mais documentado do ano foi o sistema de reconhecimento facial adotado por uma rede de supermercados no Rio de Janeiro em fevereiro. Taxa de erro para fototipos I a III: 2,3%. Para fototipos V e VI: 17,8%. O sistema foi suspenso em abril após pressão do IDEC e de pesquisadores da UFRJ, mas não antes de gerar pelo menos noventa abordagens indevidas a clientes negros — alguns em flagrante racial típico, com segurança chamado sem causa. A empresa emitiu nota. Ninguém foi responsabilizado juridicamente. O marco legal, se existisse em fevereiro, teria dado amparo regulatório para o IDEC agir mais rápido.
No campo positivo, 2025 também produziu casos de uso que funcionaram. A plataforma Cora Saúde, desenvolvida no Recife com apoio da FACEPE, usa IA para triagem de hipertensão em UBS de periferias. Modelo treinado com dados de populações negras nordestinas, curado por equipe médica com maioria negra. Em oito meses de operação em Recife e Caruaru, taxa de detecção precoce subiu 34%. O que a Cora Saúde prova não é que a IA é neutra — é que a neutralidade não existe e a escolha de quem constrói e com quais dados importa tanto quanto o algoritmo.
O debate sobre regulação caminhou em 2025, mas devagar. O texto do PL 2338 foi aprovado em comissão no Senado em agosto com emendas que fortalecem a obrigação de auditorias de viés em sistemas de alto risco. Uso em crédito, seleção de emprego e diagnóstico médico entram na categoria de alto risco. A definição de "alto risco" foi a disputa central do segundo semestre — empresas de tecnologia queriam definição estreita, organizações de direitos digitais queriam definição ampla. O texto aprovado ficou no meio. É insuficiente, mas é começo.
O balanço de 2025 não é pessimista nem otimista. É preciso. A IA chegou, está sendo usada, e parte de quem a usa não sabe ou não quer saber que carrega viés embutido. A pergunta para 2026 é se haverá mecanismo legal com dentes — ou se o custo do erro continuará sendo pago, como sempre, por quem menos pode se defender.
Contexto
Marco legal da IA: PL 2338/2023 aprovado em comissão no Senado em agosto de 2025 com emendas. Sistemas de alto risco — crédito, emprego, saúde — sujeitos a auditoria obrigatória de viés. Texto ainda aguarda votação em plenário e sanção presidencial ao fim do ano.
Reconhecimento facial e erro racial: Pesquisa da UFRJ (set./2025) testou seis sistemas comerciais em uso no Brasil. Taxa média de erro em fototipos V-VI: 14,2%. Em fototipos I-II: 2,1%. Nenhum dos seis sistemas passou por auditoria racial antes da implantação.
IA em RH: Levantamento da FGV-SP (jun./2025) em 120 empresas com mais de 500 funcionários: 67% usam alguma ferramenta de IA na triagem de currículos. Apenas 19% realizaram auditoria de viés. Nomes de leitura racial negra tiveram 23% menos chances de avançar em sistemas não auditados.
Cora Saúde — caso positivo: Plataforma de triagem hipertensiva com IA, Recife. Treinada com 48 mil pacientes negros nordestinos. Detecção precoce +34% em oito meses nas UBS de Recife e Caruaru.