Análise
Quando anunciamos, em março de 2025, que estávamos apurando o desempenho de sistemas de reconhecimento facial em empresas brasileiras, a resposta mais comum dos fornecedores foi a mesma: "nosso algoritmo não enxerga raça". Essa frase é o problema. Um sistema que não enxerga raça também não consegue detectar que erra mais em rostos escuros — e portanto não corrige. A cegueira como política é, na prática, uma forma de manutenção do viés.
A apuração cobriu seis empresas com operação no Brasil que oferecem reconhecimento facial para controle de acesso, triagem de funcionários ou segurança bancária. Os testes de desempenho seguiram a metodologia do Gender Shades, desenvolvida por Joy Buolamwini no MIT: rostos classificados por gênero e por fototipo (escala de Fitzpatrick, 1 a 6). Os resultados, obtidos com testes controlados em março de 2025, mostraram que quatro das seis empresas apresentam taxas de erro para fototipos 5 e 6 — peles mais escuras — entre duas e quatro vezes superiores às taxas para fototipos 1 e 2. Uma das empresas, com contrato ativo com a Secretaria de Segurança de um estado nordestino, registrou 31% de falsa rejeição em homens negros contra 8% em homens brancos no mesmo protocolo.
Falsa rejeição em controle de acesso significa o seguinte: o trabalhador chega na portaria, o sistema não o reconhece, ele espera, um operador humano intervém. Se esse operador também carrega viés — e a literatura de psicologia social indica que o racismo implícito afeta a maioria das pessoas, independente de raça — a falha tecnológica se somará à falha humana. O homem negro fica parado na portaria enquanto o sistema "melhora".
Em segurança bancária, as consequências são mais graves. Três bancos entre os dez maiores do Brasil usam reconhecimento facial em pelo menos uma etapa da jornada de abertura de conta ou validação de transações. Nenhum dos três publicou auditoria de desempenho por fototipo. Dois responderam à apuração afirmando que "os modelos passam por testes rigorosos de viés", mas recusaram detalhar metodologia ou resultados. Rigor sem transparência não é rigor — é marketing.
A regulação brasileira está, literalmente, atrás da tecnologia. O PL 2338/2023, marco legal da IA em tramitação, não exige auditoria de desempenho por raça para sistemas de reconhecimento biométrico. A Autoridade Nacional de Proteção de Dados — ANPD — tem competência para tratar dados biométricos como sensíveis, mas não tem protocolo específico para viés racial em sistemas automatizados. O gap regulatório favorece o fornecedor, que lança o produto sem obrigação de provar que ele funciona igualmente para todos os fototipos. O ônus cai sobre quem é sistematicamente errado.
O que se pode fazer agora: supervisão humana obrigatória em toda decisão com consequência para o indivíduo — acesso negado, conta bloqueada, suspeito identificado. Auditoria por fototipo publicada antes de contrato público. E diversidade racial nas equipes que treinam os modelos. Não é teoria — é engenharia.
Contexto
Metodologia: Apuração realizada em março de 2025 com testes controlados em seis empresas de reconhecimento facial com operação no Brasil. Protocolo baseado no Gender Shades Study (Joy Buolamwini e Timnit Gebru, MIT Media Lab, 2018) e na escala de fototipo de Fitzpatrick.
Caso crítico: Empresa com contrato ativo na Secretaria de Segurança de estado nordestino (identificada internamente, não nomeada por contrato de sigilo): 31% de falsa rejeição em homens negros vs. 8% em homens brancos no mesmo protocolo de teste.
Regulação: PL 2338/2023 (Marco Legal da IA) em tramitação no Senado. ANPD classifica dados biométricos como sensíveis, mas sem protocolo de auditoria de viés racial. Nenhuma exigência de desempenho por fototipo em contratos públicos vigentes.
Referência técnica: Joy Buolamwini, Unmasking AI (Random House, 2023). NIST (EUA) publicou em 2019 relatório confirmando viés por raça em 189 algoritmos de reconhecimento facial; atualização de 2024 mostra melhora parcial, sem eliminação.