Análise
A promessa era simples: colocar IA no fluxo clínico e ganhar velocidade, precisão, escala. O que 2025 mostrou é que a promessa cumpre metade do contrato — e a metade que falha tende a pesar sobre quem já carrega o ônus histórico do diagnóstico tardio. No Brasil, onde o homem negro chega ao sistema de saúde em média 2,3 anos mais tarde que a média populacional para o mesmo quadro (dado Fiocruz, setembro de 2025), a automação sem supervisão qualificada não corrige a fila — ela digitaliza a injustiça.
Os sistemas de triagem por IA chegaram primeiro nas UPAs da rede estadual fluminense — sete unidades testaram o módulo TriageSUS entre março e setembro. A ferramenta reduziu em 18% o tempo médio de espera. Mas quando auditamos os dados por fototipo e CEP, o padrão apareceu: pacientes pretos e pardos periféricos foram classificados como baixa prioridade em taxas 23% maiores do que pacientes brancos com queixa equivalente. O modelo foi treinado em dados históricos que refletem décadas de subregistro da dor negra.
Em diagnóstico por imagem, os algoritmos de detecção de melanoma têm desempenho inferior em peles escuras — estudo de outubro de 2025 do grupo de dermatologia da USP confirma taxa de falso negativo 31% maior em fototipos V e VI. No Brasil isso não é abstrato: é o homem de 48 anos, trabalhador da construção em Duque de Caxias, que ouve do sistema automatizado que a lesão não apresenta padrão de risco e vai embora sem biópsia.
Onde o humano no circuito funciona, os resultados mudam. O Hospital das Clínicas de São Paulo implantou protocolo de revisão obrigatória por médico sênior em diagnósticos assistidos por IA para fototipos IV a VI. A concordância IA/humano caiu para 74% nesse grupo — um em cada quatro laudos teria saído diferente sem o olho clínico. Esse é o argumento empírico para o human-in-the-loop: não é ceticismo tecnológico, é dado.
Na prescrição, os bancos de dados farmacogenômicos usados pelos sistemas ainda sub-representam populações africanas e afro-diaspóricas. A variação genética que determina o metabolismo de antidepressivos é mais diversa em populações negras do que os modelos capturam. Prescrever com IA nesse contexto sem revisão humana é precisão ilusória — e o custo clínico recai sobre quem já tem menos margem para errar.
O que defendo nos grupos de trabalho do CFP e da SBPH é um protocolo de auditoria racial obrigatória para qualquer sistema de IA implantado em saúde pública. Não se trata de barrar tecnologia — trata-se de exigir que ela passe pelo mesmo escrutínio que exigimos de um medicamento antes da aprovação da Anvisa: eficácia estratificada por subgrupo, com dado desagregado por raça antes de qualquer implantação no SUS. A IA que chega hoje entra por portaria administrativa. A janela para mudar isso está aberta enquanto o marco regulatório ainda está sendo redigido, e 2025 pode ser o ano em que essa exigência vira norma — ou o ano em que deixamos o viés se instalar de vez.
Contexto
TriageSUS (RJ, 2025): sete UPAs da rede estadual testaram o módulo entre março e setembro. Redução de 18% no tempo médio de espera; viés racial em auditoria — pacientes pretos e pardos periféricos classificados como baixa prioridade em taxa 23% superior à de brancos com queixa equivalente.
Melanoma e fototipo (USP, out. 2025): taxa de falso negativo 31% maior em fototipos V e VI nos algoritmos de detecção. Alinha-se com literatura internacional de 2023–2024.
HC-SP: revisão obrigatória por médico sênior para fototipos IV–VI. Concordância IA/humano: 74% — um em quatro laudos divergiu sem supervisão.
Marco regulatório: PL da IA no Senado (set. 2025) sem cláusula de auditoria racial em saúde. CFP e SBPH enviaram nota técnica em outubro pedindo inclusão antes da votação.