Kayla Secrest tinha acabado de começar a residência em um hospital de Michigan quando um alerta automático passou a aparecer, repetidamente, ao lado do nome de quase todos os seus pacientes. O sistema havia sido implementado para varrer prontuários a cada quinze minutos e sinalizar sinais de sepse, uma das causas de morte evitável mais comuns em ambientes hospitalares. Em poucos meses, ela e os colegas pararam de correr até o leito quando a notificação surgia. A comparação que ela usa é direta: o alerta virou o menino que gritava lobo demais vezes1.
O episódio, relatado pelo jornal britânico Financial Times em reportagem publicada nesta semana, resume um problema que atravessa hospitais nos Estados Unidos, na Europa e, cada vez mais, no Brasil. A inteligência artificial aplicada à medicina cresceu em ritmo acelerado nos últimos anos, mas boa parte dessa expansão ainda não tem lastro em evidência sobre o que acontece quando o algoritmo sai do ambiente controlado de testes e entra na rotina de um pronto-socorro lotado.
O fosso entre o laboratório e o corredor
O problema relatado por Secrest tem nome na literatura médica: fadiga de alerta. Um levantamento citado pela consultoria Wolters Kluwer mostra que sistemas de apoio à decisão clínica voltados à detecção precoce de sepse costumam ter sensibilidade de até 95%, mas especificidade de apenas 15%. Na prática, isso significa uma enxurrada de falsos positivos para cada caso real identificado, com taxas de anulação do alerta pelo próprio profissional de saúde chegando a 80%2.
Um exemplo concreto veio durante a pandemia de covid-19. Pesquisadores da Universidade de Michigan analisaram 24 hospitais que usavam o Epic Sepsis Model, um dos sistemas de alerta mais difundidos nos Estados Unidos, e encontraram um salto de 43% no volume diário de alertas nas semanas seguintes ao primeiro caso de covid-19 em cada rede hospitalar, mesmo com a ocupação de leitos caindo 35% por causa do cancelamento de cirurgias eletivas. A universidade chegou a suspender totalmente os alertas em abril de 2020 diante das reclamações de sobrecarga3.
Um estudo recente com 239 enfermeiros de um hospital na Romênia reforça o padrão: quanto maior a fadiga de alerta e o desgaste moral relatados pela equipe, maior a intenção de simplesmente ignorar os avisos gerados por sistemas de apoio à decisão clínica, independentemente da acurácia técnica da ferramenta4.
Uma corrida regulatória que não acompanha a inovação
O número de dispositivos médicos com IA autorizados pela FDA passou de poucas unidades em 2010 para mais de 250 em 2025, segundo dados da própria agência americana e do relatório anual do Stanford Institute for Human-Centered AI. O cardiologista e pesquisador Eric Topol, uma das vozes mais citadas sobre o tema, argumenta que gestores hospitalares têm se deixado seduzir pelo fator surpresa da IA generativa, impulsionada pelo lançamento do ChatGPT em 2022, em vez de priorizar ferramentas com histórico comprovado de eficácia clínica1.
Segundo Topol, faltam incentivos financeiros e regulatórios para que as grandes empresas de tecnologia em saúde conduzam ensaios de validação em condições reais de uso, depois que o produto já está aprovado e em circulação1. Andrew Wong, médico e pesquisador que investigou o desempenho do próprio sistema de alerta de sepse citado por Secrest, trabalhou com a desenvolvedora da ferramenta para corrigir falhas identificadas somente depois da implantação em centenas de hospitais1.
O viés que ninguém vê
Outro risco documentado é o de algoritmos que reproduzem desigualdades já existentes no sistema de saúde. O pesquisador Ziad Obermeyer, da Universidade da Califórnia em Berkeley, identificou que uma ferramenta de estratificação de risco usada para alocar recursos hospitalares tratava gastos médicos passados como indicador de necessidade futura de cuidado. O efeito colateral foi que pacientes de minorias étnicas e falantes de outras línguas, historicamente com menor acesso a serviços de saúde, continuavam sendo subestimados pelo sistema, mesmo quando precisavam de mais atenção1.
No Brasil, esse debate ganhou nome próprio: "Brasil profundo". Um grupo de pesquisadores ligados à Sociedade Brasileira de Computação descreve como algoritmos de saúde treinados majoritariamente com dados de grandes centros urbanos tendem a perder acurácia quando aplicados a populações indígenas, quilombolas e rurais, sub-representadas nas bases de treinamento5. A Fiocruz Brasília mantém desde 2021 o Observatório Odisseia, dedicado a acompanhar justamente o cruzamento entre desigualdades em saúde e transformação digital do SUS.
Contraponto
Nem todo uso clínico de IA carrega o mesmo risco. Ferramentas de diagnóstico por imagem, como leitura de exames de retina, mamografias e eletrocardiogramas, acumulam anos de validação e já mostraram ganhos de sensibilidade em relação à leitura humana isolada em diversos estudos. O próprio Topol reconhece esse histórico positivo e defende que o problema não é a tecnologia em si, mas a falta de rigor equivalente na fase seguinte, quando o produto já está em uso em larga escala1. Descartar a IA clínica por causa de falhas em sistemas específicos de alerta seria perder ganhos já comprovados em outras frentes.
O Brasil também corre atrás
A regulação brasileira caminha em duas frentes que não se confundem. O Conselho Federal de Medicina publicou em 2026 a Resolução 2.454, que trata da conduta do médico: autoriza o uso de IA como apoio à decisão clínica, à gestão em saúde e à pesquisa, mas mantém como inegociável que a decisão final sobre diagnóstico, tratamento e prognóstico seja sempre humana6.
Já a Anvisa regula o produto, não a conduta médica. A RDC 657/2022 classifica softwares médicos por grau de risco, seguindo a matriz do Fórum Internacional de Reguladores de Dispositivos Médicos, e exige registro ou notificação prévia conforme o enquadramento de risco6. Em novembro de 2025, a agência anunciou um plano de modernização de R$ 25 milhões voltado à própria inteligência artificial de seus processos internos, além da contratação de mais de cem especialistas para acelerar análises6. Em agosto de 2026, a Anvisa abriu o Edital de Chamamento 5/2026 para acompanhar de forma antecipada o desenvolvimento de dispositivos inovadores, incluindo soluções de diagnóstico baseadas em IA classificadas nas categorias de maior risco7.
Um ponto em discussão na revisão da RDC 657 é a criação de um Plano de Controle de Mudanças Predeterminado, mecanismo que permitiria a um fabricante descrever antecipadamente como um algoritmo vai evoluir e quais critérios validam essas mudanças, sem exigir nova submissão regulatória a cada atualização, desde que dentro de limites previamente aprovados8. É uma tentativa de equilibrar a velocidade de atualização típica de softwares de IA com a exigência de segurança que rege qualquer dispositivo médico.
O que falta para fechar o fosso
Tanto nos Estados Unidos quanto no Brasil, o gargalo comum é a infraestrutura de monitoramento pós-implantação. Segundo Amy Abernethy, ex-vice-comissária principal da FDA, reunir evidência clínica depois que o modelo já está em uso exige uma estrutura de coleta de dados que historicamente é difícil de montar, especialmente em hospitais menores e com menos recursos1. No Brasil, essa limitação tende a ser ainda mais aguda em unidades de saúde do interior e da rede pública, que dificilmente têm capacidade técnica para conduzir sozinhas esse tipo de avaliação contínua.
O caminho que pesquisadores de ambos os países apontam como mais promissor não é interromper a adoção de IA clínica, mas condicioná-la a mecanismos permanentes de verificação: auditoria de desempenho por subgrupo populacional, redução de alertas redundantes e obrigação de relatar publicamente quando um modelo passa a errar mais depois de atualizado. Sem isso, a distância entre o que a tecnologia promete em artigos científicos e o que ela entrega dentro de um corredor de hospital lotado deve continuar sendo medida em casos como o de Kayla Secrest.
Perguntas frequentes
O que é um dispositivo médico com inteligência artificial (SaMD)?
É um software cuja finalidade declarada é diagnosticar, monitorar, prevenir ou tratar uma condição de saúde, mesmo sem estar embutido em um equipamento físico. No Brasil, esse tipo de produto é regulado pela Anvisa por meio da RDC 657/2022, que segue a classificação internacional de risco do IMDRF.
Por que hospitais nos Estados Unidos relatam perda de confiança em alertas de IA?
Porque muitos sistemas de alerta, especialmente os voltados à detecção de sepse, geram um volume alto de falsos positivos. Estudos apontam taxas de anulação do alerta pelo profissional de saúde de até 80%, um padrão conhecido como fadiga de alerta.
Como o Brasil regula o uso de inteligência artificial na medicina?
Por duas vias complementares. A Anvisa regula o software como produto, exigindo registro conforme o risco (RDC 657/2022). O Conselho Federal de Medicina regula a conduta do médico, permitindo o uso de IA como apoio, mas mantendo a decisão clínica final sob responsabilidade humana (Resolução CFM 2.454/2026).
A inteligência artificial na saúde já é segura o suficiente?
Depende da aplicação. Ferramentas de diagnóstico por imagem, com anos de validação clínica, têm histórico mais consolidado. Já sistemas de alerta em tempo real e de alocação de recursos carecem de monitoramento contínuo depois da implantação, o que torna difícil afirmar com segurança que funcionam igualmente bem fora do ambiente de teste.
Qual é o papel do médico diante da IA clínica?
Segundo a regulação vigente no Brasil e nos Estados Unidos, o profissional de saúde continua sendo o responsável final pela decisão diagnóstica e terapêutica. A IA é tratada como ferramenta de apoio, não como substituta do julgamento clínico.