Imagine que você acorda com dores no peito, abre um aplicativo no celular, descreve seus sintomas — e recebe, em segundos, um diagnóstico detalhado, com sugestão de medicamento e orientação de tratamento. Parece útil. Parece moderno. Parece o futuro. Mas há uma pergunta que raramente alguém faz: quem responde juridicamente se esse diagnóstico estiver errado?
A resposta, no estado atual da regulamentação mundial — e especialmente no Brasil —, é assustadoramente simples: ninguém.
Dois Pesos, Duas Medidas: O Carro e o Médico de Silício
Em 2023, a Tesla precisou recolher mais de 2 milhões de veículos nos Estados Unidos por falhas no sistema de piloto automático. A investigação foi rigorosa, pública e resultou em mudanças obrigatórias no software. O motivo? Regulamentações extremamente severas da NHTSA (Agência Nacional de Segurança no Tráfego Rodoviário) e de seus equivalentes ao redor do mundo obrigam que cada sistema de direção autônoma passe por milhares de horas de testes, validações independentes, auditorias de segurança e, sobretudo, que exista uma cadeia clara de responsabilidade jurídica quando algo der errado.
Agora compare com o que acontece na saúde. Aplicativos de inteligência artificial que analisam fotos de lesões de pele, chatbots que interpretam exames de sangue, plataformas que recomendam dietas para pacientes com doenças crônicas complexas — tudo isso disponível para download nas lojas de aplicativos, sem prescrição, sem supervisão médica obrigatória, sem qualquer mecanismo de responsabilização quando a orientação for equivocada.
A lógica regulatória parece invertida. Um veículo que errar uma curva pode matar uma pessoa. Um diagnóstico equivocado pode matar dezenas — silenciosamente, ao longo de meses, enquanto a doença real avança sem o tratamento correto.
"Um carro autônomo precisa de milhares de horas de validação para circular. Um app de IA médica precisa apenas de uma boa campanha de marketing."
O Vácuo Regulatório: Uma Lacuna com Consequências Reais
Nos Estados Unidos, o FDA (Food and Drug Administration) possui diretrizes para softwares de saúde, mas a maioria dos aplicativos de IA consegue escapar da regulamentação mais rígida enquadrando seus produtos como ferramentas de "informação geral" — e não como dispositivos médicos. Na Europa, o AI Act, aprovado em 2024, classifica sistemas de IA de alto risco na saúde como sujeitos a controles mais estritos, mas a implementação ainda está em curso. No Brasil, a ANVISA e o CFM (Conselho Federal de Medicina) têm se movimentado lentamente, enquanto centenas de aplicativos de saúde baseados em IA já operam livremente.
Os casos concretos de falhas já existem e são alarmantes:
Estudos publicados no periódico The Lancet Digital Health demonstraram que sistemas de IA para diagnóstico de melanoma — treinados majoritariamente em imagens de peles claras — apresentavam taxas de erro significativamente maiores em pacientes negros e pardos. Uma falha técnica com potencial de custo humano enorme.
Pesquisadores da Universidade de Maastricht testaram modelos de linguagem com descrições de sintomas de emergências médicas. Em vários cenários, os sistemas recomendaram tratamentos domésticos quando o correto seria orientar o paciente a buscar atendimento de urgência imediata.
Em 2018, reportagem do STAT News revelou que o renomado sistema de IA para oncologia do IBM Watson havia recomendado tratamentos que médicos especialistas do Memorial Sloan Kettering Cancer Center consideraram "inseguros e incorretos" em diversos casos clínicos. O sistema havia sido treinado parcialmente em casos hipotéticos, não em dados reais de pacientes.
Aplicativos que prometem identificar sinais de depressão através da análise de voz ou texto têm sido amplamente criticados por pesquisadores de saúde mental por gerar tanto falsos positivos quanto falsos negativos — criando ora ansiedade desnecessária, ora uma falsa sensação de segurança em pessoas que precisariam de ajuda especializada.
A Pergunta Errada Pode Ser Fatal
Existe um problema fundamental que raramente é discutido nas animadas apresentações de startups de healthtech: a qualidade do diagnóstico por IA depende, de forma crítica, da qualidade da pergunta feita ao sistema — e da completude das informações fornecidas.
Um médico treinado sabe fazer a pergunta certa. Sabe que um paciente que diz "estou cansado" pode estar com anemia, depressão, hipotireoidismo, insuficiência cardíaca, doença renal crônica ou simplesmente dormindo mal. O profissional humano conduz uma anamnese — uma arte clínica refinada por séculos — para extrair as informações relevantes e contextualizar queixas vagas dentro do quadro completo do paciente.
Um sistema de IA depende do que o usuário sabe informar — e de como informa. Se o paciente não menciona que toma um determinado medicamento, que tem histórico familiar de uma condição específica ou que seus sintomas pioram em certas circunstâncias, o sistema simplesmente não terá essas informações. E, ao contrário do médico, muitas plataformas não alertam que o diagnóstico pode ser incompleto por falta de dados críticos.
Mais grave ainda: em casos de comorbidades — quando o paciente tem múltiplas doenças simultaneamente — a complexidade das interações entre condições e medicamentos torna o diagnóstico e o manejo terapêutico exponencialmente mais difícil. É exatamente nesse terreno que a IA demonstra suas limitações mais perigosas.
A Lição que Aprendi na Prática: O Caso MetaSano
No MetaSano, desenvolvemos uma solução voltada para pacientes renais — um dos grupos mais complexos e vulneráveis da medicina. A doença renal crônica raramente vem sozinha. Ela costuma aparecer acompanhada de diabetes, hipertensão, anemia, distúrbios eletrolíticos, dislipidemia. Cada comorbidade tem suas restrições alimentares próprias — e muitas vezes essas restrições se contradizem entre si. O que é bom para o rim pode ser ruim para o coração. O que controla o potássio pode prejudicar o controle glicêmico.
Inicialmente, como tantas startups no setor, apostamos na inteligência artificial como motor central do sistema. A ideia era sedutora: treinar um modelo que, a partir do perfil clínico do paciente, indicasse os alimentos adequados para cada caso individual.
O que encontramos ao testar o sistema foi alarmante. Em casos específicos, a IA cometia erros que, na prática clínica, poderiam ser graves — desvios sutis, difíceis de detectar sem um olho especializado, exatamente o tipo de falha que passa despercebida até causar dano real.
A virada veio de uma parceria através do XN Project da Universidade Northeastern, nos Estados Unidos. Juntos, vasculhamos e validamos inúmeros artigos científicos sobre nefrologia e nutrição clínica renal. O resultado foi a construção de um algoritmo robusto, baseado em evidências científicas sólidas — e que, nos testes comparativos, superou o desempenho da IA que havíamos desenvolvido.
"Perceber a quantidade de erros que a IA ainda comete em casos específicos me preocupou profundamente — e me convenceu de que ela não pode ser o protagonista de um diagnóstico médico."
Ferramenta ou Médico? A Linha que Não Pode Ser Cruzada
É preciso deixar claro: a inteligência artificial tem um papel legítimo e valioso na medicina. Sistemas de IA já demonstraram capacidade extraordinária em tarefas específicas — detectar padrões em imagens de radiologia com velocidade e precisão impressionantes, auxiliar no triagem de grande volume de dados genômicos, identificar interações medicamentosas em prontuários complexos.
A questão não é se a IA deve estar na medicina. A questão é como e com que responsabilização.
Existe um diferença essencial entre criar uma ferramenta que auxilia o médico a tomar decisões mais embasadas e criar uma plataforma que substitui o médico no ato de diagnosticar e prescrever. A primeira é inovação responsável. A segunda é exercício ilegal da medicina — independentemente de quem o pratica ser humano ou algoritmo.
Na medicina humana, quando um profissional erra, existe todo um arcabouço jurídico e ético para tratar dessa falha: conselhos regionais, processos de responsabilidade civil, penalidades administrativas. O médico assina o diagnóstico com seu CRM e responde por ele.
Quem assina o diagnóstico de uma IA? Qual o CRM de um algoritmo?
O que Precisa Mudar: Um Chamado às Entidades Médicas
O CFM, a AMB (Associação Médica Brasileira), os conselhos de enfermagem, farmácia, nutrição e todas as entidades de saúde regulamentadas precisam sair da posição reativa. A regulamentação da IA na saúde não pode esperar o primeiro grande escândalo público para acontecer.
Todo sistema de IA que interaja diretamente com pacientes sobre questões de saúde deve ser classificado e regulado como dispositivo médico, independentemente de como a empresa desenvolvedora se auto-classifica.
Qualquer diagnóstico ou recomendação terapêutica gerado por IA só deve ser entregue ao paciente após revisão e validação de um profissional de saúde habilitado, que assuma a responsabilidade legal pelo conteúdo.
As empresas devem ser obrigadas a divulgar as bases de dados usadas para treinar seus modelos, os testes de validação realizados e os limites conhecidos dos sistemas.
Deve ficar estabelecido em lei quem responde juridicamente quando um sistema de IA causar dano ao paciente — a empresa desenvolvedora, o distribuidor, o médico que o prescreveu, ou todos eles.
Assim como medicamentos têm farmacovigilância, sistemas de IA em saúde devem ter mecanismos obrigatórios de monitoramento contínuo e reporte de eventos adversos.
O Futuro que Queremos — e o que Precisamos Evitar
Não sou ludita. Não acredito em barrar o progresso tecnológico na medicina — seria absurdo e contraproducente. Acredito, profundamente, que a IA pode e deve transformar a saúde para melhor: tornando diagnósticos mais acessíveis a populações remotas, ajudando médicos a processar volumes crescentes de informação, personalizando tratamentos com uma precisão que a medicina convencional jamais alcançaria.
Mas o que não podemos aceitar é que a pressa pelo lucro e a sedução pela inovação atropelem a responsabilidade com a vida humana. A medicina é, por definição, a ciência que lida com o bem mais precioso que existe. Ela não pode ser o Velho Oeste da inteligência artificial.
Minha experiência no MetaSano me ensinou que humildade tecnológica não é fraqueza — é sabedoria. Quando percebemos que a IA errava em casos específicos, a decisão de colocá-la num papel secundário não foi uma derrota. Foi a escolha certa. Foi colocar a segurança do paciente acima do apelo mercadológico de poder dizer "nossa plataforma é 100% movida a IA".
A pergunta que precisa orientar o setor não é "o que a IA é capaz de fazer?". A pergunta certa é: "o que a IA está pronta para fazer com segurança e responsabilidade comprovadas?" Tudo que ficar além dessa fronteira precisa de regulamentação — não de marketing.
Ewerton Lopes
Ewerton Lopes é fundador do MetaSano, startup canadense de saúde digital fundada pelo brasileiro Ewerton Lopes — vencedor do primeiro prêmio de Ciência de Impacto do Canadá, com bolsas dos governos estadual e federal canadenses. A MetaSano conta com diversas parcerias com universidades e está atualmente validando sua solução em parceria com um grande hospital canadense. Especializada em soluções para pacientes com doenças crônicas, em especial doença renal crônica e suas comorbidades, a empresa desenvolveu uma abordagem híbrida através do XN Project da Universidade Northeastern (EUA), combinando algoritmos baseados em evidências científicas com inteligência artificial de suporte, priorizando segurança clínica e personalização do cuidado.