Quando a máquina erra,
quem responde?

Acena é conhecida por qualquer médico que trabalhou em hospital público nos anos 1990: um equipamento de imagem com manutenção precária, laudos produzidos sob pressão, e a responsabilidade pelo erro recaindo, quase sempre, sobre o profissional que assinou o exame. A máquina era apenas a máquina. A culpa tinha rosto, CRM e endereço.

Décadas depois, a lógica não mudou tanto quanto se esperaria — mas o equipamento ficou muito mais complexo. A inteligência artificial já lê tomografias, sugere diagnósticos, analisa eletrocardiogramas e pontua o risco de sepse em UTIs brasileiras. E quando ela erra, a pergunta que ninguém ainda respondeu com clareza é: quem responde?

A analogia da máquina e seus limites

Um tomógrafo que produz imagem distorcida por falha de calibração não torna o radiologista culpado pelo diagnóstico incorreto. A responsabilidade recai sobre o fabricante do equipamento, sobre a empresa de manutenção, sobre o gestor hospitalar que assinou o contrato de serviço — ou sobre alguma combinação dos três. O médico responde pelo que interpretou com as ferramentas que tinha. Se a ferramenta era defeituosa, a cadeia de responsabilidade sobe.

A inteligência artificial deveria funcionar pela mesma lógica. E em tese, funciona — exceto que "em tese" é exatamente onde o problema mora.

Relatório publicado em junho de 2026 pela Medical Protection Society, entidade britânica que representa médicos em processos de má prática, alerta que os médicos correm o risco de se tornar o que o documento chama de liability sink — um repositório de responsabilidade legal para erros que a IA cometeu. O relatório cita dois exemplos concretos: uma IA que deixa de identificar um tumor pulmonar em uma radiografia de tórax, e outra que recomenda erroneamente o aumento da dose de varfarina a um paciente com fibrilação atrial, levando-o a um sangramento grave. Em ambos os casos, o médico que confiou na ferramenta pode ser o réu na ação de negligência médica.

O Brasil não está imune

O sistema jurídico brasileiro opera sob lógica diferente da britânica, mas as lacunas são análogas. O Código de Defesa do Consumidor responsabiliza o fabricante por defeitos de produto, e o Código Civil prevê responsabilidade objetiva do fornecedor de serviços. Mas a IA usada em saúde raramente se enquadra com clareza em qualquer dessas categorias: não é exatamente um produto, não é exatamente um serviço, e o médico que a utiliza pode ser tratado como corresponsável pela decisão clínica que ela influenciou.

A ANVISA regulamenta softwares com função médica — os chamados SaMD, Software as a Medical Device — desde 2021, por meio da RDC 657. Mas a normatização cobre principalmente a certificação para comercialização, não a atribuição de responsabilidade civil quando algo dá errado depois que o produto está em uso.

O CFM, por sua vez, tem posições cautelosas sobre IA: o médico é sempre o responsável final pela decisão clínica. É uma postura compreensível do ponto de vista deontológico — e problemática do ponto de vista prático.

O vácuo que o mercado preencheu antes da lei

O Brasil já conta com dezenas de startups e empresas de médio porte vendendo soluções de IA para hospitais, clínicas e operadoras de saúde. Análise de imagens oncológicas, triagem de risco em pronto-socorro, detecção precoce de retinopatia diabética — o portfólio é extenso e, em muitos casos, clinicamente promissor. Os contratos, porém, costumam incluir cláusulas que transferem integralmente a responsabilidade pelo uso clínico ao médico ou à instituição compradora.

É um modelo que imita, grosso modo, o que aconteceu com os fabricantes de equipamentos hospitalares antes de a regulação de dispositivos médicos amadurecer: o risco ficava com quem usava, não com quem produzia. A diferença é que a IA toma decisões — ou influencia decisões — de forma muito mais opaca do que um tomógrafo. Não há calibração visível, não há manual de manutenção, não há log de falhas que o técnico pode checar antes do plantão.

Transparência como pré-requisito

Qualquer estrutura de responsabilidade que funcione precisa, antes de tudo, de rastreabilidade. Saber qual versão do modelo foi usada, com qual conjunto de dados foi treinado, em qual população foi validado, e como seu desempenho foi monitorado depois da implantação — essas não são exigências técnicas abstratas. São o equivalente, para a IA médica, do registro de calibração de um equipamento ou do boletim de manutenção de um ventilador.

Sem esse histórico, a cadeia de responsabilidade se torna impossível de reconstituir. E quando a cadeia é impossível de reconstituir, o ônus recai sobre quem tem nome e CRM — não sobre quem tem servidor e CNPJ.

O que se espera do debate público

A resposta não é paralisar o uso da IA em saúde. As evidências de benefício em áreas como diagnóstico por imagem e triagem de risco são reais e crescentes. A resposta é construir, com urgência, o arcabouço regulatório que permita que a tecnologia avance sem criar um sistema em que o erro de uma empresa seja punido na conta do médico — e, em última instância, na conta do paciente que perdeu o acesso ao tratamento por causa de um diagnóstico equivocado que ninguém quer assumir.

O Reino Unido está discutindo isso agora, em tom de alerta. O Brasil deveria estar discutindo também — e não apenas nos corredores do CFM ou nas audiências da ANVISA, mas no espaço público onde as escolhas sobre tecnologia e saúde são, em última análise, escolhas sobre quem protegemos quando as coisas dão errado.