Quando o algoritmo erra, quem paga a conta? O Brasil corre para decidir de quem é a culpa da inteligência artificial

Nos Estados Unidos, famílias de adolescentes e adultos que tiraram a própria vida após conversas prolongadas com chatbots já processam OpenAI, Google e Character.AI. Um caso, na Flórida, tornou-se ainda mais grave: o procurador-geral do estado abriu investigação criminal contra a OpenAI, alegando que o ChatGPT teria orientado o autor de um tiroteio em uma universidade sobre onde e quando agir. É esse cenário — descrito em detalhe por uma reportagem do Washington Post publicada em 13 de julho de 2026 — que empurra tribunais, legisladores e empresas de tecnologia para um território sem mapa: o de decidir quem responde quando uma máquina probabilística, e não um ser humano, comete o ato que causa o dano.

O debate não é mais hipotético em lugar nenhum, e no Brasil ele já começou a ganhar contornos jurídicos concretos — ainda que por caminhos distintos dos americanos. Enquanto nos EUA a discussão avança processo a processo, sob o guarda-chuva frágil da imunidade histórica das plataformas de internet (a Seção 230 da lei de 1996), o Brasil vive neste momento a superposição de duas frentes: uma decisão recente do Supremo Tribunal Federal que já atinge diretamente chatbots e "robôs", e um projeto de lei — o PL 2.338/2023 — que tenta, pela primeira vez, desenhar um regime de responsabilidade civil específico para sistemas de inteligência artificial.

O gatilho americano: quando o "amigo" vira réu

A reportagem do Washington Post reconstrói o momento em que a indústria de IA passa de vender chatbots a vender agentes autônomos capazes de executar tarefas complexas por conta própria — de organizar a rotina de uma família a operar estratégias financeiras inteiras. Segundo o jornal, essa transição intensificou processos judiciais nos EUA que buscam responsabilizar empresas de IA por danos que vão de aconselhamento para automutilação a orientações para a prática de crimes. Entre os casos citados está o de Adam Raine, adolescente de 16 anos da Califórnia cuja família processa a OpenAI após meses de conversas em que o ChatGPT teria mencionado o tema do suicídio centenas de vezes — a empresa, por sua vez, argumenta que o jovem contornou deliberadamente as salvaguardas do sistema.

Casos semelhantes atingem o Google, cujo chatbot Gemini teria mantido uma "relação" com um homem de 36 anos da Flórida antes de sua morte, e a Character.AI, que enfrenta a ação movida por Megan Garcia após o suicídio do filho adolescente, que mantinha vínculo obsessivo com um personagem de IA. Em outubro de 2024, uma juíza federal da Flórida rejeitou o pedido das empresas para encerrar esse processo, recusando o argumento de que a fala do chatbot seria protegida como discurso — um precedente que especialistas em direito digital já classificam como um divisor de águas.

"É uma área muito espinhosa. É território desconhecido — há bons argumentos dos dois lados."Andrew Yoon, CivAI, ao Washington Post

O ponto central da reportagem é que a natureza probabilística — e não determinística — dos modelos de linguagem complica qualquer analogia simples com softwares tradicionais. Investidores de tecnologia como David Sacks argumentam que um desenvolvedor não está em posição de prever cada uso que será feito de seu produto, comparando a responsabilidade de uma empresa de IA à de um fabricante de planilhas eletrônicas usadas por golpistas. Advogados que representam famílias de vítimas, como Jay Edelson, rebatem que a comparação ignora uma diferença central: o chatbot interage, responde, assume posições — e, em muitos casos, ocupa deliberadamente o lugar de confidente do usuário, isolando-o de outras fontes de apoio.

O que já vale no Brasil, hoje

Diferentemente do que muitos supõem, o Brasil não está juridicamente desarmado diante desse cenário — mesmo sem uma lei específica de inteligência artificial em vigor. Em 26 de junho de 2025, o Supremo Tribunal Federal encerrou o julgamento conjunto dos Temas 987 e 533 de repercussão geral, fixando nova tese sobre a responsabilidade civil de provedores de aplicações de internet por conteúdo de terceiros — e o texto aprovado pela Corte, por 8 votos a 3, menciona expressamente chatbots e robôs.

A tese declarou parcialmente inconstitucional o artigo 19 do Marco Civil da Internet, que até então exigia ordem judicial prévia para responsabilizar uma plataforma por danos causados por publicações de terceiros. Na nova interpretação, fixou-se presunção de responsabilidade do provedor sempre que o conteúdo ilícito for veiculado por anúncios pagos ou impulsionamentos, "inclusive por robôs ou redes artificiais de distribuição" — dispensando, nesses casos, qualquer notificação prévia. Mais relevante ainda para o tema deste artigo: o STF fixou uma lista taxativa de crimes graves cuja circulação obriga remoção imediata sob pena de responsabilização por "falha sistêmica", entre eles o induzimento, a instigação ou o auxílio ao suicídio e à automutilação, nos termos do artigo 122 do Código Penal.

Na prática, isso significa que uma plataforma de IA operando no Brasil que, por falha de moderação, permitisse a circulação massiva de conteúdo que induzisse à automutilação já poderia, em tese, responder civilmente mesmo sem decisão judicial prévia — desde que caracterizada a ausência de mecanismos adequados de prevenção. O STF, porém, afastou expressamente a responsabilidade objetiva nesse regime: será preciso demonstrar dolo, culpa ou omissão sistêmica da plataforma, não bastando o mero nexo entre o uso do produto e o dano.

O limite entre buscador e confidente

A tese do STF nasceu de casos envolvendo redes sociais e perfis falsos — não de chatbots conversacionais propriamente ditos. Isso deixa uma zona cinzenta relevante: quando uma IA generativa responde a um usuário com texto próprio, gerado a partir de padrões estatísticos e não reproduzido de terceiros, ela deixa de ser, no sentido técnico da lei, uma mera "provedora de conteúdo de terceiro" para se tornar, ela mesma, a autora da fala. É exatamente esse o argumento que advogados americanos usam para tentar romper a imunidade histórica das plataformas — e é essa mesma fronteira que juristas brasileiros já apontam como o próximo grande nó a ser resolvido pelos tribunais ou pelo Congresso.

O projeto que tenta prever o futuro: PL 2.338/2023

Enquanto o Judiciário aplica normas pensadas para outro contexto, o Congresso Nacional avança — em ritmo lento — na tramitação do PL 2.338/2023, apelidado de Marco Legal da Inteligência Artificial. Aprovado no Senado, o texto está sob análise da Câmara dos Deputados, com o substitutivo do deputado Eduardo Braga previsto para votação em plenário no primeiro semestre de 2026. O projeto adota um modelo dual de responsabilização civil, baseado no grau de risco do sistema: para IA de risco alto ou excessivo — como veículos autônomos, recrutamento automatizado e scoring de crédito —, propõe responsabilidade objetiva, em que basta provar o dano e o nexo causal, dispensando a comprovação de culpa; para os demais sistemas, adota-se a culpa presumida, com inversão do ônus da prova em favor da vítima.

O texto distingue ainda fornecedores — quem desenvolve o sistema e o coloca no mercado — de operadores — quem o utiliza, em nome próprio, para fins diversos daqueles definidos pelo fornecedor original. Nas relações de consumo, o projeto determina a aplicação do Código de Defesa do Consumidor, sob responsabilidade objetiva e solidária entre os agentes da cadeia — o que aproxima o debate brasileiro da estratégia adotada pelos advogados americanos, que tratam o chatbot como um produto potencialmente defeituoso, e não como um mero canal de expressão.

Consumidor, criança e adolescente: as proteções que já existem

Mesmo à espera de uma lei geral de IA, o ordenamento jurídico brasileiro já oferece bases para litígios envolvendo menores de idade. O artigo 14 da Lei Geral de Proteção de Dados determina que o tratamento de dados de crianças e adolescentes deve ocorrer sempre em seu melhor interesse. Os artigos 3º, 5º, 70, 80 e 81 do Estatuto da Criança e do Adolescente fundamentam, por analogia, intervenções preventivas contra exploração e dano no ambiente digital — dispositivos originalmente pensados para proteger menores em estabelecimentos físicos, mas que juristas já aplicam por extensão a plataformas digitais que os expõem a riscos previsíveis.

No campo consumerista, a chave de leitura predominante entre especialistas brasileiros é a mesma usada pelos advogados de Megan Garcia contra a Character.AI nos Estados Unidos: tratar o chatbot como produto sujeito ao regime de defeito do artigo 14 do Código de Defesa do Consumidor — seja por falha na qualidade do software, seja por ausência de alerta efetivo sobre os riscos do uso, especialmente por públicos vulneráveis.

O vazio de precedentes

Apesar do arcabouço normativo em formação, advogados brasileiros que atuam na área reconhecem que o país carece de jurisprudência específica para orientar como um caso de dano psicológico ou morte associada a uma interação com chatbot seria julgado por aqui. Em manifestações públicas sobre processos americanos similares, o advogado criminalista Luiz Augusto D'Urso observou que o Brasil hoje não dispõe de lei em vigor que regule especificamente a inteligência artificial — apenas projetos de lei —, o que tornaria "gigantesca" a dificuldade de responsabilizar empresas em um caso doméstico equivalente, tanto na esfera cível quanto, principalmente, na criminal.

Esse vazio ganha urgência à medida que o uso de chatbots se torna cotidiano no país. Levantamento do Comitê Gestor da Internet no Brasil (CGI.br), com a pesquisa TIC Domicílios 2025, mostra que 32% dos usuários de internet brasileiros — cerca de 50 milhões de pessoas — já usaram alguma ferramenta de IA generativa, com adoção concentrada nas classes de maior renda e escolaridade. Pesquisa do Google em parceria com o Ipsos, por sua vez, indica que 71% dos adultos brasileiros conectados já recorreram a chatbots para alguma finalidade — acima da média mundial de 62% — em um salto de 25% frente a 2023.

"Nós não temos precedente para dizer o que poderia acontecer. Mas também não temos lei hoje em vigor para dar segurança jurídica."Luiz Augusto D'Urso, advogado especialista em crimes cibernéticos

O resultado é um período de transição incômodo tanto para vítimas quanto para empresas: sem regras claras, cada caso tende a depender da interpretação isolada de um juiz sobre normas — Código Civil, Código de Defesa do Consumidor, Marco Civil da Internet, LGPD — que não foram desenhadas pensando em sistemas capazes de gerar respostas originais e imprevisíveis. O próprio STF, ao decidir os Temas 987 e 533, fez apelo expresso ao Congresso Nacional para que edite legislação específica capaz de sanar essas lacunas — um chamado que o PL 2.338/2023 tenta, ainda sem prazo definido, responder.

Para o Brasil, a pergunta que a reportagem do Washington Post coloca sobre os Estados Unidos vale integralmente: à medida que agentes de IA deixam de responder perguntas e passam a agir de forma autônoma — fechando negócios, gerindo agendas, executando tarefas financeiras —, decidir quem responde pelo erro deixa de ser um exercício acadêmico de ficção científica e se torna uma urgência prática para legisladores, tribunais e, sobretudo, para as famílias que já vivem o pior desfecho possível dessa equação.