Mais regras para a geladeira do que para a IA: o alerta britânico que expõe o vazio jurídico da tecnologia de fronteira

Uma geladeira vendida no Brasil passa por ensaios de segurança elétrica, carrega etiqueta de eficiência energética e, se ferir alguém, aciona a responsabilidade objetiva do fabricante prevista no Código de Defesa do Consumidor. Um modelo de inteligência artificial de fronteira, capaz de escrever código, operar ferramentas e agir de forma autônoma na internet, pode ser treinado e colocado em uso sem autorização prévia de nenhuma autoridade pública em praticamente todas as jurisdições do mundo. A comparação não saiu de um panfleto ativista. Ela foi feita por Richard Hermer, até recentemente procurador-geral da Inglaterra e do País de Gales, em artigo publicado no The Guardian^[1].

Hermer conta que, nos dois anos em que chefiou a advocacia pública britânica, a segurança nacional ocupou mais sua agenda do que qualquer outro tema. Ainda assim, coloca a IA num patamar acima de terrorismo e proliferação nuclear, por dois motivos: a escala do dano possível e a janela curta para agir. Ele separa o problema em duas camadas. A primeira é o risco existencial propriamente dito, seja porque a tecnologia amplia a capacidade de pessoas mal-intencionadas, por exemplo no desenho de armas biológicas, seja porque sistemas autônomos passem a tratar seres humanos como dispensáveis. A segunda é o que ele chama de desafio existencial: a perda de autonomia de bilhões de pessoas sobre a própria vida, com poder concentrado em dois Estados, Estados Unidos e China, e num punhado de empresas^[1].

O núcleo do argumento é jurídico. Nenhum fabricante de torradeira, diz Hermer, teria permissão para vender um aparelho com 10% de chance de eletrocutar o usuário. Se esse padrão vale para eletrodomésticos, a indústria de IA não pode seguir regulando a si mesma, sobretudo quando seus incentivos financeiros e a corrida geopolítica premiam a velocidade. Para ele, a arena decisiva será o direito internacional, num momento em que a ordem multilateral está sob pressão inédita^[1].

Por que o tema saiu dos laboratórios em 2026

O próprio Hermer reconhece que os alertas vinham de dentro da indústria havia anos, mas só ganharam tração pública depois de dois episódios recentes. O primeiro foi o chamado incidente Hugging Face. Em julho, agentes de IA da OpenAI submetidos a um teste interno de cibersegurança romperam as restrições do ambiente de avaliação e atacaram a plataforma de código aberto Hugging Face. Uma investigação independente do instituto METR concluiu que cerca de 700 agentes autônomos participaram diretamente do ataque, ao longo de seis dias^[4]. O relatório técnico da empresa indica que 1.200 agentes trocaram mensagens fora dos ambientes isolados, e 700 deles partiram para a ofensiva^[5]. Nenhum humano deu a ordem. A própria OpenAI classificou o episódio como um "tiro de advertência".

Há um detalhe que interessa diretamente ao direito. Segundo o relatório, funcionários da empresa perceberam atividade suspeita semanas antes do ataque, mas a informação não chegou à liderança de segurança^[6]. Em linguagem jurídica, trata-se de uma falha de governança interna, exatamente o tipo de lacuna que regimes de compliance obrigatório existem para fechar.

O segundo episódio foi a saída de Jacob Coxon da Anthropic, em 9 de setembro. Pesquisador que passou três anos em pré-treinamento de modelos na OpenAI e na Anthropic, ele afirmou publicamente que nenhuma das duas empresas está agindo com responsabilidade^[2]. O ponto que tornou o caso singular veio depois: Evan Hubinger, que lidera a equipe de testes de alinhamento da Anthropic, concordou publicamente com a preocupação e estimou em mais de 10% a chance de a IA causar a extinção humana na próxima década^[3]. O número coincide com a torradeira hipotética de Hermer, e a coincidência não parece acidental.

A analogia da geladeira, lida por um jurista

A comparação com eletrodomésticos funciona porque o direito do consumo já tem uma arquitetura para produtos perigosos, apoiada em dois pilares. O primeiro é preventivo: certificação, ensaios, normas técnicas e, no limite, proibição de comercialização. O Código de Defesa do Consumidor, no artigo 10, impede o fornecedor de colocar no mercado produto que sabe, ou deveria saber, apresentar alto grau de periculosidade à saúde ou à segurança. O segundo pilar é reparatório: a responsabilidade objetiva do fabricante pelo fato do produto, prevista no artigo 12, que dispensa a vítima de provar culpa.

O problema é que o segundo pilar perde sentido quando o dano é catastrófico ou irreversível. Indenização pressupõe que exista alguém para ser indenizado e um patrimônio capaz de reparar o prejuízo. Para riscos dessa natureza, o ordenamento brasileiro já escolheu outro caminho em pelo menos duas áreas. A Lei de Biossegurança (Lei 11.105/2005) exige que a CTNBio avalie e autorize previamente atividades com organismos geneticamente modificados. O setor nuclear opera sob licenciamento da CNEN. Em ambos, vale o princípio da precaução: diante de incerteza científica sobre danos graves, a falta de certeza não serve de desculpa para a inação.

Lida desse ângulo, a proposta de Hermer não é uma ruptura. Ela pede que a IA de fronteira seja tratada como biotecnologia ou energia nuclear, e não como software comum. A diferença, e é aqui que a analogia começa a ranger, está na mensurabilidade. A segurança de uma geladeira se verifica com ensaios padronizados. As capacidades perigosas de um modelo de fronteira ainda não têm normas técnicas consolidadas que permitam dizer, com segurança, o que passou ou não passou no teste.

Três modelos em disputa no cenário internacional

Em outubro de 2026, o mapa regulatório se divide em três lógicas distintas, com o Brasil ainda fora de qualquer uma delas.

Estados Unidos: autorregulação com assinatura presidencial

A cena mencionada por Hermer, de Donald Trump e Elon Musk exibindo um código voluntário na Casa Branca, refere-se ao acordo batizado de Joint Commitment on Frontier Responsibilities. O texto pede controles internos, auditorias externas independentes e supervisão pelos conselhos de administração, e foi assinado por executivos de Google, Anthropic, Meta, OpenAI, Nvidia e xAI^[7]. Antes disso, em 2 de junho, uma ordem executiva criou um mecanismo pelo qual as empresas podem dar ao governo acesso antecipado de até 30 dias a modelos avançados. O próprio texto, porém, afasta qualquer exigência obrigatória de licença ou autorização prévia, e a versão final foi reduzida após pressão de executivos do setor^[8]. Juridicamente, é soft law: compromisso sem sanção.

União Europeia: regra dura, relógio atrasado

A Europa segue sendo o único grande bloco com lei vinculante, mas recuou no calendário. O acordo do Omnibus Digital adiou as obrigações dos sistemas de alto risco, sob o argumento de que faltavam normas técnicas e ferramentas de conformidade^[9]. O regulamento entrou em vigor em 27 de julho de 2026 e manteve intactos os deveres dos fornecedores de modelos de propósito geral, aplicáveis desde agosto de 2025^[10]. O adiamento confirma a fragilidade apontada acima: sem padrões técnicos, a lei não tem como medir o que exige.

ONU: o embrião do direito internacional que Hermer reclama

No plano multilateral, a Assembleia Geral criou em 2025 o Diálogo Global sobre Governança de IA e o Painel Científico Internacional Independente, este com 40 especialistas e copresidido por Yoshua Bengio e Maria Ressa. Na abertura da primeira sessão, em Genebra, Bengio disse aos governos que a ciência hoje não consegue garantir que capacidades crescentes não levarão a danos catastróficos^[11]. O fórum ainda não tem mecanismo de cumprimento. É, por enquanto, um espaço de consenso científico, e não um tratado.

E o Brasil, onde fica nesse mapa

O PL 2338/2023 foi aprovado pelo Senado em dezembro de 2024 e chegou à Câmara em março de 2025, onde tramita numa comissão especial sob relatoria do deputado Aguinaldo Ribeiro (PP-PB). Em agosto, o relator afirmou que a votação ficaria para depois das eleições de outubro^[12]. O texto adota abordagem baseada em risco, inspirada no modelo europeu, e prevê um Sistema Nacional de Regulação e Governança de IA, o SIA, coordenado pela Autoridade Nacional de Proteção de Dados^[13]. As sanções previstas podem chegar a R$ 50 milhões por infração^[15]. Enquanto a lei não sai, a ANPD conduz um sandbox regulatório de IA previsto para funcionar até dezembro de 2026^[14].

O debate britânico expõe uma limitação estrutural do projeto brasileiro. O PL 2338 foi desenhado sobretudo para regular usos: sistemas aplicados a crédito, contratação, segurança pública, saúde. O risco descrito por Hermer está nas capacidades de modelos treinados por poucas empresas, quase todas fora do país. O Brasil é, em larga medida, usuário e não desenvolvedor de IA de fronteira. Uma lei nacional consegue impor condições de acesso ao mercado, exigir transparência de quem opera aqui e responsabilizar fornecedores por danos locais. Não consegue licenciar uma rodada de treinamento feita na Califórnia.

Por isso o argumento de Hermer sobre o direito internacional pesa ainda mais para países como o Brasil do que para o Reino Unido. Sem coordenação multilateral, a regulação doméstica de um país que não desenvolve modelos de fronteira tende a funcionar como alfândega: controla o que entra, mas não o que é fabricado. A participação brasileira no Diálogo Global da ONU e a convergência do PL 2338 com padrões internacionais passam a ser, nesse quadro, questões de soberania regulatória, e não apenas de política externa.

O que está em jogo para o direito brasileiro

O artigo de Hermer termina com um apelo por debate público e por novas teorias de governo sobre quem controla a IA e a quem ela serve^[1]. Para o direito, a pergunta é mais estreita e, por isso, mais útil: em que categoria jurídica a IA de fronteira deve ser enquadrada. Se for tratada como software, valem a liberdade de desenvolvimento e a responsabilização posterior. Se for tratada como atividade de risco catastrófico, valem licenciamento prévio, precaução e controle estatal, como já acontece com biotecnologia e energia nuclear.

O PL 2338 ainda permite essa escolha. A retomada da votação na Câmara, prevista para depois do ciclo eleitoral, é a oportunidade de decidir se o Brasil quer apenas fiscalizar o uso de sistemas que importa ou também reivindicar voz nas regras globais sobre como esses sistemas são construídos. A geladeira, afinal, só é segura porque alguém decidiu, antes de ela chegar à loja, o que ela não pode fazer.

Ewerton Lopes — Curador Editorial · O Tecido · Caderno Direito