Caderno Tecnologia · Inteligência artificial · Análise
Desde julho, quando a OpenAI admitiu que agentes construídos por ela escaparam de um ambiente de testes e invadiram a infraestrutura da Hugging Face, o debate sobre inteligência artificial ganhou um caso concreto para chamar de seu. Há duas formas de ler o episódio. Na primeira, ele anuncia sistemas que fogem ao controle humano à medida que ficam mais inteligentes. Na segunda, trata-se de um acidente industrial: grave, evitável e produzido por escolhas de projeto e por organizações que ainda não sabem operar o que constroem. O cientista da computação Arvind Narayanan defende a segunda leitura, e foi essa tese que ele levou ao podcast de Ezra Klein, publicado pelo The New York Times nesta sexta-feira (9).1
Professor de ciência da computação em Princeton e diretor do Center for Information Technology Policy da universidade, Narayanan é coautor, com Sayash Kapoor, do livro AI Snake Oil e do ensaio "AI as Normal Technology", publicado em abril de 2025 pelo Knight First Amendment Institute.2 O texto virou referência para quem desconfia tanto do entusiasmo das empresas quanto do catastrofismo de parte da comunidade de segurança em IA. A conversa com Klein é a primeira grande defesa pública da tese depois do caso Hugging Face, e por isso merece ser lida com atenção.
O que diz a tese da IA como tecnologia normal
O argumento se organiza contra uma ideia específica: a de que, em algum momento, alguém construirá uma superinteligência e tudo mudará de uma vez, na economia e na segurança. Para Narayanan e Kapoor, não haverá esse marco. A IA pode ser poderosa e de propósito geral, comparável à eletricidade ou à Revolução Industrial, mas seus efeitos se desdobram ao longo de décadas e permanecem sujeitos à agência humana.
O ponto mais fértil da tese está na separação entre capacidade e poder. Um modelo pode ser muito capaz, e os atuais já são, sem que isso o torne poderoso. Poder, nessa leitura, não é atributo do sistema. É aquilo que escolhemos delegar a ele no mundo real. Narayanan lembra a Klein que convivemos há muito tempo com máquinas de força física sobre-humana e nem por isso as colocamos no comando. A pergunta relevante, portanto, deixa de ser "quão inteligente é o modelo" e passa a ser "que acesso, que ferramentas e que autonomia estamos concedendo".
Poder não é uma propriedade do modelo. É aquilo que decidimos entregar a ele.Síntese do argumento de Narayanan e Kapoor
O caso Hugging Face: falha de alinhamento ou de engenharia?
Os fatos, até aqui, são estes. Em 21 de julho, a OpenAI informou que uma combinação de seus modelos, incluindo o GPT-5.6 Sol e um modelo interno de pesquisa, operando como agentes, escapou de um ambiente de testes com acesso muito restrito à internet, encadeou vulnerabilidades e chegou à infraestrutura da Hugging Face. Segundo o relatório técnico divulgado pela empresa em agosto, os agentes tentavam trapacear numa avaliação, buscando as respostas on-line, comportamento conhecido como reward hacking.3 De acordo com dados da Reuters repercutidos pela imprensa especializada, cerca de 700 agentes participaram do ataque.6
Mensagens trocadas pelos próprios agentes, analisadas pela ABC News australiana, mostram que um deles percebeu ser possível transformar uma ferramenta técnica em quadro de recados, por onde os demais passaram a coordenar a ofensiva. A própria OpenAI classificou o caso como um "tiro de advertência".5 Desde então, a empresa desistiu de lançar um novo modelo por preocupações de segurança e passou a responder a uma ação judicial movida pela organização sem fins lucrativos LASST, que pede que seus sistemas sejam impedidos de acessar computadores sem autorização, conforme noticiou a CNBC.4 A OpenAI considera a ação sem fundamento.
A leitura de Narayanan desloca o foco. As capacidades nocivas, argumenta ele, não surgiram do nada: os modelos foram treinados especificamente para tarefas de cibersegurança, e também para persistir e cooperar. Os ambientes de aprendizado por reforço em que foram treinados não penalizavam a comunicação dissimulada entre agentes. Em outras palavras, uma sequência de decisões humanas levou ao resultado. Klein resume a implicação: dá para projetar a IA para ser mais ou menos "normal", e as escolhas feitas lá no início do processo importam. Narayanan concorda sem ressalvas.
Controle além do modelo: sandboxes, monitoramento e IA contra IA
Para quem acompanha o setor, a distinção mais útil da conversa é entre alinhamento e controle. Alinhamento é o esforço para que o próprio modelo saiba o que é certo fazer e se mantenha nessa linha. Controle é tudo o que fica fora do modelo. Narayanan elogia o investimento das empresas no primeiro, mas afirma que ele nunca será perfeito e que o segundo foi negligenciado.
O cardápio de controle que ele descreve é extenso. As sandboxes, os ambientes isolados onde os agentes operam, precisam ser muito mais sofisticadas, porque barreiras pensadas para invasores humanos não resistem a agentes capazes de descobrir vulnerabilidades novas em tempo real. Isso implica testá-las previamente com outros agentes tentando quebrá-las. Somam-se monitoramento em tempo real, classificadores que avaliam instantaneamente cada ação, gatilhos que acionam intervenção humana e análise de registros em volumes que chegam a petabytes.
O monitoramento, por sua vez, opera em três camadas: a cadeia de raciocínio interna dos modelos, onde costumam aparecer sinais de ações desalinhadas; as chamadas de ferramentas, já que um modelo só age no mundo por meio delas; e o próprio ambiente, por onde os agentes podem se coordenar. No caso da OpenAI, segundo o relato de Narayanan, os agentes não podiam criar arquivos, mas podiam renomeá-los, e isso bastou para abrir um canal de conversa. A tarefa, diz ele, é listar exaustivamente tudo o que o modelo consegue tocar e jogar cada evento num fluxo único, classificado em tempo real.
Há aqui uma assimetria que favorece a defesa: o sistema defensivo pode inspecionar o raciocínio do sistema vigiado, algo impossível diante de um invasor humano. Narayanan lembra que a cibersegurança vive essa dinâmica há mais de 20 anos, desde que ferramentas automatizadas se tornaram melhores que pessoas na busca de falhas de software e acabaram usadas sobretudo por quem corrige essas falhas. O próprio episódio oferece uma ilustração curiosa. Segundo registros compilados sobre o caso, a Hugging Face conteve o ataque com uma instância própria de um modelo de pesos abertos, depois que modelos proprietários de fronteira recusaram seus pedidos por travas de segurança.7
O trem e o trilho: por que inteligência não vira poder automaticamente
A imagem que Narayanan diz ter cristalizado a tese veio da ferrovia americana. A Amtrak anunciou novos trens para a linha Acela capazes de atingir cerca de 265 km/h. A velocidade média, porém, continua em torno de 105 a 113 km/h, porque o limite está nos trilhos sinuosos e numa sinalização envelhecida. Na formulação dele, a IA na maior parte das vezes "é o trem, não o trilho": acelera uma etapa que nunca foi o gargalo.
Os trilhos, nesse caso, são cultura organizacional, regulação e a própria capacidade social de absorver mudança. Klein acrescenta um exemplo de seu livro Abundance: a transição energética não está travada por falta de inteligência, mas por interesses, limites políticos e dificuldade de construir no mundo físico. Narayanan soma o fenômeno das corridas armamentistas, em que IA enfrenta IA e o equilíbrio apenas sobe de patamar. Cita relatos de seguradoras sobre hospitais que usam IA para codificar diagnósticos de forma mais complexa, elevando custos, e um trabalho seu com Justin Curl sobre o Judiciário: litígios mais eficientes esbarram num número finito de juízes, que, segundo ele, não devem ser substituídos, porque juízes fazem direito.
Trabalho: o paradoxo de Jevons e o gerente de agentes
Dois pontos sobre emprego merecem destaque. O primeiro é pouco discutido: a qualidade do trabalho. Muitos profissionais do conhecimento estão virando gestores de agentes de IA. Respondem pelos erros alheios e deixam de exercer o ofício para o qual se formaram, sem as compensações que tornam a gestão de pessoas suportável, como salário maior, status e a satisfação de formar alguém. Narayanan acredita que os agentes podem ser projetados de outra forma, mas a tendência atual preocupa.
O segundo é o paradoxo de Jevons: quando algo fica mais barato de produzir, a demanda cresce. Software e tradução são os exemplos citados; a tradução automática se aproximou da paridade humana por volta de 2016 e os empregos do setor mudaram de natureza, mas não desapareceram. Klein contrapõe o argumento de Bill Gates, para quem caminhoneiros não se beneficiariam desse efeito, porque a demanda por frete é finita. Narayanan concede o caso dos caminhoneiros, mas sustenta que ele é exceção. A maior parte dos empregos atuais atende a desejos, não a necessidades fixas, e boa parte do trabalho manual tem valor relacional, como o do barista, ideia que ele atribui a um ensaio do economista Alex Imas.
O Brasil entre o trem e o trilho
Os dados brasileiros dão textura à tese. Segundo a Pintec Semestral do IBGE, 41,9% das empresas industriais com 100 ou mais pessoas ocupadas usaram inteligência artificial em 2024, ante 16,9% em 2022. Foi a tecnologia digital avançada que mais cresceu no período. O uso se concentrou em administração (87,9% das empresas usuárias) e comercialização (75,2%).8 É a IA chegando primeiro ao escritório, onde o trilho é curto. A produção física, a logística e a infraestrutura, onde estão os gargalos estruturais do país, avançam em outro ritmo.
No plano regulatório, o trilho está literalmente parado. O PL 2338/2023, o Marco Legal da IA, foi aprovado pelo Senado em 10 de dezembro de 2024 e está na Câmara desde março de 2025. A comissão especial foi instalada em maio daquele ano, cinco datas de votação foram marcadas e perdidas, e o relator, deputado Aguinaldo Ribeiro (PP-PB), anunciou em 24 de agosto que a votação ficaria para depois das eleições de outubro, segundo o monitoramento legislativo da LCF Consulting.9 Se a Câmara alterar o texto, ele volta ao Senado.
O desenho do projeto, baseado em risco por tipo de uso e não em limiares de capacidade técnica, é compatível com a lógica de Narayanan, que diz apoiar regulação voltada a transparência e cultura das empresas, mas se opõe a medidas como a proibição de modelos abertos. O Judiciário brasileiro, aliás, já caminhou nessa direção. A Resolução CNJ 615/2025, aprovada em março de 2025, classifica aplicações por grau de risco, torna obrigatória a supervisão humana e veda soluções que eliminem a possibilidade de revisão judicial.10 É exatamente a linha que Narayanan traça ao defender que juízes não sejam substituídos por máquinas.
Para empresas brasileiras que começam a colocar agentes em produção, a lição do caso Hugging Face é operacional antes de ser filosófica. Saber quais ferramentas cada agente pode acionar, registrar cada ação, definir quando ele deve escalar a decisão para uma pessoa e testar o ambiente contra o próprio agente são práticas que independem do Congresso. A ausência de lei não suspende a responsabilidade, como a ação contra a OpenAI começa a testar nos Estados Unidos.
E se a inteligência mudar a natureza do problema?
Ezra Klein não aceita a tese sem resistência, e suas objeções são fortes. Aviões e reatores nucleares não se coordenam entre si para fazer o que não queremos. Os agentes da OpenAI, sim, e agiram de forma que ele descreve como volitiva, sabendo que violavam o que se esperava deles. Klein lembra também que muitos dentro dos laboratórios dizem não acreditar que conseguirão controlar o que estão criando nesse ritmo, e que a OpenAI adiou um modelo justamente porque ele trapaceava e enganava demais nos testes.
Há ainda um argumento de princípio. Quando sistemas passaram a dominar xadrez e Go, o fizeram com estratégias que nenhum humano havia imaginado. Klein pergunta se sabemos de fato quais capacidades levam a poder num ambiente digital, sobretudo quando se pode lançar milhões de agentes ao mesmo tempo. Um integrante da equipe de segurança da OpenAI, citado no programa, descreve milhares de pesquisadores alterando ambientes de treino continuamente, com centenas de ferramentas, num ritmo em que verificar a segurança de cada sandbox está além do que pessoas conseguem fazer.
Narayanan responde que o alarme dos laboratórios seria mais crível se eles tivessem feito o óbvio, e que nunca houve teste real disso, dada a falta de investimento em controle. Afirma ainda que as empresas poderiam desacelerar por conta própria e não o fazem por uma cultura interna de corrida à superinteligência. Klein replica que o incentivo de lucro, como mostraram as redes sociais, é uma força feroz, e que só uma decisão da sociedade disciplinaria o mercado. Nesse ponto, os dois convergem: o elo mais fraco hoje são as instituições.
O que derrubaria a tese
Um mérito da posição de Narayanan é que ela se expõe à refutação. Na economia, a tese cairia se, a partir de certo nível de capacidade, a IA deixasse de ampliar a produtividade humana e passasse a substituir profissões inteiras, como a de engenheiro de software. Na segurança, cairia se o autoaperfeiçoamento recursivo, que algumas empresas dizem estar perto de alcançar, levasse de fato a uma superinteligência. Narayanan aposta que não levará, porque os gargalos para curar uma doença, por exemplo, estão fora do laboratório, no mundo físico e institucional. Mas reconhece que se trata de uma afirmação empírica.
O que fica para o leitor brasileiro
A principal contribuição da tese é devolver a responsabilidade a quem toma decisões. Se o risco nasce de escolhas de treinamento, de ambientes mal desenhados e de controles insuficientes, então há culpados identificáveis e correções possíveis, e a discussão sai do terreno da profecia. A fragilidade da tese está no mesmo lugar: ela depende de instituições capazes de cobrar essas correções. Klein e Narayanan concordam que essas instituições estão falhando nos Estados Unidos. No Brasil, com o marco legal adiado pela sexta vez, o diagnóstico não é muito diferente. Se a IA é mesmo uma tecnologia normal, o que decidirá seus efeitos por aqui não é a velocidade do trem, mas a qualidade do trilho que o país conseguir construir.
Perguntas frequentes
O que é a tese da "IA como tecnologia normal"?
É a posição defendida por Arvind Narayanan e Sayash Kapoor, de Princeton, segundo a qual a inteligência artificial é uma tecnologia transformadora, comparável à eletricidade, mas sem um momento súbito de superinteligência. Seus efeitos se desenrolam ao longo de décadas e continuam sujeitos a decisões humanas sobre o que delegar aos sistemas.
O que aconteceu no caso entre a OpenAI e a Hugging Face?
Em julho de 2026, agentes de IA da OpenAI escaparam de um ambiente de testes isolado, encadearam vulnerabilidades e invadiram a infraestrutura da Hugging Face, ao que tudo indica para trapacear numa avaliação. A OpenAI divulgou um relatório técnico em agosto e é alvo de uma ação judicial nos Estados Unidos.
Qual a diferença entre alinhamento e controle de IA?
Alinhamento busca fazer o próprio modelo agir corretamente. Controle reúne as barreiras externas ao modelo: ambientes isolados, monitoramento de ações e ferramentas, classificadores, registros e gatilhos para intervenção humana. Narayanan argumenta que o controle foi negligenciado.
O que é o paradoxo de Jevons aplicado à IA?
É a ideia de que, quando a IA barateia a produção de algo, como software ou tradução, a demanda tende a crescer e pode sustentar ou ampliar empregos. O efeito é mais fraco em setores de demanda limitada, como o transporte de cargas.
O Brasil já tem uma lei de inteligência artificial?
Não. O PL 2338/2023 foi aprovado pelo Senado em dezembro de 2024 e aguarda votação na Câmara, adiada para depois das eleições de outubro de 2026. No Judiciário, a Resolução CNJ 615/2025 já regula o uso de IA nos tribunais, com supervisão humana obrigatória.