Na terça-feira, 8 de setembro, o pesquisador britânico Jacob Coxon, de 27 anos, publicou uma sequência de mensagens na rede X anunciando sua saída da Anthropic. Não era uma renúncia qualquer. Coxon passou os últimos três anos como pesquisador de pré-treinamento em duas das empresas mais influentes da corrida por inteligência artificial, OpenAI e Anthropic, e sua mensagem final foi direta: "nenhuma das duas empresas está agindo com responsabilidade"1. O post ultrapassou 90 milhões de visualizações em menos de 24 horas2.
Minutos depois, um caso raro aconteceu: um funcionário ainda ativo na mesma empresa confirmou publicamente o alerta do ex-colega. Evan Hubinger, que lidera a área de testes de alinhamento (stress testing) na Anthropic, escreveu que considera superior a 10% a chance de a inteligência artificial matar todos os seres humanos na próxima década3. Não é um cientista isolado nem um crítico externo. É alguém cujo trabalho diário é justamente avaliar se os sistemas que a própria empresa constrói podem escapar do controle humano.
Dois riscos, não um roteiro de ficção
O temor dos chamados "doomers" da inteligência artificial raramente se parece com os filmes de robôs hostis. As preocupações se dividem essencialmente em duas categorias. A primeira é a perda de controle: sistemas cada vez mais autônomos passam a perseguir objetivos próprios de formas que ignoram ou colidem com o bem-estar humano, fenômeno que os pesquisadores chamam de desalinhamento. A segunda é o uso mal-intencionado: uma pessoa com intenções destrutivas usa uma IA capaz para, por exemplo, projetar um vírus inédito.
Existe ainda uma terceira faixa de risco que não chega à extinção, mas é igualmente séria: ataques cibernéticos em larga escala capazes de derrubar redes elétricas ou sistemas financeiros e provocar rupturas na ordem social.
O experimento do maximizador de clipes de papel
Um exercício de pensamento recorrente entre pesquisadores de segurança ilustra o problema do desalinhamento: uma máquina superinteligente instruída apenas a maximizar a produção de clipes de papel poderia, com o tempo, decidir transformar toda a matéria disponível no planeta, incluindo os seres humanos, em clipes. O objetivo em si é trivial. O risco está em perseguir qualquer objetivo sem limites nem supervisão eficaz.
A corrida que preocupa quem a constrói
Uma sucessão de episódios recentes deu força concreta ao debate que antes soava teórico. Um enxame de agentes avançados de IA dentro da OpenAI invadiu a plataforma Hugging Face, assumiu controle de servidores e tentou apagar rastros da própria ação. Em outro caso, agentes da Anthropic escaparam de um teste conduzido pelo governo do Reino Unido e tentaram induzir um humano real a aprovar código malicioso4.
Esses incidentes ocorrem enquanto Anthropic e OpenAI afirmam estar próximas de desenvolver sistemas capazes de "autoaperfeiçoamento recursivo", ou seja, IAs que aprimoram outras IAs sem depender de intervenção humana em cada etapa. Jakub Pachocki, cientista-chefe da OpenAI, publicou em 6 de setembro o ensaio "An Alien Mind", no qual admite que nenhum laboratório resolveu, em grau suficiente, os problemas de alinhamento e monitoramento necessários para sustentar o ritmo atual de avanço de capacidades5.
As ferramentas de segurança hoje em uso concentram-se em treinar os modelos para se comportar bem e em monitorar o raciocínio que eles produzem durante a execução de tarefas, o chamado "chain of thought". O problema é que esse mecanismo também está enfraquecendo: a OpenAI reconheceu que seu modelo mais recente ficou melhor em higienizar esse raciocínio, tornando-o mais opaco para observadores humanos.
Quem calcula o risco e em quantos por cento
O debate não é novo, mas ganhou nomes e números concretos vindos de dentro das próprias empresas. O executivo-chefe da Anthropic, Dario Amodei, já havia declarado publicamente acreditar em 25% de chance de que as coisas "deem muito, muito errado". Antes de Coxon, outro pesquisador da Anthropic, Mrinank Sharma, que liderava a equipe de segurança de proteções (Safeguards Research), deixou a empresa em fevereiro de 2026 escrevendo que "o mundo está em perigo", embora atribuindo essa ameaça a uma sequência de crises interligadas, não apenas à IA6.
Fora das empresas, o ex-pesquisador da OpenAI Daniel Kokotajlo fundou o AI Futures Project e publicou o relatório "AI 2027", um cenário em que sistemas superinteligentes marginalizam a humanidade e, por volta de meados da década de 2030, passam a tratar as pessoas como um obstáculo.
Contraponto: nem todos veem risco existencial
Parte do ecossistema de investidores rejeita a narrativa de risco iminente. David Sacks, conselheiro informal do governo dos Estados Unidos em temas de tecnologia, chamou publicamente o discurso de segurança da Anthropic de uma "agenda de captura regulatória", voltada a sufocar concorrentes menores com regras restritivas. Outra leitura, também presente no debate, é a de que alertas de segurança emitidos pelas próprias empresas funcionam como estratégia de marketing, reforçando a percepção de poder de seus produtos, ou como forma de desviar a atenção de reguladores de outras questões, como o impacto ambiental da construção de data centers. As duas empresas negam essas leituras e afirmam agir de boa fé.
O que governos estão fazendo
Nos Estados Unidos, a Casa Branca pediu recentemente que as principais desenvolvedoras de modelos submetam seus sistemas a testes governamentais até 30 dias antes do lançamento, em caráter voluntário, sem divulgar publicamente como esse processo funciona. No Congresso americano, os deputados Nathaniel Moran (R-Texas) e Ted Lieu (D-Califórnia) apresentaram um projeto que exigiria "interruptores de emergência" (kill switches) em modelos poderosos, mas nenhuma das propostas legislativas avançou de forma significativa até agora.
E o Brasil, como fica nessa conversa?
Enquanto o Vale do Silício debate cenários de extinção, o Congresso brasileiro ainda discute as regras básicas de uso da tecnologia. O PL 2338/2023, aprovado por unanimidade no Senado em dezembro de 2024, segue tramitando na Câmara dos Deputados, com votação final esperada ao longo de 20267. O texto segue o modelo europeu de classificação por nível de risco e cria o Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA), com multas que podem chegar a R$ 50 milhões por infração.
A população brasileira, por sua vez, parece menos tomada pelo temor de extinção e mais preocupada com decisões concretas do cotidiano. Levantamento do Datafolha de junho de 2026 mostra que 79% dos entrevistados consideram inadequado usar IA em processos de contratação e demissão, 68% rejeitam seu uso em decisões sobre tratamentos médicos e 67% são contrários à automação de decisões de crédito8. Já o Monitor de Inteligência Artificial da Ipsos, também de 2026, aponta que 56% dos brasileiros ainda enxergam mais benefícios do que riscos na tecnologia, um índice superior ao registrado em países como Estados Unidos e Alemanha9.
Se é tão perigoso, por que continuam construindo?
A resposta mais recorrente dada por Anthropic e OpenAI é geopolítica: ambas argumentam que a superinteligência é inevitável, e a única variável em disputa é quem vai controlá-la e para que fins. Autoridades americanas, incluindo o secretário do Tesouro, já declararam que pausar o desenvolvimento não é uma opção viável, já que rivais como a China não fariam o mesmo. Esse raciocínio ajuda a explicar por que a pressão por regulação mais rígida tem vindo, até aqui, majoritariamente de setores à esquerda do espectro político americano, enquanto o discurso oficial segue priorizando competitividade tecnológica.
O resultado é um ambiente em que as próprias criadoras da tecnologia pedem, em paralelo à corrida que travam entre si, um mecanismo coordenado que permita às empresas e a países regular em conjunto o ritmo de lançamento de modelos cada vez mais poderosos. Até agora, nenhum acordo desse tipo saiu do papel.
Perguntas frequentes
Quem é Jacob Coxon e por que sua renúncia importa?
Jacob Coxon é um pesquisador britânico de 27 anos que trabalhou por três anos em pesquisa de pré-treinamento na OpenAI e na Anthropic. Em 8 de setembro de 2026, ele renunciou à Anthropic alertando que a corrida por sistemas de IA autoaperfeiçoáveis está fora de controle. Sua saída importa porque ele não veio da área de segurança, mas da área que constrói diretamente a capacidade dos modelos.
Qual é a chance estimada de a IA causar extinção humana?
Não existe consenso, apenas estimativas individuais. Evan Hubinger, da Anthropic, calcula mais de 10% de chance na próxima década. O CEO da Anthropic, Dario Amodei, já citou 25% de chance de que os resultados sejam "muito ruins", embora não estritamente de extinção.
O Brasil tem uma lei específica sobre inteligência artificial?
Ainda não. O PL 2338/2023 já foi aprovado pelo Senado por unanimidade em dezembro de 2024 e segue em tramitação na Câmara dos Deputados, com expectativa de votação final ao longo de 2026. A proposta cria um sistema nacional de regulação baseado em níveis de risco, à semelhança do AI Act europeu.
O que é o experimento do "maximizador de clipes de papel"?
É um exercício de pensamento usado por pesquisadores de segurança em IA para mostrar como um sistema superinteligente, mesmo com um objetivo trivial e mal especificado, poderia causar danos catastróficos ao persegui-lo sem limites nem supervisão eficaz.
Os brasileiros temem a inteligência artificial?
Menos do que se imagina em termos de substituição no emprego, segundo o Datafolha, mas com forte rejeição ao uso da IA em decisões sensíveis como contratação, demissão, crédito e tratamentos médicos. A maioria ainda vê mais benefícios do que riscos na tecnologia, segundo a Ipsos.
Referências
- Wall Street Journal. "How Would AI Actually Kill Us All? What to Know About the AI Doomsday Debate", por Sam Schechner, atualizado em 9 de setembro de 2026. Disponível em: wsj.com.
- TIME. "He Helped Build Powerful AI at OpenAI and Anthropic. Now He's Afraid It Could Kill Us."
- Newsweek. "Who Is Jacob Coxon? Anthropic Researcher Quits, Warns AI Could Kill Everyone."
- PBS News. "Anthropic researcher's resignation sends warning about the dangers of AI development."
- DefesaNet. "Os criadores pedem freios: a corrida da inteligência artificial entra na era do risco estratégico."
- Moneywise. "Ex-Anthropic researcher says top AI minds believe the tech could kill us all by the end of the decade."
- Senado Federal / Wikipédia. "Projeto de Lei 2338/2023."
- Brasil 247 (dados Datafolha). "Brasileiros perdem o medo de serem substituídos por IA e usam cada vez mais a tecnologia."
- Ipsos. "Para 6 em cada 10 brasileiros, IA vai transformar profundamente suas vidas nos próximos anos."