Uma pesquisadora demitida do Google por questionar os riscos da inteligência artificial voltou a incomodar a indústria que a afastou. Em entrevista à revista Wired[1], Timnit Gebru afirmou que o debate sobre uma possível extinção da humanidade por máquinas funciona, na prática, como distração: ele desvia a atenção pública de danos que a IA já provoca hoje, da automação de armas letais à substituição de trabalhadores.
A declaração chega em meio a duas polêmicas que sacudiram a indústria na mesma semana. Primeiro, uma disputa pública sobre se a OpenAI teria se apropriado do trabalho de outros matemáticos ao anunciar a solução de um problema premiado. Depois, a saída barulhenta de um pesquisador da Anthropic (que já havia trabalhado na OpenAI) alegando preocupação com a forma como as duas empresas lidam com segurança em IA. Um colega dele na Anthropic chegou a declarar publicamente acreditar que a IA tem mais de 10% de chance de "matar todos os humanos" na próxima década.
Da saída do Google ao rótulo de crítica mais afiada da IA
Gebru ficou conhecida em 2020, quando deixou o Google após a empresa rejeitar um artigo que coassinou sobre os riscos dos modelos de linguagem probabilísticos, o hoje célebre paper "stochastic parrots". Ela havia sido contratada em 2018 justamente para avaliar vieses nas ferramentas de IA da companhia. Depois da saída, fundou o Distributed AI Research Institute (DAIR) e prepara um livro sobre a experiência.
Para ela, a corrida por marcos como xadrez, programação e matemática cumpre uma função retórica: permite às empresas dizer que "resolveram a inteligência" antes que a comunidade científica tenha tempo de avaliar a real novidade de um resultado, o que, segundo Gebru, encurtou perigosamente a distância entre um anúncio corporativo e a formulação de políticas públicas sobre o tema.
"Quando uma ponte desaba, você não analisa se a ponte era ética ou senciente, ou por que ela decidiu desabar. Você pergunta quem a construiu de forma tão frágil." Timnit Gebru, à Wired[1]
TESCREAL: o pacote ideológico por trás do "deus-máquina"
Gebru e o filósofo Émile P. Torres cunharam o acrônimo TESCREAL para descrever um conjunto de ideologias sobrepostas (transumanismo, extropianismo, singularitarianismo, cosmismo, racionalismo, altruísmo eficaz e longotermismo) que, na leitura dos dois autores, alimentam tanto a busca por inteligência artificial geral quanto grande parte do próprio discurso apocalíptico sobre ela[2]. Na visão de Gebru, tratar a IA como uma força autônoma e quase religiosa (um "deus-máquina") tira o foco das escolhas humanas, corporativas e de engenharia que moldam cada sistema.
Os riscos que, segundo Gebru, ficam fora da manchete
Questionada sobre como, na prática, a IA levaria à extinção humana, Gebru respondeu que não consegue nem visualizar o cenário. Em vez disso, ela aponta um conjunto de riscos com mecanismo de causa e efeito mais direto: sistemas de armas autônomas já em uso em conflitos armados, o custo climático da expansão de data centers, demissões justificadas por empresas com o argumento da automação e o risco real de uso da IA para desenvolvimento de armas químicas e biológicas.
Esses riscos já aparecem em números. A Agência Internacional de Energia estima que data centers responderam por cerca de 1,5% do consumo elétrico global em 2024[6]. Nos Estados Unidos, o rastreamento da consultoria Challenger, Gray & Christmas contabilizou 116.175 cortes de vagas anunciados e atribuídos à IA até agosto deste ano[5]. E a própria Anthropic revelou, dias depois da entrevista de Gebru, ter bloqueado tentativas de cientistas de usar seus modelos Claude para avançar no desenvolvimento de armas biológicas[8], episódio que a pesquisadora citou como exemplo do tipo de dano concreto que merece prioridade.
O caso brasileiro: a exceção de defesa nacional
O argumento de Gebru encontra eco direto na tramitação do marco legal brasileiro de inteligência artificial. O PL 2338/2023, aprovado pelo Senado em dezembro de 2024 e agora em análise na Câmara dos Deputados, adota um modelo de classificação por risco inspirado no AI Act europeu e proíbe expressamente os chamados sistemas de armas autônomas, aqueles capazes de selecionar e atacar alvos sem intervenção humana[4].
O problema, segundo especialistas em governança digital, está em uma exceção introduzida no texto substitutivo: o artigo 13 isenta da proibição os usos de sistemas de armas autônomas justificados por defesa nacional. Tarcizio Silva, pesquisador de política tecnológica ligado à Fundação Mozilla, classificou a mudança como um retrocesso que coloca o Brasil na contramão do debate internacional sobre o tema[4]. É, em outras palavras, exatamente o tipo de decisão institucional concreta (e não hipotética) que Gebru argumenta merecer mais atenção do que cenários de extinção.
No mercado de trabalho, o setor de tecnologia da informação e comunicação brasileiro fechou 2025 com 2,125 milhões de empregos formais e respondeu por cerca de 6,5% do PIB nacional, segundo a Brasscom, associação que representa o setor[7]. A entidade projeta até R$ 736,6 bilhões em investimentos em inteligência artificial no país entre 2026 e 2029, mesmo período em que analistas do mercado de trabalho já discutem a pressão por requalificação profissional trazida pela automação.
Contraponto
Nem todo pesquisador de segurança em IA concorda que o discurso de risco existencial seja uma manobra de marketing. A própria Anthropic afirma que os bloqueios documentados de tentativas de uso malicioso de seus modelos, incluindo para armas biológicas, mostram que a preocupação com riscos catastróficos não é incompatível com a atenção a danos presentes: ambas as frentes orientam, segundo a empresa, seus protocolos internos de segurança. Críticos da própria formulação de Gebru também argumentam que agrupar sob o rótulo TESCREAL posições tão diferentes quanto o longotermismo acadêmico e a retórica comercial de laboratórios de IA pode simplificar demais debates que têm evidências e mecanismos distintos entre si.
Perguntas frequentes
Quem é Timnit Gebru?
Cientista da computação, ex-colíder da equipe de IA ética do Google até 2020 e fundadora do Distributed AI Research Institute (DAIR). É coautora do artigo conhecido como "stochastic parrots", sobre riscos de modelos de linguagem de grande escala.
O que significa o acrônimo TESCREAL?
Reúne transumanismo, extropianismo, singularitarianismo, cosmismo, racionalismo, altruísmo eficaz e longotermismo. Foi cunhado por Gebru e pelo filósofo Émile P. Torres para descrever ideologias que, segundo os dois, sustentam tanto a busca por inteligência artificial geral quanto boa parte do discurso sobre seu risco existencial.
Por que o Brasil é citado nesse debate sobre armas autônomas?
Porque o marco legal de IA em tramitação no Congresso (PL 2338/2023) proíbe sistemas de armas autônomas, mas abre uma exceção para usos justificados por defesa nacional, o que especialistas apontam como um recuo em relação ao texto original aprovado pelo Senado.
Gebru nega qualquer risco futuro da inteligência artificial?
Não exatamente. Ela afirma não conseguir visualizar um mecanismo plausível para a extinção humana por IA, mas reconhece riscos presentes e mensuráveis, como armas autônomas, impacto climático de data centers, demissões e uso indevido para armas químicas ou biológicas.