P(doom): a economia de pôr um número no fim do mundo

Durante anos, a pergunta circulou em fóruns de engenheiros e filósofos com uma notação quase privada: qual é o seu P(doom)? A expressão designa a probabilidade que alguém atribui à hipótese de a inteligência artificial levar a humanidade a uma catástrofe. Em 2026, ela deixou esses círculos. Aparece em entrevistas de executivos, em audiências legislativas, em conversas de investidores e em podcasts de grande audiência, sempre acompanhada de um percentual que parece encerrar a discussão em vez de abri-la.

O economista Tim Harford, colunista do Financial Times, tratou do fenômeno na coluna "The problem with P(doom)", publicada em 23 de setembro na série Undercover Economist. A premissa, anunciada já na linha fina, é que prever a catástrofe da IA virou assunto de massa, e que isso trouxe consequências previsíveis.¹ O Tecido parte dessa provocação para examinar uma questão que é, antes de tudo, econômica: o que acontece com a tomada de decisão quando um risco sem precedente passa a ser comunicado como um número.

O que é P(doom) e de onde vêm os números

Não existe uma instituição que calcule o P(doom). O que existe é um conjunto de levantamentos que perguntam a pessoas qualificadas qual chance elas atribuem a desfechos extremos. O mais amplo deles, conduzido pela organização AI Impacts com pesquisadores das universidades de Oxford e Bonn, ouviu 2.778 autores que haviam publicado nos principais congressos de IA. Entre 38% e 51% dos respondentes, dependendo da formulação da pergunta, atribuíram pelo menos 10% de chance a desfechos tão ruins quanto a extinção humana.³ A mediana ficou em 5%, e a média, puxada por uma minoria muito pessimista, em torno de 16%.

Figuras públicas deram versões mais contundentes. Geoffrey Hinton, Nobel de Física em 2024 por seu trabalho em redes neurais, disse ao programa Today, da BBC Radio 4, em dezembro daquele ano, que estimava entre 10% e 20% a chance de a tecnologia levar à extinção da humanidade em três décadas.⁴ No mesmo período, outro pioneiro do campo, Yann LeCun, sustentava publicamente a posição oposta, a de que a IA tende a ajudar a humanidade a resolver seus problemas mais graves.

O gráfico acima expõe o primeiro problema. Os percentuais que circulam como se fossem comparáveis respondem a perguntas distintas. Um "5%" pode ser a mediana de uma pesquisa sem prazo definido; um "20%" pode ser a chance de catástrofe por qualquer causa até o fim do século. Colocados lado a lado em uma manchete, dão a impressão de um debate sobre a mesma grandeza. Não são.

Risco ou incerteza: uma distinção de 1921

A economia tem um vocabulário antigo para esse tipo de situação. Em Risk, Uncertainty and Profit, de 1921, Frank Knight separou o risco, em que as probabilidades podem ser estimadas a partir de frequências observadas, da incerteza, em que o evento é singular demais para isso.⁸ Uma seguradora conhece a taxa de incêndios residenciais; ninguém conhece a taxa de extinções provocadas por máquinas inteligentes, porque ela nunca aconteceu. Em 1937, John Maynard Keynes voltou ao tema ao argumentar que, para muitas questões de longo prazo, simplesmente não existe base científica para formar uma probabilidade calculável.⁹

O P(doom) pertence ao segundo território. É uma probabilidade subjetiva, no sentido técnico: expressa o grau de crença de quem responde, não uma regularidade do mundo. Isso não a torna inútil. Economistas usam probabilidades subjetivas o tempo todo, e o mercado de apostas e de previsões é construído sobre elas. Mas muda a forma de lê-la. Um número subjetivo sobre um evento sem precedente informa mais sobre as premissas de quem o formula do que sobre o evento em si.

Quando os especialistas não convergem

A tentativa mais rigorosa de testar essas estimativas foi o Existential Risk Persuasion Tournament (XPT), organizado pelo Forecasting Research Institute, instituição ligada ao psicólogo Philip Tetlock, da Wharton School, e ao economista Ezra Karger, do Federal Reserve de Chicago. Entre junho e outubro de 2022, o torneio reuniu 80 especialistas de domínio e 89 "superprevisores", pessoas com histórico comprovado de acerto em previsões de curto prazo, para estimar riscos ligados a IA, guerra nuclear, pandemias e outras causas.²

Os resultados são instrutivos. A mediana dos especialistas previu 20% de chance de catástrofe e 6% de extinção humana até 2100, somadas todas as causas; a dos superprevisores, 9% e 1%. A distância entre os dois grupos foi maior justamente no caso da inteligência artificial. E houve um dado ainda mais revelador: poucas opiniões mudaram ao longo do torneio, mesmo entre os participantes mais ativos e apesar de haver pagamento para quem conseguisse persuadir o outro lado. Os próprios pesquisadores registraram como enigma científico o fato de previsores racionais e incentivados não terem convergido após meses de debate.

Outro achado merece atenção. Os participantes mais hábeis em prever o que os outros iriam responder, uma medida de compreensão das posições alheias, foram os que deram as estimativas mais baixas de risco catastrófico, para todas as fontes de ameaça.² O dado não prova que eles estejam certos, mas sugere que o número atribuído à catástrofe está correlacionado com traços de quem responde, e não apenas com a evidência disponível.

Há também a questão do histórico. Uma avaliação posterior do próprio instituto conferiu as perguntas de curto prazo do XPT que venceram até meados de 2025. Especialistas e superprevisores tiveram desempenho equivalente, ambos subestimaram o avanço da IA e ambos superaram por larga margem o público em geral. No nível individual, porém, o previsor mediano de cada grupo não se saiu melhor do que algoritmos simples de extrapolação de tendência.⁵ Em outras palavras: quem erra o ritmo do progresso tecnológico em dois ou três anos dificilmente terá precisão sobre o destino da espécie em 75.

O problema econômico das probabilidades pequenas

Para quem toma decisões, a dificuldade não está apenas em estimar o número, mas no que se faz com ele. A ferramenta padrão da análise econômica é o valor esperado: multiplica-se a probabilidade de um evento pelo tamanho do dano. Quando o dano é a extinção da humanidade, qualquer probabilidade diferente de zero gera um custo esperado gigantesco. Com 1%, a conclusão racional pode ser investir pesado em segurança; com 20%, pode ser interromper o desenvolvimento; com 0,1%, pode ser não fazer nada de específico.

Como as estimativas disponíveis cobrem justamente esse intervalo, a mesma conta de custo e benefício serve para defender políticas opostas. Filósofos chamam de "assalto de Pascal" a situação em que uma probabilidade minúscula associada a um resultado enorme passa a dominar qualquer raciocínio. O efeito prático é que o número deixa de funcionar como insumo para a decisão e passa a funcionar como argumento para uma decisão já tomada.

É aqui que entram os incentivos, terreno clássico de um economista. Um percentual alto dito em público sinaliza seriedade e senso de responsabilidade para uma audiência; para outra, sinaliza alarmismo. Empresas de IA que afirmam levar o risco a sério podem ganhar legitimidade para participar da escrita das regras. Críticos das empresas podem usar os mesmos números para pedir freios. Quando uma estimativa vira marcador de posição, a pressão social tende a fixá-la, o que ajuda a explicar a resistência à mudança observada no XPT.

O que isso significa para o Brasil

No Brasil, o medo em relação à IA é menos abstrato. Levantamento do Pew Research Center realizado entre fevereiro e maio de 2026 em 36 países indica que 52% dos brasileiros se dizem mais preocupados do que animados com a tecnologia, acima da mediana global de 37%. A principal preocupação é o trabalho: 42% esperam que a IA reduza o número de empregos nos próximos 20 anos. Entre os jovens de 18 a 34 anos, a parcela mais preocupada do que animada subiu de 32% em 2025 para 44% em 2026.⁶

A resposta institucional caminha em ritmo mais lento. O PL 2338/2023, que cria o marco legal da inteligência artificial, foi aprovado por unanimidade no Senado em dezembro de 2024 e enviado à Câmara em março de 2025. Segundo a ficha de tramitação da Câmara dos Deputados, o projeto segue aguardando parecer do relator na comissão especial.⁷ Levantamento do site Antihype contou cinco datas de votação marcadas e perdidas desde novembro de 2025 e registrou que, em agosto, o relator transferiu a decisão para depois das eleições de outubro. No mesmo período, o Redata, que suspende tributos na compra de equipamentos para data centers, foi aprovado nas duas Casas, com renúncia fiscal estimada em R$ 5,2 bilhões em 2026.¹¹

O contraste é revelador de uma escolha econômica implícita: o incentivo à infraestrutura avançou; a governança dos riscos, não. Vale notar, porém, que o desenho do PL 2338 foge da lógica do P(doom). Inspirado no AI Act europeu, o texto classifica sistemas por nível de risco e concentra obrigações de transparência, avaliação de impacto e revisão humana em usos concretos, como seleção de candidatos a emprego, concessão de crédito e decisões na área da saúde. É uma abordagem que regula danos observáveis e mensuráveis, justamente o tipo de risco que Knight considerava tratável.

Para um país que importa os modelos mais avançados em vez de desenvolvê-los, esse enfoque tem lógica. O Brasil tem pouca influência sobre a probabilidade de uma catástrofe global causada por sistemas treinados em outros países, mas tem instrumentos para lidar com discriminação algorítmica, fraudes, deslocamento de trabalhadores e concentração de mercado. A questão é se esses instrumentos chegarão a tempo de acompanhar a adoção da tecnologia, que já é realidade em grande parte das empresas.

O que observar a partir de agora

Três pontos devem orientar a leitura do debate nos próximos meses. O primeiro é a especificação: diante de qualquer P(doom) citado, cabe perguntar qual evento, em qual prazo, medido por qual estatística e atribuído a qual causa. O segundo é o histórico: estimativas de quem já acertou previsões verificáveis sobre o ritmo da IA merecem mais peso do que as de quem apenas tem visibilidade. O terceiro, no caso brasileiro, é a agenda legislativa pós-eleitoral, que dirá se a regulação baseada em riscos concretos sai do papel ou continua atrás dos incentivos fiscais.

A popularização do P(doom) tem um mérito: obrigou o debate público a admitir que a tecnologia mais transformadora da década carrega riscos extremos que não podem ser descartados. Tem também um custo: deu aparência de precisão a algo que, pela própria natureza, não pode ser medido com precisão. Entre o fatalismo e a indiferença, a economia oferece uma terceira via, menos vistosa: tratar como risco aquilo que pode ser medido, como incerteza aquilo que não pode, e desconfiar de quem apresenta o segundo como se fosse o primeiro.

Perguntas frequentes

— Ewerton Lopes, Curador Editorial