O verdadeiro risco da IA não é a confiança cega, é a preguiça de conferir

Este texto parte da coluna How AI tempts the lazy mind, de Tim Harford, publicada no Financial Times em 7 de outubro de 2026. O conteúdo original não é reproduzido nem traduzido; as referências a ele estão creditadas e foram complementadas com pesquisas independentes e dados brasileiros.

Em fevereiro de 1975, um curto-circuito no subsolo de uma central telefônica em Manhattan deixou cerca de 175 mil clientes sem linha, e o serviço levou semanas para ser totalmente restabelecido, segundo reportagem do New York Daily News reproduzida pela associação de bombeiros da Califórnia^[10]. Meio século depois, o episódio foi resgatado por um motivo inesperado: pensar o que a inteligência artificial generativa faz com a nossa disposição para pensar. Quem construiu a ponte foi o economista britânico Tim Harford, em sua coluna Undercover Economist no Financial Times^[1]. A tese dele é simples e incômoda: o perigo maior não é passarmos a confiar inteiramente nas máquinas, e sim deixarmos de nos importar o bastante para conferir o que elas dizem.

A distinção parece sutil, mas muda o diagnóstico. Confiança cega pressupõe uma decisão, ainda que equivocada. O que Harford descreve é outra coisa: um afrouxamento gradual da atenção, em que a checagem não é recusada, apenas esquecida. É um problema menos de crença e mais de hábito.

O dia em que Manhattan ficou sem telefone

O incêndio de 27 de fevereiro de 1975 atingiu a central da New York Telephone na Segunda Avenida e cortou o serviço de uma área de cerca de 300 quarteirões, que incluía hospitais, delegacias e universidades, conforme o registro histórico do caso^[10]. Para Harford, o interesse está menos no desastre e mais no que veio depois: uma pesquisa com moradores afetados, que ele relata na coluna. Segundo o colunista, dois terços dos entrevistados disseram ter se sentido isolados ou inquietos sem o aparelho, e mais da metade relatou as duas sensações. Ao mesmo tempo, cerca de um terço afirmou ter visitado outras pessoas com mais frequência durante o apagão, e uma fatia equivalente disse ter recebido mais visitas^[1].

O cientista político Robert Putnam usou o mesmo episódio em Bowling Alone (2000), seu estudo clássico sobre o declínio do capital social nos Estados Unidos, para sustentar que o telefone reduz a solidão e, ao mesmo tempo, a convivência presencial^[2]. Harford retoma a conclusão e a estende às tecnologias hiperconectivas que vieram depois: todas cortam para os dois lados.

O colunista recorre ainda a Cartas de um diabo a seu aprendiz, de C. S. Lewis, livro em que um demônio veterano orienta um sobrinho sobre como desviar um ser humano. Na obra, amor, guerra e até o pecado aparecem como ocasiões ambíguas, capazes de aproximar alguém de Deus ou da danação^[3]. Se até essas experiências têm dois gumes, argumenta Harford, não deveria surpreender que o telefone, e agora a IA, também tenham^[1].

Resumos polidos, confabulações convincentes

O lado cortante da IA generativa, na leitura de Harford, aparece a cada interação: a ferramenta oferece resumos bem acabados que se esquecem rapidamente e confabulações plausíveis apresentadas com segurança^[1]. O ponto não é que o sistema erre. Toda fonte erra. O ponto é que o erro chega embalado em fluência, e a fluência desarma a vigilância.

Essa preocupação deixou de ser restrita a críticos da tecnologia. Em fevereiro de 2026, Demis Hassabis, que dirige o Google DeepMind, afirmou em entrevista durante a cúpula de IA na Índia que o uso preguiçoso da IA tende a piorar o pensamento crítico, comparando a ferramenta à internet, que serve tanto para aprender quanto para degradar o raciocínio, segundo relato da entrevista concedida ao Business Insider^[11].

A IA não precisa nos enganar para nos tornar menos atentos. Basta ser boa o suficiente para que conferir pareça perda de tempo. O Tecido · Análise

O que as pesquisas dizem sobre o hábito de checar

Quanto mais confiança na máquina, menos esforço crítico

O estudo empírico mais citado sobre o tema foi apresentado na conferência CHI, em abril de 2025, por pesquisadores da Microsoft Research e da Universidade Carnegie Mellon. Eles ouviram 319 profissionais do conhecimento que usam ferramentas como ChatGPT e Copilot ao menos uma vez por semana e reuniram 936 exemplos concretos de uso^[4]. O resultado central, descrito pelo The Register, é que a confiança na IA se associa a menos esforço de pensamento crítico, enquanto a autoconfiança do profissional se associa a mais esforço.

Há um detalhe que pesa especialmente no debate brasileiro: 58 participantes relataram dificuldade para verificar respostas da IA por falta de conhecimento na área em questão, de acordo com a análise publicada pelo PPC Land. Em outras palavras, checar exige repertório, e quem tem menos repertório tende a checar menos. Os autores também observaram que o pensamento crítico se desloca da execução da tarefa para a supervisão do resultado, e que o uso da IA produziu soluções menos diversas para um mesmo problema.

Os pesquisadores dialogam explicitamente com um texto clássico da engenharia de sistemas, Ironias da automação, publicado por Lisanne Bainbridge em 1983^[9]. A ironia descrita ali é que, ao automatizar as tarefas rotineiras, retiramos do operador justamente a prática que o manteria capaz de intervir quando a máquina falha.

A dívida cognitiva medida no cérebro

Em junho de 2025, um grupo do MIT Media Lab liderado por Nataliya Kosmyna divulgou o estudo Your Brain on ChatGPT. Os pesquisadores dividiram 54 estudantes de universidades da região de Boston em três grupos (um com ChatGPT, outro com buscador e outro sem ferramenta alguma) e monitoraram a atividade cerebral por eletroencefalograma durante a escrita de redações^[5]. O grupo que usou o ChatGPT apresentou a menor conectividade entre regiões cerebrais, e seus integrantes relataram baixa sensação de autoria sobre o próprio texto. Os autores chamaram o fenômeno de "dívida cognitiva".

A própria autora, porém, tem combatido leituras alarmistas. Em entrevista ao Tech & Learning, Kosmyna afirmou que o estudo não encontrou nenhum "apodrecimento cerebral" e lembrou que o trabalho ainda era um preprint, sem revisão por pares.

Quando a ferramenta erra quase metade das vezes

A preguiça de conferir seria um problema menor se as respostas fossem confiáveis. Não são. Um estudo coordenado pela União Europeia de Radiodifusão (EBU) e liderado pela BBC, divulgado em outubro de 2025, reuniu 22 emissoras públicas de 18 países, em 14 idiomas. Jornalistas avaliaram mais de 3 mil respostas de ChatGPT, Copilot, Gemini e Perplexity sobre temas noticiosos^[6]. O resultado, detalhado pelo InfoDocket, foi que 45% das respostas tinham pelo menos um problema significativo.

O levantamento também apontou problemas graves de atribuição de fontes em 31% das respostas e erros graves de precisão, incluindo detalhes inventados e informações desatualizadas, em 20%, segundo a lista de resultados divulgada pela EBU. O dado ganha peso quando se considera quem já usa esses sistemas para se informar: de acordo com o Digital News Report 2025 do Instituto Reuters, citado pela Association for International Broadcasting, 7% dos consumidores de notícias online recorrem a assistentes de IA, proporção que sobe para 15% entre menores de 25 anos^[8].

Juntas, as três pesquisas desenham o mecanismo que Harford descreve. Ferramentas que erram com frequência relevante, usuários que verificam menos quanto mais confiam nelas e um custo cognitivo que se acumula sem ser percebido. Nenhuma dessas peças, isoladamente, é catastrófica. A combinação é que preocupa.

O recorte brasileiro: quem usa e quem consegue conferir

A pesquisa TIC Domicílios 2025, divulgada pelo Cetic.br/NIC.br em dezembro de 2025, mediu pela primeira vez o uso de IA generativa no país. O resultado: 32% dos usuários de internet com 10 anos ou mais já usam essas ferramentas, o equivalente a cerca de 50 milhões de pessoas^[7]. Segundo a Convergência Digital, 84% desses usuários declararam fins pessoais, 53% usam a IA para pesquisas e trabalhos escolares ou universitários e 50% para fins profissionais, com respostas múltiplas.

O uso é significativamente maior entre os estratos de maior renda e escolaridade, de acordo com o Teletime. Entre quem tem apenas o ensino fundamental e não usou IA, a falta de habilidade foi apontada por 65% e a falta de conhecimento por 63%. Alexandre Barbosa, gerente do Cetic.br, alertou que a desigualdade na apropriação da ferramenta entre faixas de renda e escolaridade passa a chamar atenção à medida que a IA ganha espaço no cotidiano.

Cruzar esses dados com o achado da Microsoft e da Carnegie Mellon revela um ponto pouco discutido. O debate sobre exclusão digital costuma se concentrar em quem tem ou não acesso à ferramenta. Mas, se a capacidade de verificar depende de conhecimento prévio sobre o assunto, a próxima fronteira da desigualdade não será apenas quem usa IA, e sim quem tem repertório para auditar o que ela responde. À medida que a adoção avançar para grupos com menos anos de estudo, a tendência descrita por Harford pode se distribuir de forma desigual: a preguiça de conferir custa mais caro para quem tem menos meios de perceber o erro.

O dado de uso escolar reforça a urgência. Mais da metade dos usuários brasileiros já recorre à IA para estudar. É justamente nessa etapa, quando o repertório ainda está sendo formado, que a dívida cognitiva descrita pelo MIT tende a ser mais custosa, porque a ferramenta pode ocupar o lugar do esforço que construiria a própria capacidade de verificação.

Onde está a alavanca

Se o problema é de hábito, e não de crença, as respostas também passam por desenho de rotinas, e não apenas por alertas. Há pelo menos quatro frentes em que a discussão tem avançado.

A primeira é o desenho das próprias ferramentas. Os autores do estudo da Microsoft e da Carnegie Mellon sugerem que a IA generativa seja projetada para estimular o pensamento crítico, e não apenas para reduzir esforço^[4]. Mostrar fontes de forma verificável, sinalizar incerteza e introduzir alguma fricção em decisões sensíveis são caminhos possíveis. A EBU e a BBC publicaram, junto com o estudo, um conjunto de recomendações voltado à integridade das respostas sobre notícias^[6].

A segunda é o trabalho. A mesma pesquisa recomenda treinar profissionais em verificação de informação, integração de respostas e supervisão de tarefas, conforme resumo do Inquirer Technology. Em vez de medir apenas a produtividade gerada pela IA, organizações passam a ter de medir também a qualidade da revisão humana.

A terceira é a escola. Se a IA pode produzir o texto final, avaliar apenas o texto final deixa de medir aprendizado. Avaliar o processo, as fontes consultadas e a capacidade de identificar erros na resposta da máquina se torna parte do currículo.

A quarta é individual e menos glamorosa: tratar a resposta da IA como um rascunho a ser conferido, e não como conclusão. Em 1975, quando as linhas caíram, parte dos nova-iorquinos foi bater na porta dos vizinhos. O equivalente hoje talvez seja perceber o momento em que paramos de abrir a fonte original.