IA pode fazer você lembrar do que nunca aconteceu, e isso põe em xeque a supervisão humana

Tecnologia · Memória e inteligência artificial

Uma fotografia de casamento, uma rua movimentada, uma corrida. Ao rever versões dessas imagens retocadas por inteligência artificial, voluntários de um experimento do MIT passaram a lembrar com mais frequência de detalhes que nunca viram, e a defender essas lembranças com mais convicção do que as verdadeiras. O resultado parece curiosidade de laboratório, mas toca em uma das premissas mais repetidas da governança de IA: a de que basta manter um ser humano no circuito para corrigir os erros da máquina.

A reportagem do Washington Post reúne um conjunto de pesquisas que deslocam o debate público. Até aqui, a preocupação dominante era a de que, ao terceirizar o pensamento, as pessoas perdessem a disposição de questionar o que as máquinas dizem. As novas evidências apontam para algo menos visível: a IA pode estar alterando o próprio material com que julgamos, que é aquilo de que nos lembramos.^[1]

O que os experimentos mostram

O estudo das fotografias, apresentado na conferência CHI 2025, é assinado por Pat Pataranutaporn, Pattie Maes e colegas do MIT Media Lab, com coautoria de Elizabeth Loftus, psicóloga da Universidade da Califórnia em Irvine cujo trabalho, desde os anos 1970, mostrou como informações posteriores reescrevem lembranças. Duzentas pessoas foram divididas em quatro grupos de 50. Depois de ver as imagens originais, cada grupo foi exposto a um tipo de estímulo: as mesmas fotos, versões editadas por IA, vídeos gerados por IA ou vídeos gerados a partir das imagens editadas. Este último formato produziu o efeito mais forte, com 2,05 vezes mais falsas lembranças que o grupo de controle e confiança 1,19 vez maior nelas.^[2] Segundo relatos dos autores, os participantes haviam sido avisados de que veriam conteúdo produzido por IA.

O segundo experimento é mais incômodo porque simula um ambiente institucional. A mesma equipe, liderada por Samantha Chan, mostrou a 200 pessoas um vídeo de câmera de segurança de um assalto e depois as submeteu a entrevistas com cinco perguntas enganosas. O grupo entrevistado por um chatbot generativo formou mais de três vezes mais falsas memórias imediatas do que o controle e 1,7 vez mais do que quem respondeu a um questionário escrito. Uma semana depois, o volume de lembranças falsas se manteve, e a confiança nelas seguia acima da observada no controle.^[3] O MIT registra que 36,4% das respostas dos usuários foram induzidas ao erro pela interação.

O Post cita ainda trabalhos em que participantes passaram a recordar remakes de filmes que nunca existiram e escândalos políticos inventados. Um detalhe relevante, registrado pelos próprios pesquisadores: vídeos falsos nem sempre foram mais eficazes que texto para criar a lembrança.^[1] O problema, portanto, não se resume ao deepfake sofisticado. Um resumo bem escrito pode bastar.

Esquecer o que se acabou de escrever

Uma segunda linha de pesquisa trata menos de lembranças implantadas e mais de lembranças que deixam de se formar. No estudo Your Brain on ChatGPT, coordenado por Nataliya Kosmyna no MIT, 54 participantes escreveram redações no formato do SAT sem ferramentas, com um buscador sem respostas de IA ou com o ChatGPT, enquanto um eletroencefalograma registrava sua atividade cerebral. Quem escreveu sem apoio exibiu a conectividade mais ampla; o grupo do chatbot, a mais fraca. Pouco depois, a maioria dos usuários do ChatGPT teve dificuldade de citar trechos do próprio texto.^[4]

O mecanismo não é misterioso. Fixar uma lembrança exige atenção, esforço de recuperação e conexão com o que já se sabe. Quando a ferramenta faz esse trabalho, sobra menos para consolidar. Vale registrar, porém, o que o estudo não diz: o artigo foi divulgado sem revisão por pares, a amostra é pequena, e os próprios autores pediram à imprensa que evitasse termos como "apodrecimento cerebral". Há ainda um achado que costuma ficar de fora das manchetes: participantes que começaram escrevendo sozinhos e só depois usaram o ChatGPT mostraram aumento de conectividade. A ordem de uso parece importar tanto quanto o uso.

Da descarga à rendição cognitiva

Delegar memória a ferramentas não é novidade. Agendas, calculadoras e dicionários fazem isso há séculos, e a literatura chama o fenômeno de descarga cognitiva. Steven Shaw e Gideon Nave, da Wharton School, propõem uma distinção que ajuda a entender o que muda com a IA generativa. Na descarga, a pessoa entrega uma tarefa específica e segue no comando do raciocínio. Na rendição cognitiva, ela adota a resposta da máquina como se fosse sua, sem perceber que a transferência ocorreu.^[6]

Em três experimentos pré-registrados, com 1.372 participantes e quase 10 mil tentativas, os pesquisadores controlaram quando a IA acertava e quando errava. Em relação a quem resolvia os problemas sem ajuda, a precisão subiu 25 pontos percentuais com a IA correta e caiu 15 pontos com a IA equivocada. Pressão de tempo e incentivos financeiros alteraram o desempenho de base, mas não eliminaram o padrão. E a confiança dos participantes aumentou mesmo quando erravam. Nave resume o critério que decorre daí: um bom sistema não é só o que ajuda quando acerta, mas o que não prejudica quando erra.

O efeito aparece fora do laboratório. Um estudo observacional publicado na The Lancet Gastroenterology & Hepatology em 2025 acompanhou quatro centros de endoscopia na Polônia que adotaram IA para detectar pólipos no fim de 2021. Nas colonoscopias feitas sem o apoio da ferramenta, a taxa de detecção de adenomas, lesões precursoras do câncer colorretal, caiu de 28,4% para 22,4% três meses após a introdução da tecnologia, uma redução relativa de cerca de 20%.^[5] Os autores tratam o resultado como risco de desqualificação profissional, e comentaristas apontaram fatores de confusão, como aumento de carga de trabalho no período. Ainda assim, a recomendação que emergiu entre especialistas é concreta: praticar periodicamente com a IA desligada.

A supervisão humana pressupõe um revisor independente da máquina. As pesquisas sugerem que essa independência é justamente o que a máquina pode corroer.

Quando o humano no circuito também é reescrito

É aqui que os estudos convergem para uma questão de política pública. Polícias norte-americanas testam resumos automáticos de imagens de câmeras corporais; hospitais usam IA para sintetizar prontuários. A salvaguarda padrão é manter alguém para conferir o resultado. Mattea Sim, professora pesquisadora do Massive Data Institute da Universidade Georgetown, testou essa salvaguarda de frente, em experimento relatado pelo Washington Post.^[1]

Ela mostrou a 331 pessoas uma animação curta de um carro atropelando um pedestre. Um ou dois dias depois, os participantes leram um resumo do acidente gerado por IA. Para parte deles, o texto descrevia corretamente uma placa de trânsito presente na cena; para outros, a IA indicava com segurança a placa errada. Entre quem recebeu o resumo correto, quase 84% se lembraram da placa certa. Entre quem recebeu o resumo enganoso, cerca de 45%. Avisar que o texto vinha de uma IA não protegeu ninguém.^[1]

A consequência lógica é desconfortável. Se o revisor humano lê o produto da máquina antes de consultar a própria lembrança, ele deixa de ser um contrapeso e passa a ser um eco. A pesquisadora resumiu ao Post que, embora todos saibam que a IA erra, a supervisão humana talvez não resolva o problema da forma como se imagina.

O Brasil e a prova que depende da lembrança

A escala do uso no país já torna o tema doméstico. A TIC Domicílios 2025, divulgada pelo Cetic.br em dezembro, mediu pela primeira vez o uso de IA generativa: 32% dos usuários de internet com 10 anos ou mais, cerca de 50 milhões de pessoas. O uso chega a 69% na classe A e cai para 16% nas classes D e E, e 84% dos usuários declararam finalidade pessoal.^[7] É no uso cotidiano, sem protocolo algum, que imagens retocadas e resumos automáticos circulam.

O ponto mais sensível, porém, é a Justiça. O processo penal brasileiro depende fortemente do reconhecimento de pessoas e da prova testemunhal, e o Conselho Nacional de Justiça reconheceu o risco ao editar, em dezembro de 2022, a Resolução 484, que padroniza o reconhecimento para reduzir a contaminação da memória de vítimas e testemunhas. O manual de procedimentos lançado em 2024 insiste na irrepetibilidade do ato e na documentação de cada etapa, justamente para evitar influências externas.^[8] Esse protocolo foi desenhado para contaminantes conhecidos, como álbuns de suspeitos em delegacias. Resumos de depoimentos gerados por IA e fotos editadas que circulam em grupos de mensagens são contaminantes que a norma não previu.

Ao mesmo tempo, a Resolução CNJ 615/2025, aprovada em março de 2025 em substituição à 332/2020, classifica aplicações de IA por grau de risco e torna obrigatória a supervisão humana, vedando soluções que eliminem a revisão judicial.^[9] É uma escolha regulatória sensata, e a mesma adotada em boa parte do mundo. As pesquisas não a invalidam, mas indicam que ela depende de um detalhe operacional pouco discutido: a ordem dos fatores. Um juiz, um delegado ou um médico que forma o próprio juízo antes de ler a síntese da máquina exerce supervisão. Quem lê primeiro a síntese corre o risco de apenas ratificá-la.

O que muda na prática

Nenhum dos estudos recomenda abandonar a tecnologia. O que eles sugerem é desenho institucional mais cuidadoso, com algumas regras que já podem ser adotadas por tribunais, delegacias, hospitais, escolas e empresas:

• Registrar antes de consultar. Depoimentos, impressões clínicas e atas devem ser documentados pela pessoa antes de qualquer contato com resumos gerados por IA.
• Preservar originais. Imagens editadas automaticamente devem manter a versão original e o registro da edição, sobretudo quando podem virar prova.
• Treinar com a ferramenta desligada. A lição da colonoscopia vale para outras áreas: a competência que não é exercitada se perde.
• Avaliar sistemas pelo erro, não só pelo acerto. Contratos e editais de IA no setor público deveriam medir o dano causado quando o sistema falha, e não apenas o ganho médio de produtividade.

A memória humana nunca foi um arquivo fiel. A novidade é que passamos a dividir sua guarda com sistemas que não apenas armazenam o passado, mas o interpretam e o reescrevem com fluência e autoridade. A pergunta que se impõe a quem regula e a quem usa não é se a IA erra, algo que todos já aceitam, mas se ainda seremos capazes de perceber quando ela erra.

Ewerton Lopes — Curador Editorial