A banalidade do algoritmo: o que o documentário "Naza" revela sobre a inteligência artificial na guerra

Em 10 de setembro, a competição principal do 83º Festival de Veneza exibiu um documentário de 80 minutos sobre a guerra em Gaza dirigido por dois israelenses. Dois dias depois, Naza, de Yuval Abraham e Rachel Szor, recebeu o Prêmio Especial do Júri.^2,4 O título vem de Nezek Agavi, expressão militar hebraica para dano colateral: o número de civis cuja morte se considera aceitável ao atacar um alvo militar legítimo. O filme sustenta que, na ofensiva israelense iniciada após o ataque do Hamas em 7 de outubro de 2023, esse cálculo passou a ser alimentado e acelerado por sistemas de inteligência artificial.

A obra se apoia em entrevistas feitas ao longo de três anos com 24 militares e agentes de inteligência israelenses, todos com identidade preservada.³ O governo de Israel rejeita as acusações e chegou a classificá-las como calúnia de sangue, segundo reportagem de Paul Nuki publicada nesta terça-feira (22) pelo The Telegraph.¹ Mais do que um episódio da disputa narrativa sobre Gaza, o caso chega no momento em que a comunidade internacional discute, em Genebra, se e como regular armas capazes de selecionar alvos com pouca ou nenhuma intervenção humana.

Duas máquinas, uma cadeia de decisão

Os depoimentos do filme retomam e ampliam uma investigação publicada em abril de 2024 pela revista +972 e pelo site hebraico Local Call, assinada pelo próprio Abraham.⁵ Ela descreveu dois sistemas. O primeiro, chamado Lavender, teria sido treinado com dados de uso de celular e deslocamento de integrantes conhecidos do Hamas e da Jihad Islâmica e, depois de 7 de outubro, aplicado sobre a população de Gaza para atribuir a cada pessoa uma pontuação de suspeita. No auge, segundo as fontes, a lista chegou a 37 mil potenciais alvos humanos. O segundo, conhecido informalmente como Where's Daddy? ("Cadê o papai?"), associava esses nomes às residências das famílias e sinalizava quando o alvo chegava em casa.

O ponto mais sensível está no controle humano. De acordo com os relatos reunidos pelos jornalistas e resumidos pelo Telegraph, a checagem de cada nome gerado pelo Lavender podia durar cerca de 20 segundos e servia basicamente para confirmar que o alvo era um homem.¹ Um dos analistas explicou que o tamanho da lista variava conforme a régua usada para definir quem contava como integrante do Hamas: quando o critério era afrouxado, o sistema passava a incluir policiais e agentes da defesa civil. Outras fontes afirmam que, no início da guerra, havia autorização prévia para até 15 ou 20 mortes civis por alvo de baixa patente, o que, na avaliação delas, esvaziava o critério de proporcionalidade exigido pelo direito internacional humanitário.^1,5

A reportagem britânica também recupera o contexto político. Relato do jornal israelense Yedioth Ahronoth, de março de 2025, descreveu uma reunião de gabinete nos primeiros dias da guerra em que o primeiro-ministro Benjamin Netanyahu teria cobrado dos militares um número muito maior de alvos do que os 1.500 atingidos nas 48 horas iniciais.¹ É nesse ambiente de pressão por volume que os entrevistados situam o uso das ferramentas.

O que dizem as Forças de Defesa de Israel

O porta-voz das Forças de Defesa de Israel (FDI) rejeitou categoricamente o conteúdo do filme, argumentando que ele se baseia em testemunhos anônimos cujas identidades, funções e participação não podem ser verificadas.² Um oficial da área de desenvolvimento de alvos, indicado pelas próprias FDI para falar com o Telegraph, disse nunca ter ouvido falar dos sistemas Lavender ou Where's Daddy?, embora não tenha negado o uso de IA pela inteligência militar. Segundo ele, todo ataque é revisado por um oficial sênior e recebe aval jurídico, a estimativa de dano colateral é feita caso a caso e não existe regra única de mortes civis admissíveis. Ele atribuiu o número de mortos sobretudo à duração do conflito, que já passa de três anos, e resumiu a própria posição dizendo que dorme bem à noite.¹

Em 2024, quando a investigação da +972 veio a público, as FDI já haviam afirmado que não usam um sistema de IA que identifique terroristas ou tente prever se uma pessoa é terrorista, e que seus sistemas de informação são ferramentas de apoio aos analistas.⁶ No plano político, a reação foi dura: o ministro da Cultura, Miki Zohar, e outro integrante do governo defenderam a cassação da cidadania dos diretores, e Netanyahu acusou a obra de contribuir para a incitação antissemita global.⁴ Segundo o Telegraph, o premiê afirmou na última quarta-feira que apoiaria legislação nesse sentido.¹

Minab: quando o erro está no banco de dados

O Telegraph lembra que o problema não se restringe a Israel.¹ Em 28 de fevereiro de 2026, primeiro dia da guerra entre Estados Unidos e Irã, mísseis americanos atingiram a escola primária Shajareh Tayyebeh, em Minab, no sul iraniano, matando pelo menos 123 crianças. Apuração da Bloomberg publicada neste mês, baseada em relatos de funcionários envolvidos numa revisão interna ainda não divulgada do Pentágono, descreve uma sequência de falhas evitáveis.⁷ O local seguia catalogado como instalação da Guarda Revolucionária por causa de dados desatualizados, foi inserido no Maven Smart System, plataforma de integração de dados e apoio à seleção de alvos desenvolvida pela Palantir, e saiu dali como alvo recomendado para o primeiro dia de ataques. Um trabalho que antes levava horas foi comprimido em minutos, e parte do pessoal do Comando Central esperava que o sistema apontasse informações velhas ou contraditórias.

A Palantir afirma não ser responsável pelos dados de origem nem pela identificação de falhas de inteligência, e diz não haver evidência de que seu software tenha causado o ataque.⁷ Análise jurídica publicada pelo site Just Security observa que o prédio funcionava como escola havia pelo menos uma década e que a mudança era visível em imagens comerciais de satélite. A IA não criou o erro, argumenta o texto, mas pode tê-lo legitimado ao repassá-lo com a aparência de informação processada.⁸ O historiador Kevin T. Baker, citado pelo Telegraph, resumiu o episódio como a soma de um banco de dados que ninguém atualizou com um sistema rápido o bastante para tornar essa omissão letal.¹

A lacuna de responsabilidade

O fio que liga Gaza e Minab é o que David Leslie, professor de ética, tecnologia e sociedade da Queen Mary University of London, chama de lacunas de responsabilidade na cadeia de ataque. Ao Telegraph, ele argumentou que a velocidade dessas ferramentas e o volume de dados que sintetizam podem reduzir o julgamento humano a uma função de carimbo, comprometendo os três pilares do direito da guerra: distinção entre combatentes e civis, proporcionalidade e precaução.¹ A cadeia de decisão, diz ele, deixa de ser um sistema institucional de verificação e passa a funcionar como um fluxo de dados. Leslie faz, porém, uma ressalva importante: a sensação de menor responsabilidade pessoal não altera a responsabilidade jurídica prevista nas leis da guerra.

A literatura sobre automação tem nome para parte desse fenômeno: viés de automação, a tendência de operadores a confiar na recomendação da máquina mesmo diante de sinais contrários. Em Minab, ele aparece na expectativa de que o software fizesse a checagem que cabia às pessoas. Em Gaza, segundo os depoimentos, aparece na revisão de 20 segundos. Nos dois casos, o humano continua formalmente no circuito, e é justamente essa presença formal que permite às instituições afirmar que as regras foram cumpridas.

A pergunta deixou de ser se há um humano no circuito. Passou a ser quanto tempo ele tem para discordar da máquina.

Arendt, seis décadas depois

Comentaristas dentro e fora de Israel passaram a comparar a reação ao filme com a que recebeu Hannah Arendt em 1963, quando publicou Eichmann em Jerusalém.¹ Ao cobrir o julgamento do oficial nazista Adolf Eichmann, a filósofa recusou o retrato do monstro e descreveu um funcionário zeloso, incapaz de pensar sobre o que fazia, figura que sintetizou na expressão banalidade do mal.⁹ O livro provocou indignação no país e só ganhou edição em hebraico em 2000.

O paralelo pede cuidado, porque os contextos históricos não se equivalem e muitos israelenses o consideram ofensivo. O que ele ilumina é um mecanismo, não uma equivalência: a diluição da responsabilidade moral em procedimentos. Em Naza, segundo o Telegraph, operadores descrevem o próprio papel como técnico e a si mesmos como peças pequenas de uma engrenagem.¹ A crítica publicada pelo Forward observa que o impacto do filme vem justamente de depoimentos que soam como a descrição de um dia comum de trabalho.¹⁰ A diferença em relação a 1963 é que parte da burocracia agora é código: a ordem não vem apenas de um superior, vem de uma lista gerada por software.

Onde o Brasil entra nessa discussão

A regulação das chamadas armas autônomas letais é debatida desde 2014 no âmbito da Convenção sobre Certas Armas Convencionais (CCW), em Genebra.¹¹ O Brasil está entre os países que defendem um instrumento juridicamente vinculante, com supervisão humana obrigatória sobre o uso de força letal, e em 2018 apresentou com Áustria e Chile uma proposta para abrir negociações nesse sentido.¹² Em 5 de setembro, 128 Estados chegaram a um consenso no Grupo de Peritos Governamentais sobre um texto que define esses sistemas, primeiro passo ainda sem força obrigatória.¹³ Estados Unidos e Rússia resistiram a regras internacionais vinculantes e preferem diretrizes nacionais; Washington buscou flexibilidade justamente nos trechos sobre julgamento humano.¹⁴ Em novembro, a Conferência de Revisão da CCW decidirá se abre negociações formais de um tratado, cumprindo ou não o prazo de 2026 fixado pelo secretário-geral da ONU, António Guterres, e pela presidente do Comitê Internacional da Cruz Vermelha, Mirjana Spoljaric.¹¹

O caso Naza expõe, porém, uma distinção técnica decisiva. As negociações de Genebra tratam sobretudo de armas que selecionam e atacam alvos sem intervenção humana. Lavender, Where's Daddy? e Maven são descritos como sistemas de apoio à decisão: formalmente, quem aprova o ataque ainda é uma pessoa. Se a definição de controle humano significativo aceitar uma revisão de segundos como suficiente, sistemas desse tipo podem ficar fora do alcance de qualquer tratado. Para a diplomacia brasileira, que defende a supervisão humana como requisito, a qualidade dessa supervisão é o ponto em disputa.

No plano interno, o marco legal da IA (PL 2.338/2023) foi aprovado pelo Senado em dezembro de 2024 e segue em comissão especial na Câmara, sob relatoria do deputado Aguinaldo Ribeiro (PP-PB).^15,16 O texto aprovado pelos senadores exclui de seu alcance os sistemas desenvolvidos e usados exclusivamente para fins de defesa nacional, o que deixa o uso militar da tecnologia fora da futura lei.¹⁵ A lógica que o filme questiona, contudo, já tem equivalente civil no país: o artigo 20 da Lei Geral de Proteção de Dados garante ao titular o direito de pedir revisão de decisões tomadas unicamente com base em tratamento automatizado.¹⁷ O debate sobre o que torna uma revisão humana real, e não apenas protocolar, vale tanto para um algoritmo de crédito quanto para uma lista de alvos, ainda que as consequências sejam de ordens completamente diferentes.

O que acompanhar

Três desdobramentos devem definir o alcance do caso nos próximos meses: a Conferência de Revisão da CCW, em novembro, e a definição de controle humano que sair dela; a eventual divulgação do relatório do Pentágono sobre Minab; e o avanço, em Israel, das propostas contra os diretores do filme, que vão testar os limites da liberdade de imprensa no país. Para o leitor brasileiro, a pergunta de fundo é menos distante do que parece. À medida que Estados e empresas automatizam decisões, quem responde quando a máquina erra e o humano apenas confirma?