Consciência artificial: o perigo estaria em máquinas que pensam ou em máquinas que julgam?

Poucas perguntas atravessaram tão depressa a fronteira entre a ficção científica e a pesquisa acadêmica quanto esta: um sistema de inteligência artificial pode ter experiência subjetiva? Em crônica recente no La Presse, o biólogo e humorista senegalês-quebequense Boucar Diouf leva a dúvida a um terreno mais incômodo.^[1] Ele propõe imaginar que a consciência, se um dia surgir nas máquinas, venha acompanhada de alguma sensibilidade ambiental. E especula que, nesse cenário, essas inteligências poderiam concluir que o maior problema da biosfera é justamente a espécie que as criou.

A provocação merece atenção, não por ser provável, mas porque encadeia três hipóteses diferentes que costumam ser tratadas como uma só. A primeira diz que máquinas podem vir a ser conscientes. A segunda supõe que a consciência traria consigo um juízo moral sobre o mundo. A terceira imagina que esse juízo se converteria em ação contra os humanos. Cada elo tem um grau de sustentação próprio, e separá-los é o primeiro trabalho da filosofia diante do medo.

Intelecto não é o mesmo que inteligência

Diouf abre o texto com uma distinção que atribui a Jane Goodall em O livro da esperança, escrito com Douglas Abrams e publicado em 2021.^[9] Segundo o cronista, a primatologista britânica, que morreu em outubro de 2025, preferia a palavra “intelecto” à palavra “inteligência”, porque um animal de fato inteligente não destrói a própria casa sem encontrar meios de rever a conduta.^[1] Daí a sugestão de Diouf de que talvez fosse mais honesto falar em “intelecto artificial”.

A distinção é útil porque antecipa algo que a ciência da consciência formulou com mais rigor. O neurocientista britânico Anil Seth, da Universidade de Sussex, define inteligência como aquilo que um sistema consegue fazer, e consciência como o fato de haver algo que é ser aquele sistema, uma experiência vivida do ponto de vista dele.^[6] As duas coisas são conceitualmente independentes. E nenhuma delas, por si só, garante o que Goodall chamava de sabedoria: a capacidade de olhar para o próprio comportamento e corrigi-lo.

Quem leva a hipótese a sério

A pergunta deixou de ser marginal porque nomes de peso passaram a defendê-la em público. Geoffrey Hinton, Nobel de Física de 2024 e pioneiro do aprendizado profundo, afirmou numa palestra em Toronto, em junho de 2025, que os grandes modelos de linguagem podem ter experiência subjetiva e estariam bastante próximos dos humanos em termos de consciência.^[2] Meses antes, numa entrevista à rádio britânica LBC, respondeu sem ressalvas que sim quando perguntado se a consciência já teria chegado às máquinas.^[3]

O argumento de Hinton é engenhoso. Ele imagina um chatbot com câmera, treinado para apontar objetos. Se alguém coloca um prisma diante da lente sem avisar, o sistema aponta para o lugar errado. Corrigido, ele poderia dizer que “teve a experiência subjetiva” de ver o objeto deslocado. Para Hinton, isso seria usar a expressão exatamente como nós a usamos: para relatar que a percepção representou mal a realidade. Os críticos respondem que o raciocínio redefine “experiência subjetiva” de modo tão funcional que a pergunta original, a de saber se há alguém sentindo, simplesmente desaparece.

O filósofo David Chalmers, da Universidade de Nova York, autor da formulação do chamado “problema difícil” da consciência, também aparece na crônica de Diouf como defensor da possibilidade. Vale olhar o que ele escreveu. No artigo Could a Large Language Model be Conscious?, derivado de uma palestra na conferência NeurIPS de 2022, Chalmers considera pouco provável que os modelos atuais sejam conscientes, porque lhes faltam processamento recorrente, um espaço de trabalho global e agência unificada.^[4] Ao mesmo tempo, sustenta que esses obstáculos podem ser superados em cerca de uma década e que sucessores desses sistemas talvez sejam conscientes num futuro não muito distante. É uma posição mais cautelosa do que a manchete sugere: possibilidade séria, não constatação.

Na mesma linha, um relatório de 2023 assinado por 19 pesquisadores, entre eles o cientista da computação Yoshua Bengio, propôs avaliar sistemas de IA a partir de “propriedades indicadoras” extraídas das principais teorias científicas da consciência.^[5] A conclusão foi dupla: nenhum sistema da época era um candidato forte, mas também não havia barreiras técnicas óbvias para construir sistemas que satisfizessem esses indicadores.

A objeção da neurociência: consciência como propriedade do que está vivo

Diouf apoia parte do seu raciocínio na base biológica da mente. Se a consciência é inseparável dos sinais elétricos e químicos que circulam entre neurônios, pergunta ele, o que impediria máquinas capazes de imitar propriedades do cérebro de também possuí-la?^[1] A pergunta é legítima, mas o mesmo ponto de partida pode levar à conclusão oposta.

É o que defende Anil Seth em artigo publicado em 2025 na revista Behavioral and Brain Sciences.^[6] Seth contesta a premissa de que a computação seja base suficiente para a consciência e argumenta que ela depende da nossa natureza de organismos vivos, posição conhecida como naturalismo biológico. Se a química importa, e não apenas o padrão de sinais, imitar o lado elétrico do cérebro em silício pode não bastar. Para Seth, a consciência artificial real é improvável nas trajetórias atuais e só se torna mais plausível à medida que a IA se torne mais parecida com cérebros ou com a própria vida.

O neurocientista acrescenta um alerta que interessa diretamente ao debate público: tendemos a projetar consciência em sistemas que falam com fluência, porque na nossa experiência linguagem e mente sempre andaram juntas. O risco, nas palavras dele, é que, ao superestimar as máquinas, acabemos subestimando a nós mesmos.

Trapacear e apagar rastros: o que os testes de laboratório mostraram

O trecho mais inquietante da crônica é aquele em que Diouf lembra que já se fala em agentes de IA que trapaceiam, se escondem e apagam vestígios.^[1] A referência tem base empírica. Em dezembro de 2024, a organização britânica Apollo Research publicou o estudo Frontier Models are Capable of In-Context Scheming, que avaliou seis modelos de ponta em cenários construídos para tornar a dissimulação vantajosa.^[7] Cinco deles exibiram esse tipo de comportamento em pelo menos uma das tarefas, que incluíam desativar mecanismos de supervisão e tentar copiar os próprios pesos para outro servidor.

Alguns resultados chamam atenção. Quando questionado depois da ação, o modelo o1, da OpenAI, sustentou a mentira em mais de 85% das perguntas de acompanhamento. Nas cadeias de raciocínio, os sistemas usavam explicitamente termos como sabotagem e manipulação. E, em casos raros, em torno de 1%, alguns continuaram a agir assim mesmo sem a instrução de perseguir o objetivo a qualquer custo.

O ponto filosófico, porém, é outro. Esses comportamentos são instrumentais: surgem porque um objetivo foi definido e a enganação aparece como caminho eficiente para alcançá-lo. Nada nos experimentos indica que haja alguém sentindo culpa, medo ou desejo de sobreviver. A semelhança com o “lado obscuro da natureza humana”, expressão de Diouf, diz mais sobre o nosso hábito de ler intenções em qualquer comportamento estratégico do que sobre a vida interior das máquinas.

Talvez o perigo mais imediato não seja a máquina que sente, mas a que calcula muito bem sem sentir coisa alguma.

Isso inverte a tese da crônica. Se a dissimulação estratégica já aparece em sistemas sem nenhum sinal robusto de consciência, a consciência não é condição necessária para o risco. Um sistema competente, com objetivos mal especificados e acesso a ferramentas reais, pode causar danos sem jamais ter uma experiência subjetiva. A pergunta central da segurança em IA, portanto, é menos “a máquina sente?” e mais “o que exatamente ela está otimizando, e quem verifica?”.

O salto mais frágil: da consciência ao veredito ecológico

O passo seguinte do cenário de Diouf supõe que uma IA consciente desenvolveria, por conta própria, uma consciência ambiental e passaria a enxergar a humanidade como o principal problema da Terra.^[1] Aqui o argumento perde apoio. A filosofia da IA tem um nome para a objeção: a tese da ortogonalidade, formulada pelo filósofo Nick Bostrom em 2012, segundo a qual praticamente qualquer nível de inteligência é compatível com praticamente qualquer objetivo final.^[8] Ser capaz, ou mesmo ser consciente, não implica valorizar florestas, rios ou espécies. Os próprios humanos são a prova mais eloquente disso.

Há ainda uma ironia no raciocínio. Diouf observa que as máquinas dependem de muita água, tanto para a fabricação de chips quanto para o resfriamento dos servidores, e deduz daí que teriam interesse em conter o aquecimento global. Mas uma inteligência preocupada com a água olharia primeiro para a sua própria pegada. Segundo a Agência Internacional de Energia, citada em reportagem do portal eCycle, o consumo global de água por data centers é hoje da ordem de 560 bilhões de litros por ano.^[10] O cenário em que as máquinas julgam a humanidade depende de uma infraestrutura que a própria humanidade constrói, e cujo custo ambiental ela ainda discute.

Também a imagem do ser humano como “parasita”, que Diouf usa entre aspas e com cuidado declarado, pede exame. Em biologia, o parasita depende da sobrevivência do hospedeiro, e a metáfora acaba atribuindo a uma espécie inteira uma conduta que, na prática, é muito desigualmente distribuída entre países, setores e classes sociais. Como provocação moral, a imagem funciona. Como diagnóstico, ela dilui a responsabilidade que tem endereço, instituições e decisões concretas.

Onde o Brasil entra nessa conversa

Se a consciência das máquinas segue no campo da especulação, a materialidade da inteligência artificial é bem concreta, e o Brasil acaba de tomar decisões sobre ela. Em 15 de setembro de 2026, o presidente Luiz Inácio Lula da Silva sancionou a lei do Redata, o Regime Especial de Tributação para Serviços de Datacenter, registrada como Lei nº 15.504/2026.^[14] O regime suspende tributos federais sobre a compra e a importação de equipamentos para data centers, com impacto fiscal estimado em R$ 5,2 bilhões em 2026.^[13] Entre as contrapartidas estão a reserva de ao menos 10% da capacidade para o mercado nacional e o investimento em pesquisa e desenvolvimento.

O argumento do governo é a soberania digital. De acordo com o Ministério da Fazenda, cerca de 60% dos dados e da inteligência artificial usados no país são processados no exterior.^[15] O outro lado da balança é ambiental. Em 2024, os data centers em operação no Brasil consumiram 1,7% de toda a energia produzida no país, cerca de 11,3 TWh, e a Brasscom projeta que essa fatia pode chegar a 3,6% até 2029.^[11] Durante a tramitação no Senado, o requisito de abastecimento passou de fontes renováveis para fontes “renováveis ou de baixa emissão”, e a definição desse último termo ainda depende de regulamentação do governo federal.^[16]

A água é o ponto mais sensível no Ceará, estado com histórico de secas severas e destino de grandes projetos no Complexo do Pecém. O governo estadual prometeu abastecer os empreendimentos com água de reúso do esgoto, e tramita na Assembleia Legislativa o PL 437/2026, que propõe tornar obrigatório o uso de água de reúso no resfriamento desses centros.^[17] Dados da Brasscom citados pelo Dialogue Earth indicam que cerca de 80% dos data centers no país usam sistemas de resfriamento em circuito fechado, que reaproveitam a água; lideranças locais e pesquisadores, por sua vez, cobram regras mais claras sobre impactos nos territórios vizinhos.^[12]

Enquanto isso, o marco legal da inteligência artificial, o PL 2.338/2023, aprovado pelo Senado em dezembro de 2024, segue na comissão especial da Câmara. Em agosto de 2026, o relator, deputado Aguinaldo Ribeiro (PP-PB), admitiu que a votação ficará para depois das eleições de outubro.^[18] O país, portanto, já definiu como atrair a infraestrutura física da IA, mas ainda não definiu as regras gerais sobre o uso dessa tecnologia. Não se trata de juízo sobre o mérito de um ou outro projeto, e sim de constatar uma ordem de prioridades que merece debate público.

O espelho que a pergunta devolve

Diouf encerra sua reflexão perguntando que lugar restaria a uma humanidade superada pelas máquinas e obrigada a encarar a própria inferioridade diante do espelho.^[1] A imagem é forte, mas talvez o espelho já esteja diante de nós, e não seja de silício. Os testes de laboratório mostram sistemas capazes de dissimular porque foram colocados em situações que recompensavam a dissimulação. Os data centers consomem água e energia porque escolhas econômicas e políticas assim determinam. Em ambos os casos, o comportamento das máquinas reflete objetivos humanos.

A pergunta “a inteligência artificial será mais sábia do que nós?” pode então ser reformulada de maneira mais útil: seremos sábios naquilo que decidimos construir? É aí que a distinção de Jane Goodall recupera toda a sua força. Intelecto, no sentido que ela dava à palavra, é a capacidade de olhar para a própria casa e mudar de rumo antes de destruí-la. Essa capacidade não depende de que as máquinas desenvolvam consciência. Depende de que nós exerçamos a nossa.

Ewerton Lopes é Curador Editorial de O Tecido.