Talvez exista uma etapa da eleição de 2026 que não esteja em nenhuma urna eletrônica. Ela acontece antes, enquanto o eleitor está sentado no sofá, no ônibus, na fila do café ou deitado na cama, com o celular na mão e o dedo passando por uma sequência infinita de vídeos. Aparece um candidato falando alguma coisa. Depois, uma suposta reportagem. Em seguida, uma imagem de uma passeata, uma pesquisa eleitoral ou uma declaração de alguém famoso. Tudo parece suficientemente real para que a próxima pergunta seja simplesmente: isso aconteceu mesmo?

É claro que não é exatamente uma novidade precisar desconfiar do que aparece na internet. A diferença é que a inteligência artificial tornou muito mais simples produzir algo que tenha aparência de registro. Não é mais necessário dominar um programa complicado de edição ou passar horas manipulando uma imagem. Hoje, ferramentas de geração de texto, imagem, áudio e vídeo estão disponíveis para qualquer pessoa que saiba o que quer pedir. “O que mudou da última para essa é essa escala gigantesca de conteúdo gerado por IA”, afirma Edvaldo Silva, diretor regional da Zefr na América Latina.

Leia também:

• • Agentes de IA colocam privacidade em xeque após relato de acesso a mensagens no Muse, da Meta
  • Pesquisadores de IA estimam até 50% de chance de extinção humana causada pela tecnologia
  • Japão quer colocar 10 milhões de robôs com IA em operação até 2040

E a escala já pode ser medida. Segundo o levantamento mais recente do VigIA, projeto da Lupa que monitora o uso de inteligência artificial nas eleições, foram identificados 920 conteúdos eleitorais com uso confirmado de IA entre 16 de agosto e 28 de setembro. São quase 20 publicações por dia, ou aproximadamente uma a cada hora. Do total, 554 eram deepfakes, enquanto 521 eram vídeos e 398, imagens. Mais importante do que o tamanho do número, porém, é outro detalhe: 60% dos conteúdos identificados não tinham sinalização de que haviam sido produzidos ou alterados por inteligência artificial.

O eleitor já está diante da máquina

Talvez seja tentador olhar para esses números e imaginar que estamos diante de um problema restrito às campanhas eleitorais. Não é exatamente o que o levantamento mostra. Dos 920 conteúdos identificados pela Lupa, 414 tinham como objetivo promover uma candidatura, enquanto 254 eram classificados como humor ou sátira e 226 buscavam atacar uma pessoa ou candidatura. Ou seja, a IA entrou na eleição não apenas para fabricar uma mentira, mas também para fazer campanha, produzir piada, criar uma imagem e transformar uma mensagem política em conteúdo de rede social.

Isso ajuda a explicar por que “conteúdo feito por IA” e “conteúdo falso” não são necessariamente sinônimos. Uma campanha pode utilizar uma imagem criada artificialmente e deixar claro que ela foi produzida dessa maneira. Um vídeo pode ser uma peça de humor e não tentar convencer ninguém de que aquela situação aconteceu. E uma animação pode ser usada para explicar uma proposta eleitoral sem representar uma pessoa real. O problema começa a ficar diferente quando a tecnologia é usada justamente para retirar do conteúdo qualquer pista de que ele não corresponde à realidade.

É por isso que Edvaldo insiste tanto na palavra contexto. Para ele, detectar que uma publicação foi feita com inteligência artificial é apenas uma parte do trabalho. “Não necessariamente porque é IA é que é ruim”, afirma. Uma mesma tecnologia pode ser usada para produzir uma campanha institucional, uma peça publicitária ou um vídeo falso sobre uma eleição, e a aparência artificial não é suficiente para determinar qual desses casos está diante do usuário.

O detalhe curioso é que o contexto, justamente aquilo que parece tão simples para uma pessoa, é uma das partes mais difíceis de transformar em uma regra automática. Uma palavra pode aparecer em uma reportagem, em uma sátira ou em uma publicação criada para enganar alguém. Um vídeo pode ser real, mas ter o áudio manipulado. Uma imagem pode ser artificial, mas representar claramente uma ilustração. “Você precisa ter uma tecnologia muito avançada para acompanhar essa IA”, diz Edvaldo.

O problema é que a mentira não precisa esperar

O levantamento da Lupa encontrou 554 deepfakes entre os conteúdos analisados. São vídeos e imagens em que a inteligência artificial é usada para fazer uma pessoa parecer ter dito ou feito alguma coisa que não aconteceu daquela maneira. Entre os casos identificados estavam vídeos que simulavam jornalistas anunciando pesquisas eleitorais inexistentes e imagens de celebridades que pareciam declarar apoio a determinados candidatos. Quando um conteúdo desses aparece no feed, o usuário não recebe necessariamente uma segunda tela dizendo que aquilo é falso antes de assistir.

A velocidade é uma parte importante dessa história. Um vídeo pode ser criado, publicado e compartilhado em poucos minutos. Se alguém perceber o problema depois, o conteúdo já pode ter sido reproduzido em outros perfis, cortado, baixado e publicado novamente. É justamente nesse intervalo entre a criação e a identificação que a tecnologia encontra uma vantagem. “Eu posso criar um vídeo agora no ChatGPT, no Claude ou em outras ferramentas gratuitas e subir e viralizar rapidamente”, afirma Edvaldo. “Até alguém olhar e falar aquilo e reclamar, já fez estrago”.

É também por isso que a ausência de sinalização chama tanta atenção. Dos 920 conteúdos identificados pelo VigIA, 549 não apresentavam aviso sobre o uso de inteligência artificial. Em 371 casos havia algum tipo de indicação, feita pela própria plataforma ou pelo responsável pela publicação. A diferença não significa que todo conteúdo sem etiqueta seja necessariamente enganoso, mas mostra que o usuário ainda pode encontrar material sintético sem receber, de imediato, essa informação.

E aqui existe uma questão que parece pequena até começarmos a pensar nela por alguns segundos: quanto tempo uma pessoa realmente tem para avaliar um vídeo antes de decidir se acredita nele? Nas redes sociais, a resposta provavelmente não é muito. O conteúdo aparece entre dezenas de outros e compete pela mesma atenção. Se a inteligência artificial consegue produzir algo convincente em poucos minutos, a verificação humana pode acabar trabalhando sempre alguns passos atrás.

Como uma máquina descobre que outra máquina esteve ali?

Para tentar acompanhar essa velocidade, as tecnologias de detecção também passaram a analisar mais do que palavras. Edvaldo explica que ferramentas mais antigas trabalhavam principalmente com texto e semântica, enquanto o volume de vídeos nas plataformas exige uma leitura diferente. Na Zefr, segundo ele, a análise considera elementos como frames, áudio e vídeo para procurar sinais de manipulação. “A grande dificuldade está exatamente em chegar o vídeo, olhar o vídeo”, afirma.

Isso significa que identificar inteligência artificial não é simplesmente procurar uma espécie de marca d’água invisível escondida em cada publicação. Um sistema pode procurar inconsistências na imagem, no áudio ou na maneira como determinados elementos foram produzidos. Edvaldo cita, por exemplo, a análise de profundidade como um dos sinais que podem ajudar a identificar uma manipulação. A tecnologia, nesse caso, tenta encontrar aquilo que nossos olhos podem não perceber imediatamente.

Mas existe outra camada nessa história. Mesmo que um sistema consiga identificar que determinada publicação foi produzida ou alterada por IA, ainda é preciso descobrir o que fazer com essa informação. “Não é simplesmente bloquear por bloquear”, explica Edvaldo. Segundo ele, a classificação precisa considerar categorias de risco e o contexto da mensagem, justamente para evitar que um sistema retire ou bloqueie conteúdos apenas porque determinadas palavras ou temas aparecem nele.

A lógica parece simples, mas é um problema enorme para plataformas que lidam com milhões de publicações. Uma análise humana individual de cada vídeo seria impossível. Por isso, o trabalho passa a depender de sistemas automatizados capazes de analisar grandes volumes de informação e, em determinados casos, encaminhar conteúdos para uma avaliação mais específica. “Tem que ter uma IA do bem que vai olhar essa IA do mal e bloquear”, resume Edvaldo.

O rótulo de IA ajuda, mas não conta a história inteira

A identificação explícita também passou a fazer parte das regras eleitorais. Para as eleições de 2026, o Tribunal Superior Eleitoral determina que conteúdos sintéticos utilizados em propaganda eleitoral sejam identificados de maneira explícita, destacada e acessível. A regra vale para materiais que tenham sido fabricados ou manipulados com inteligência artificial, incluindo conteúdos de texto, áudio, vídeo e imagem. Nas 72 horas anteriores ao primeiro turno e nas 24 horas posteriores, novas publicações e republicações de determinados conteúdos sintéticos ficam proibidas.

A existência da regra resolve uma parte do problema, mas cria outra pergunta: o que acontece com aquilo que já está circulando? Um conteúdo pode ter sido publicado antes do período de restrição, copiado por outro perfil e reaparecido horas depois. Pode também atravessar diferentes plataformas, cada uma com seus próprios sistemas de identificação e moderação. A internet não funciona exatamente como uma fila organizada, em que cada publicação recebe um carimbo e segue seu caminho.

Edvaldo considera a sinalização importante. “Eu acho que é fundamental”, afirma. Segundo ele, informar que uma publicação foi produzida por inteligência artificial demonstra transparência e ajuda o usuário a entender como aquele conteúdo foi construído. Mas ele próprio faz a ressalva que talvez seja mais importante para o eleitor: “Não é suficiente, porque você pode ter um conteúdo gerado por IA ruim, ou falando uma mentira, ou fazendo uma fake news”.

É uma diferença importante. Saber que uma imagem foi criada por IA não responde se a informação representada naquela imagem é verdadeira. Saber que uma voz foi sintetizada não explica se a frase atribuída a alguém foi inventada. O rótulo informa a origem tecnológica do conteúdo, mas não substitui a verificação do conteúdo em si. Talvez seja justamente aí que a inteligência artificial esteja criando uma nova espécie de alfabetização digital: não basta mais saber usar a ferramenta, também é preciso entender o que ela pode fabricar.

E se o anúncio estiver logo ao lado?

Existe ainda uma pessoa que talvez não esteja pensando em eleições quando abre o feed, mas que acompanha tudo isso com bastante atenção: o anunciante. Se uma marca compra espaço publicitário em uma plataforma, ela não escolhe necessariamente cada conteúdo que aparecerá ao lado do anúncio. A tecnologia entra justamente para tentar classificar esse ambiente e impedir associações consideradas inadequadas. É aí que entram conceitos como brand safety, adequação de mídia e classificação automatizada de conteúdo.

Edvaldo explica que esse trabalho envolve analisar não apenas métricas tradicionais de publicidade, mas também o tipo de conteúdo que recebe o investimento. “Aonde eu estou colocando o meu dinheiro, que tipo de conteúdo eu estou financiando”, afirma. Na prática, uma campanha pode alcançar muita atenção e, ainda assim, aparecer em um contexto que o anunciante não gostaria de financiar.

O exemplo dado por ele não envolve uma eleição, mas ajuda a entender o problema. Segundo Edvaldo, em uma campanha de uma marca global de bebidas, uma análise de 15 dias identificou que 5% da campanha estava sendo direcionada a conteúdo voltado para crianças. O conteúdo era classificado pelas plataformas como seguro, mas não era adequado para aquela marca. O caso mostra como uma classificação aparentemente positiva pode não responder à pergunta mais importante: seguro para quem?

No ambiente eleitoral, a questão ganha outra dimensão. Uma plataforma precisa lidar ao mesmo tempo com o conteúdo, com quem publicou, com o contexto, com as regras eleitorais e com a velocidade de circulação. O anunciante, por sua vez, precisa entender onde sua publicidade está aparecendo. E o usuário continua no meio disso tudo, tentando descobrir se aquele vídeo que acabou de assistir aconteceu de verdade.

Talvez a pergunta seja: quem fez isso?

Durante décadas, uma fotografia ou uma gravação funcionaram como registros que ajudavam a comprovar que determinada coisa havia acontecido. Não eram provas perfeitas, evidentemente, mas carregavam uma espécie de presunção de realidade. Agora, uma imagem pode ser fabricada em segundos, uma voz pode ser reproduzida e um vídeo pode colocar uma pessoa em uma situação que nunca existiu.

O curioso é que a tecnologia não precisa ser perfeita para mudar nossa relação com a informação. Basta que ela seja boa o suficiente para produzir dúvida. Se um eleitor olha para um vídeo e pensa “isso pode ser IA”, a tecnologia já alterou a maneira como aquela informação será recebida, mesmo que o vídeo seja verdadeiro. Da mesma maneira, um conteúdo falso pode continuar circulando porque parece suficientemente plausível para não despertar desconfiança.

Talvez seja por isso que Edvaldo fale tanto em responsabilidade compartilhada. Para ele, plataformas, anunciantes, jornalistas e usuários têm papéis diferentes diante desse cenário. “Você precisa ter tecnologia para olhar isso, porque é praticamente impossível acompanhar manualmente toda a internet”, afirma. A responsabilidade, portanto, não termina quando uma plataforma cria um rótulo ou quando a Justiça Eleitoral publica uma regra.