O crescimento de deepfakes e peças desinformativas é um sintoma da expansão do uso de IA generativa no ambiente on-line. Na contramão desse problema, pesquisadores da Universidade Estadual de Campinas desenvolveram uma ferramenta capaz de identificar deepfakes e conteúdos manipulados.

Em março do ano passado, um vídeo com o meio-campista do Fluminense, Paulo Henrique Ganso, "viralizou". No conteúdo, o atleta divulgou uma campanha de doações de camisas oficiais do clube. Para obter o prêmio, havia um link que direcionava o torcedor a uma página — supostamente o site do time. Nesse link, eram solicitados dados pessoais e valores para custear o frete da camisa. O problema é que o vídeo era um deepfake, onde a fala do jogador foi completamente alterada, configurando um golpe.

Segundo um estudo inédito publicado pelo Observatório Lupa, casos de deepfake e peças desinformativas geradas por IA cresceram entre 2024 e 2025. No primeiro ano mencionado, 39 conteúdos deste tipo foram alvo de checagens da agência, equivalente a 4,6% do total de checagens naquele ano. Em 2025, o número saltou para 159, que representou 20,4% das checagens, ou seja, um aumento de aproximadamente 308% no número absoluto de casos.

O levantamento também mostrou uma mudança na principal tendência das manipulações feitas por inteligência artificial. Em 2024, 14 dos 39 – a maioria naquele ano – estavam relacionados a golpes financeiros, enquanto 13 eram sobre política. Com o aumento vertiginoso, os temas intensificaram, mas inverteram a ordem. Assuntos relacionados a política passaram a ser os maiores alvos, com 71 dos 159, enquanto os relacionados a golpes foram 48.

A incisão do mau uso das ferramentas de IA intensifica as preocupações do Tribunal Superior Eleitoral (TSE) em um ano eleitoral. Durante o evento Seta Debate, em maio deste ano, o ministro Nunes Marques, presidente do TSE, alertou que a inteligência artificial mudou a forma como conteúdos são criados, distribuídos e recebidos, criticando as técnicas que realizam mudança de rosto, clonagem de voz e alteração das palavras.

"Uma deepfake lançada na véspera do 2º turno pode atingir milhões de eleitores antes que qualquer decisão judicial seja proferida", ressaltou na oportunidade.

Por outro lado, pesquisadores da Unicamp, em parceria com especialistas de Singapura e da China, desenvolveram uma ferramenta de inteligência artificial capaz de identificar deepfakes em ambientes abertos, ou seja, reconhecendo falhas em geradores mesmo sem ter sido treinada com aqueles elementos.

A premissa para elaborar um programa com essas habilidades, que visam identificar falsificações, é entender que não se "conhece a priori todas as formas possíveis que alguém pode falsificar um conteúdo", afirma o professor Anderson Rocha, co-fundador e coordenador do Laboratório de Inteligência Artificial, Recod.ai, do Instituto de Computação da Unicamp, em entrevista à Sputnik Brasil.

O Open-Set DeepFake Detection (OSDFD), ao invés de depender apenas de deepfakes ou exemplos já gerados, utiliza imagens reais como referência para que a IA aprenda padrões de normalidade, como a textura de pele, iluminação e sombra como elementos de um processo analógico, não criado por máquina.

Atualmente, o trabalho alcançou êxito em reconhecimento de 90% em bases de dados desconhecidas.

"Quais são os casos de erro? Pode acontecer que naquele tipo de falsificação que ele olhou, não tinha muito essas inconsistências de iluminação, de sombra, de textura, ou mesmo o ruído ali não era muito visível, digamos assim", explica.

Segundo Rocha, os 10% que ainda separam o trabalho de máxima eficácia representam um bom trabalho que os pesquisadores têm pela frente. Ele espera, inclusive, que em seis meses a um ano este lastro seja reduzido pela metade.

O professor afirma que um dos objetivos do projeto é democratizar o acesso à ferramenta, ou seja, que o programa que atualmente opera em servidores fique mais "leve" para rodar rapidamente em celulares. "É um primeiro objetivo", destaca.

De acordo com o especialista, a ferramenta deveria funcionar como um filtro acoplado ao WhatsApp, onde "o usuário possa clicar e pedir para verificar um determinado conteúdo e ele [o programa] apontar: olha, acho que esse conteúdo aqui é falsificado, fique de olho", exemplifica.

"A gente, nesse momento, está desenvolvendo um filtro inicial, ainda não para deepfake, a gente está fazendo um primeiro para golpes, porque a gente tem muitos casos de golpes via WhatsApp, amante falso, pedido de doação, pedido de depósito de dinheiro para membro familiar", contextualiza. Neste, o sistema é similar ao citado pelo pesquisador: o programa identifica a suspeita e emite um alerta ao usuário.

Rocha salienta que é necessário que as pessoas disponham de ferramentas de checagem no ambiente on-line, para mitigar golpes financeiros e desinformações.

"As pessoas têm que saber que esse tipo de tecnologia existe, esse tipo de golpe existe, esse tipo de falsificação existe, de modo que elas prestem mais atenção naquilo que elas veem, naquilo que elas ouvem, naquilo que elas leem. Mas, ao mesmo tempo que é importante a educação midiática, a educação tecnológica, é importante também que as pessoas possam ter acesso a ferramentas rápidas de checagem", finaliza.