O crescimento de deepfakes e peças desinformativas é um sintoma da expansão do uso da inteligência artificial generativa no ambiente on-line. Na contramão desse problema, pesquisadores da Universidade Estadual de Campinas (Unicamp) desenvolveram uma ferramenta capaz de identificar deepfakes e conteúdos manipulados.

A premissa para elaborar um programa com essas habilidades é entender que "não se conhece a priori todas as formas possíveis de falsificar um conteúdo", diz o professor Anderson Rocha, cofundador e coordenador do Laboratório de Inteligência Artificial, Recod.ai, do Instituto de Computação da Unicamp, em entrevista exclusiva à Sputnik Brasil.

O Open-Set DeepFake Detection (OSDFD), em vez de depender apenas de deepfakes ou exemplos já gerados, usa imagens reais como referência para associar textura de pele, iluminação e sombra a processos análogicos, e não a criações de uma máquina. Atualmente, o êxito em base de dados desconhecidos chega a 90%.

O professor afirma que um dos objetivos do projeto é democratizar o acesso à ferramenta, ou seja, que o programa fique mais "leve" para rodar rapidamente em celulares. "É um primeiro objetivo."

De acordo com o especialista, a ferramenta deveria funcionar como um filtro acoplado ao WhatsApp (plataforma proibida na Rússia por extremismo), para que o usuário descubra logo a veracidade de uma postagem. Ao clicar, o programa "vai apontar: 'Olha, acho que esse conteúdo aqui é falsificado, fique de olho'", exemplifica.