A Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon), representando o governo federal, juntamente com o Ministério Público Federal (MPF), emitiram uma recomendação conjunta ao X (antigo Twitter) após denúncias sobre o uso indevido do Grok, assistente de inteligência artificial da plataforma. Usuários estariam utilizando a ferramenta para criar conteúdos sintéticos de natureza sexualizada com imagens de pessoas reais, sem o devido consentimento.

Reportagens nacionais e internacionais revelaram que a tecnologia vem sendo empregada para produzir deepfakes — imagens falsas e manipuladas — com teor sexual, erótico ou pornográfico, envolvendo mulheres, crianças e adolescentes reais.

"Dada a seriedade das ocorrências, elas podem impactar, de forma concomitante, a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais indisponíveis, em especial de mulheres, crianças e adolescentes", destacaram as instituições.

O MPF, a ANPD e a Senacon deram prazo até 27 de janeiro para que a empresa informe a adoção de medidas técnicas, administrativas e de governança de dados capazes de impedir que o Grok produza conteúdos representando crianças e adolescentes em contextos sexualizados ou erotizados, ou adultos sem autorização. Isso inclui manipulação de fotografias, imagens reais, vídeos ou arquivos de voz.

Caso a recomendação não seja atendida no prazo, as entidades poderão adotar providências nas esferas administrativa e judicial, incluindo medidas previstas no Marco Civil da Internet, no Código de Defesa do Consumidor e na Lei Geral de Proteção de Dados.

Foi recomendada também a suspensão imediata de contas envolvidas na produção desse tipo de material via Grok. As instituições solicitaram que a suspensão seja contínua e comprovada por meio de relatórios mensais apresentados pela empresa, "como evidência de cumprimento de seu dever de evitar a prática de condutas especialmente graves no ambiente digital que controla".

Além disso, as recomendações incluem:

- Criar, em até 30 dias, procedimentos técnicos e operacionais claros e eficazes para identificar, revisar e remover conteúdos já produzidos e ainda disponíveis na plataforma X, quando gerados pelo Grok a partir de comandos de usuários;

- Implementar mecanismo transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos, inclusive para envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais, especialmente na criação de conteúdos sintéticos sexualizados sem consentimento, assegurando resposta adequada e em prazo razoável;

- Elaborar relatório de impacto à proteção de dados pessoais específico para as atividades de geração de conteúdo sintético a partir da manipulação de fotos, imagens, vídeos ou áudios enviados por usuários ao Grok, sempre que esses dados permitam identificar direta ou indiretamente uma pessoa;

- Aplicar, com urgência e efetividade, as políticas relacionadas à nudez não consensual e à exploração sexual de menores, já anunciadas como vigentes perante os usuários do X.

Foto: https://depositphotos.com/