KUALA LUMPUR, Malásia (AP) — Malásia e Indonésia se tornaram os primeiros países a bloquear o Grok , o chatbot de inteligência artificial desenvolvido pela xAI de Elon Musk, depois que as autoridades disseram que ele estava sendo usado indevidamente para gerar imagens sexualmente explícitas e sem consentimento.

Essas medidas refletem a crescente preocupação global com ferramentas de IA generativa capazes de produzir imagens, sons e textos realistas, enquanto as salvaguardas existentes não conseguem impedir seu uso indevido. O chatbot Grok, acessado pela plataforma de mídia social X de Musk , tem sido criticado por gerar imagens manipuladas, incluindo representações de mulheres de biquíni ou em poses sexualmente explícitas, bem como imagens envolvendo crianças.

Autoridades reguladoras dos dois países do Sudeste Asiático afirmaram que os controles existentes não estavam impedindo a criação e disseminação de conteúdo pornográfico falso , especialmente envolvendo mulheres e menores. O governo da Indonésia bloqueou temporariamente o acesso ao Grok no sábado, seguido pela Malásia no domingo.

"O governo considera os deepfakes sexuais não consensuais uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital", afirmou o ministro das Comunicações e Assuntos Digitais da Indonésia, Meutya Hafid, em comunicado divulgado no sábado.

O ministério afirmou que a medida visa proteger mulheres, crianças e a comunidade em geral de conteúdo pornográfico falso gerado por inteligência artificial.

ARQUIVO - Operários instalam iluminação em um letreiro em forma de "X" no topo da sede da empresa, anteriormente conhecida como Twitter, no centro de São Francisco, em 28 de julho de 2023. (Foto AP/Noah Berger, Arquivo)

As conclusões iniciais mostraram que o Grok carece de salvaguardas eficazes para impedir que os usuários criem e distribuam conteúdo pornográfico com base em fotos reais de residentes indonésios, afirmou Alexander Sabar, diretor-geral de supervisão do espaço digital, em um comunicado separado. Ele disse que tais práticas representam um risco de violação da privacidade e dos direitos de imagem quando as fotos são manipuladas ou compartilhadas sem consentimento, causando danos psicológicos, sociais e à reputação.

Em Kuala Lumpur, a Comissão de Comunicações e Multimídia da Malásia ordenou no domingo uma restrição temporária ao Grok, após o que classificou como "uso indevido repetido" da ferramenta para gerar imagens obscenas, sexualmente explícitas e manipuladas sem consentimento, incluindo conteúdo envolvendo mulheres e menores.

O órgão regulador afirmou que as notificações enviadas este mês à X Corp. e à xAI, exigindo medidas de segurança mais rigorosas, receberam respostas que se basearam principalmente em mecanismos de denúncia dos usuários.

“A restrição é imposta como medida preventiva e proporcional enquanto os processos legais e regulatórios estão em andamento”, afirmou, acrescentando que o acesso permanecerá bloqueado até que salvaguardas eficazes sejam implementadas.

Lançado em 2023, o Grok é gratuito para uso no X. Os usuários podem fazer perguntas à plataforma de mídia social e marcar publicações que criaram diretamente ou respostas a publicações de outros usuários. No verão passado, a empresa adicionou um recurso de gerador de imagens, o Grok Imagine, que incluía um chamado "modo picante" capaz de gerar conteúdo adulto.

As restrições no Sudeste Asiático surgem em meio ao crescente escrutínio do Grok em outros lugares, incluindo na União Europeia, Reino Unido, Índia e França. Na semana passada, o Grok limitou a geração e edição de imagens a usuários pagantes após uma reação global negativa a deepfakes sexualizadas de pessoas, mas os críticos dizem que a medida não resolveu completamente o problema.

Uma tentativa da Associated Press de solicitar um comentário por e-mail à xAI resultou em uma resposta automática do endereço de e-mail de suporte à mídia, que dizia: "A mídia tradicional mente". Essa foi a mesma mensagem recebida de um e-mail diferente quando solicitado um comentário sobre a reação negativa global.