A mãe de uma das crianças de Elon Musk  está processando sua empresa de IA, dizendo que seu chatbot Grok permitiu que os usuários gerassem imagens deepfake sexualmente exploradoras dela que lhe causaram humilhação e sofrimento emocional.

Ashley St. Clair, 27 anos, que se descreve como escritora e estrategista política, alega em uma ação movida na quinta-feira em Nova York contra o xAI que as imagens incluíram uma foto dela completamente vestida aos 14 anos que foi alterada para mostrá-la de biquíni, e outros mostrando-a como adulta em posições sexualizadas e usando um biquíni com suásticas. St. Clair é judia. Grok está na plataforma de mídia social X de Musk.

Os advogados do xAI não retornaram imediatamente os e-mails buscando comentários na sexta-feira. Na quarta-feira, seguindo reação global sobre imagens sexualizadas de mulheres e crianças, X anunciou que Grok não conseguiria mais editar fotos para retratar pessoas reais com roupas reveladoras, em lugares onde isso é ilegal.

Questionado sobre o processo e suas alegações, o xAI respondeu que apenas “Legacy Media Lies” foram enviados por e-mail à Associated Press.

Sta. Clair disse que relatou os deepfakes para X depois que eles começaram a aparecer no ano passado e pediu que fossem removidos. Ela disse que a plataforma primeiro respondeu que as imagens não violavam suas políticas. Em seguida, prometeu não permitir que imagens dela fossem usadas ou alteradas sem seu consentimento, disse ela.

Sta. Clair disse que a plataforma social retaliou contra ela removendo sua assinatura premium X e sua marca de verificação, não permitindo que ela ganhasse dinheiro com sua conta, que tem 1 milhão de seguidores, e continuando a permitir imagens falsas degradantes dela.

“Sofri e continuo a sofrer dor e sofrimento mental graves como resultado do papel do xAI na criação e distribuição dessas imagens alteradas digitalmente de mim,”, disse ela em um documento anexado ao processo. “Estou humilhado e sinto que esse pesadelo nunca vai parar enquanto Grok continuar a gerar essas imagens de mim.”

Ela também disse que vive com medo das pessoas que veem os deepfakes dela.

Sta. Clair é mãe do filho de Musk, Romulus, de 16 meses. Ela mora em Nova York, onde entrou com a ação na Suprema Corte do estado. Ela está buscando uma quantidade não revelada de danos por suposta inflição de sofrimento emocional e outras reivindicações, bem como ordens judiciais que impedem imediatamente o xAI de permitir mais deepfakes dela.

Mais tarde na quinta-feira, os advogados da xAI transferiram o processo para um tribunal federal em Manhattan, pedindo a um juiz para ouvir o caso lá. E no mesmo dia, a xAI também rebateu St. Clair em um tribunal federal no Distrito Norte do Texas, alegando que ela violou os termos de seu acordo de usuário xAI que exige que ações judiciais contra a empresa sejam movidas em um tribunal federal no Texas. Está buscando um julgamento de dinheiro não revelado contra ela.

X tem sede no Texas, onde Musk possui uma casa e sua montadora elétrica Tesla, com sede em Austin.

Carrie Goldberg, advogada de St. Clair, chamou o contraprojeto de movimento “jolting” que ela nunca havia visto por um réu antes.

“A Sra. St. Clair defenderá vigorosamente seu fórum em Nova York,” disse Goldberg em um comunicado. “Mas, francamente, qualquer jurisdição reconhecerá a gravidade das alegações da Sra. St. Clair — de que, ao fabricar imagens sexualmente explícitas não consensuais de meninas e mulheres, o xAI é um incômodo público e um produto não razoavelmente seguro.”

Em seu anúncio na quarta-feira, a X disse que estava implementando outras salvaguardas no Grok, incluindo a limitação da criação e edição de imagens a contas pagas, o que, segundo ela, melhoraria a responsabilidade. Ele disse que tinha tolerância zero para a exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado, e imediatamente removeria esse conteúdo e relataria relatos envolvidos em materiais de abuso sexual infantil às autoridades policiais.