A deputada Erika Hilton (Psol-SP) acionou o Ministério Público Federal e a Agência Nacional de Proteção de Dados contra a rede social X e sua ferramenta de inteligência artificial Grok pela criação de imagens sexualizadas de pessoas sem consentimento. Segundo a parlamentar, o ambiente propicia a distribuição de pornografia infantil em massa.
Na petição, Erika Hilton menciona a fabricação de deepfakes sexualizadas, eróticas e com conotação pornográfica de crianças e adolescentes a partir de comandos de fácil acesso. Ela também cita imagens da cantora Taylor Swift, a qual foi vítima de adulterações "ultra realistas".
"Em alguns casos, foram geradas imagens de mulheres e crianças nuas e em outros com roupas íntimas. Além disso, o X falhou ao não remover as imagens abusivas, vexatórias e violentas de seu material de treinamento de IA e em não banir usuários que solicitassem deepfakes com conteúdos ilegais, como os conteúdos artificiais que compreendam a exploração sexual infantil."
De acordo com a parlamentar, embora a empresa responsável pelo desenvolvimento tenha reconhecido publicamente a existência de falhas nos mecanismos de segurança, a ferramenta permanece ativa e acessível.
Na rede social, a deputada afirmou que a prática configura crime contra o direito de imagem. "Estou solicitando que o Grok e toda função de inteligência artificial da rede X sejam desabilitados em todo o território nacional até que tudo seja devidamente investigado", escreveu Erika Hilton. A ação pede que a rede seja multada em R$ 500 mil por cada dia em atividade após decisão judicial pela suspensão.