Governo exige que X bloqueie imagens sexualizadas geradas pelo Grok

O Ministério Público Federal (MPF), a Autoridade Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) consideraram insuficientes as medidas apresentadas pela plataforma X para conter o uso indevido de sua ferramenta de inteligência artificial, o Grok. Segundo os órgãos, a tecnologia tem sido utilizada para criar e disseminar imagens sexualizadas de pessoas sem autorização.

No mês passado, as três instituições recomendaram que a empresa adotasse procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos gerados pela ferramenta a partir de comandos de usuários. Em resposta, o X informou ter removido milhares de publicações e suspendido centenas de contas, além de anunciar a adoção de medidas de segurança.

De acordo com nota conjunta, porém, a plataforma não apresentou evidências concretas, relatórios técnicos ou mecanismos de monitoramento que comprovem a eficácia das ações. Testes preliminares realizados pelas equipes técnicas indicariam a continuidade da geração e circulação de conteúdos considerados inadequados.

Em nova manifestação divulgada nesta quarta-feira (11), MPF, ANPD e Senacon determinaram que o X implemente imediatamente medidas efetivas para impedir a produção, pelo Grok, de conteúdo sexualizado envolvendo crianças e adolescentes ou adultos sem consentimento. As instituições também exigiram informações detalhadas sobre as providências adotadas pela empresa.

O MPF determinou o envio de relatórios mensais, a partir de fevereiro, com dados sobre a remoção de conteúdos nocivos e a suspensão de contas envolvidas. Em caso de descumprimento, a empresa poderá sofrer multa diária, medidas investigatórias mais severas e eventual ação judicial.

A ANPD mantém procedimento administrativo sobre o caso e determinou que os mecanismos de proteção contra uso indevido da ferramenta sejam aplicados a todas as versões e modalidades do Grok. Já a Senacon exigiu comprovação das medidas adotadas e o envio de relatório técnico com dados sobre identificação, moderação e remoção de conteúdos irregulares.