Governo cobra X por deepfakes pornográficos gerados pelo Grok

O governo federal expediu recomendações à empresa controladora da plataforma digital X (antigo Twitter) após denúncias sobre o uso do Grok, ferramenta de inteligência artificial integrada à rede, na geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais.

As recomendações foram emitidas de forma conjunta pela Agência Nacional de Proteção de Dados (ANPD), pela Secretaria Nacional do Consumidor (Senacon), do Ministério da Justiça e Segurança Pública, e pelo Ministério Público Federal (MPF).

Segundo o governo, usuários relataram que a ferramenta estaria sendo usada para produzir deepfakes, técnica que cria imagens falsas com base em rostos e corpos de pessoas reais.

De acordo com as acusações, embasadas em reportagens nacionais e internacionais e também em testes feitos pelas próprias instituições, o Grok teria sido utilizado de forma ilegal para produzir imagens com conotação pornográfica e erotizada, envolvendo mulheres, crianças e adolescentes.

Também foram registrados casos de mulheres e crianças nuas ou com roupas íntimas, com acesso aberto a qualquer usuário, o que amplia a exposição indevida e os riscos de dano às vítimas retratadas.

Atuação coordenada

A gravidade dos relatos motivou atuação coordenada entre ANPD, MPF e Senacon. O governo afirma que a situação pode impactar simultaneamente a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos e coletivos, especialmente de mulheres, crianças e adolescentes.

Recomendações do governo à plataforma

Entre as recomendações conjuntas, as instituições solicitaram:

• a implementação imediata de medidas para impedir que o Grok gere novas imagens, vídeos ou áudios que representem crianças e adolescentes em contextos sexualizados ou erotizados.
• o bloqueio da geração de conteúdos que retratem pessoas adultas identificadas ou identificáveis, em contextos sexualizados, sem autorização, independentemente do plano, versão ou modalidade da ferramenta.
• que se crie, em até 30 dias, procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos desse tipo já existentes no X, quando gerados pelo Grok a partir de comandos de usuários;
• faça a suspensão imediata das contas envolvidas na produção dessas imagens, tanto envolvendo crianças e adolescentes quanto adultos sem consentimento, e apresente relatórios mensais como prova de cumprimento;
• implemente um mecanismo transparente, acessível e eficaz para denúncias e exercício de direitos por titulares de dados, com resposta adequada em prazo razoável;
• elabore um relatório de impacto à proteção de dados pessoais, específico para atividades de geração de conteúdo sintético a partir de fotos, imagens, vídeos ou áudios enviados por usuários ao Grok.

Possibilidade de novas medidas

O governo alerta que, caso as recomendações não sejam cumpridas ou sejam adotadas de forma insuficiente para reduzir os riscos, outras medidas poderão ser consideradas, tanto na esfera administrativa quanto judicial, para proteger os cidadãos, com atenção especial a mulheres, crianças e adolescentes.

As recomendações foram expedidas dentro das competências de cada órgão, que seguirão com seus procedimentos próprios e irão analisar as respostas da empresa e eventuais providências adotadas.

Leia a íntegra da nota técnica.

Leia a íntegra do documento assinado pelas instituições.