Ministério das Mulheres cobra regulação da IA após caso de nudez falsa

Em nota, o Ministério das Mulheres expressou séria preocupação em relação à utilização de ferramentas de inteligência artificial, como o Grok, ferramenta da rede social X, para a criação e disseminação não autorizada de conteúdos eróticos ou de nudez.

"A tecnologia não pode servir como instrumento de violência de gênero ou violação de direitos de crianças e adolescentes."

A pasta afirmou que a "produção de conteúdos sem consentimento fere o princípio constitucional da dignidade humana". Além disso, reforçou a urgência da aprovação do projeto de lei 2.338/2023, que cria um marco legal para a inteligência artificial (IA).

Marco legal para a inteligência artificial

Atualmente em análise por uma comissao especial na Câmara dos Deputados, o projeto de lei divide as aplicações em duas categorias: inteligência artificial e inteligência artificial generativa. No que tange aos direitos autorais, o projeto estipula que o uso livre de conteúdos protegidos seja permitido apenas para instituições de pesquisa, jornalismo, museus, arquivos, bibliotecas e organizações educacionais. A aplicação não pode ter fins comerciais e o material precisa ser obtido de forma legítima.

De autoria do senador Rodrigo Pacheco (PSD/MG), a proposta proíbe o desenvolvimento da IA para permitir a produção ou disseminação de material de abuso ou exploração de crianças e adolescentes.

Além do projeto de Pacheco, está em análise na Câmara o projeto de lei 3.066/2025, que em como objetivo o enfrentamento do uso de inteligência artificial (IA) e outras tecnologias digitais na produção de conteúdo pornográfico envolvendo crianças e adolescentes.

O texto estabelece pena de reclusão de três a seis anos, além de multa, para aqueles que utilizarem inteligência artificial na criação de representações digitais fictícias de crianças ou adolescentes em situações de exploração sexual, mesmo que não haja envolvimento de pessoas reais.

Manipulação de fotos

Segundo pesquisa realizada pela Genevieve Oh, que monitora redes sociais e deepfakes, o Grok gera 85 vezes mais imagens de pessoas sexualizadas por hora que outros sites. Foram 6,7 mil posts por hora no X gerados pelo chatbot, enquanto outras cinco plataformas avaliadas geraram 79, no período de 24 horas entre 5 e 6 de janeiro.

A consultoria também calculou que do total de imagens geradas pelo Grok, 85% são sexualizadas.

O Grok, lançado em 2023, afirma que o aplicativo impede o "uso da imagem de alguém, incluindo sua imagem fotorrealista ou voz, sem sem consentimento, de maneiras que possam confundir a autenticidade. Contudo, não faltam na rede casos de nudez gerada pela inteligência artificial.

Em 1º de janeiro deste ano, a jornalista Julie Yukari foi vítima de montagens feitas a partir de sua foto. No X, diversos perfis pediram à inteligência artificial Grok que ela aparecesse com microkini, utilizando lingerie e até mesmo montagens mostrando uma versão da vítima totalmente sem roupa.

A vítima fez boletim de ocorrência por registro não autorizado de intimidade sexual.

Resposta do PT

Na última quarta (14), o PT solicitou à Procuradoria da República do Distrito Federal e à Secretaria Nacional do Consumidor (Senacom) que abram uma investigação sobre as práticas de uso de imagem de pessoas sem seu consentimento para a produção de conteúdos sintéticos de mídia que simulam condutas sexualizadas e íntimas.

O ofício contou com a assinatura de 36 deputados do PT, dentre eles, Erika Kokay (DF), Lindbergh Farias (RJ) e Zeca Dirceu (PR).

Os deputados afirmaram no documento que "mais do que abusar da imagem, a utilização da imagem para produzir mídias sexualizadas atenta à dignidade, sobretudo de mulheres e crianças e adolescentes configurando-se uma flagrante discriminação direta".

Leia a íntegra do ofício.

Confira a integra da nota

Ministério das Mulheres manifesta profunda preocupação com o uso de ferramentas de Inteligência Artificial, como o GROK, na criação e disseminação não consensual de conteúdos eróticos ou de nudez. A tecnologia não pode servir como instrumento de violência de gênero ou violação de direitos de crianças e adolescentes.

A produção de conteúdos sem consentimento fere o princípio constitucional da dignidade humana. Diante dos riscos das tecnologias emergentes, a expansão da IA sem parâmetros éticos reforça a urgência do projeto de lei 2.338/2023, atualmente em análise na Câmara dos Deputados.

A consolidação de um ambiente digital seguro exige o fortalecimento do marco legal e a responsabilização rigorosa de práticas abusivas. Nenhuma plataforma ou modelo de Inteligência Artificial pode operar à margem da lei.