AGU notifica Google para remover sites que criam nudes falsos com IA

A Advocacia-Geral da União (AGU) notificou o Google, na quarta-feira (1º), para que a empresa retire dos resultados de busca páginas que usam inteligência artificial e deepfake para criar imagens sexuais falsas de pessoas reais, no prazo de até cinco dias. A medida tem como alvo os chamados sites de "nudify", ferramentas que simulam nudez sem consentimento a partir de fotos comuns.

A iniciativa partiu de um pedido da Secretaria de Comunicação Social da Presidência da República (Secom) e se apoia em um estudo da Fundação Getulio Vargas do Rio de Janeiro (FGV-Rio). A pesquisa mostra que mulheres, crianças e adolescentes estão entre os principais alvos desse tipo de violência digital e aponta um aumento nas buscas por termos ligados à chamada "nudificação" no Brasil desde 2023.

Na notificação extrajudicial, encaminhada pela Procuradoria Nacional da União de Defesa da Democracia (PNDD), a AGU deu prazo de cinco dias para que o Google adote duas providências. A primeira é a retirada de uma lista inicial com mais de 40 links de páginas desse tipo. A segunda é a criação de filtros algorítmicos para evitar que novos sites semelhantes sejam indexados futuramente.

O órgão argumenta que, embora a responsabilidade direta recaia sobre quem cria e divulga o conteúdo ilícito, a presença dessas ferramentas nos resultados do buscador amplia o alcance do material e facilita o acesso em massa a práticas que atingem, principalmente, mulheres e menores de idade.

Na avaliação da AGU, a indexação dessas páginas contribui para o crescimento de um ambiente de violência online e reforça uma dinâmica de misoginia nas redes, agravada pelo uso de inteligência artificial para a criação de deepfakes de pessoas reais.

A notificação também cita entendimento do STF segundo o qual plataformas podem ser responsabilizadas quando, mesmo cientes de conteúdos ilícitos, deixam de agir para removê-los. O documento acrescenta que há um dever de cuidado das empresas de tecnologia na prevenção à circulação desse tipo de material, independentemente de provocação prévia.

A AGU fundamentou sua argumentação no dever constitucional de proteger crianças e adolescentes, além de dispositivos do Marco Civil da Internet, da Lei Geral de Proteção de Dados (LGPD), do Estatuto Digital da Criança e do Adolescente e dos códigos Civil, Penal e de Defesa do Consumidor.