A Advocacia-Geral da União (AGU) notificou extrajudicialmente a empresa Meta, controladora do Instagram, Facebook e WhatsApp, para que retire de suas plataformas robôs de inteligência artificial que simulam perfis com linguagem e aparência infantil e que permitem a manutenção de diálogos de cunho sexual com usuários.
Esses chatbots foram criados por usuários a partir da ferramenta "Meta IA Studio", disponibilizada pela empresa em suas redes, e utilizam inteligência artificial para simular conversas. Os robôs citados na representação são de autoria de usuários das plataformas.
A medida da AGU foi conduzida pela Procuradoria Nacional da União de Defesa da Democracia (PNDD), a partir de demanda da Secretaria de Comunicação Social da Presidência da República (Secom). A representação se baseou em reportagens da Agência Reuters e do Núcleo Jornalismo, que revelaram como a inteligência artificial da Meta permitia conversas de teor sexual com crianças.
No documento, a AGU solicita que a Meta retire todos os chatbots que utilizam linguagem infantil para propagar conteúdo sexual e que apresente esclarecimentos sobre as medidas adotadas, inclusive no Facebook, Instagram e WhatsApp, para garantir a proteção de crianças e adolescentes, com ações para que não tenham acesso a conteúdos sexuais ou eróticos.
"Tais chatbots têm potencialidade de alcançar um público cada vez mais amplo nas plataformas digitais, especialmente nas redes sociais da Meta, ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso. Essa situação oferece risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o efetivo exercício do direito à proteção integral [às crianças e adolescentes] previsto no art. 227 da Constituição Federal", afirma a AGU em trecho do documento.
A representação também aponta que, embora as plataformas digitais da Meta sejam permitidas a partir dos 13 anos, não há filtro etário eficaz para verificar se usuários entre 13 e 18 anos acessam conteúdos inadequados, como os gerados por esses chatbots.
O documento ainda destaca que esse tipo de conteúdo viola os próprios Padrões da Comunidade da Meta, que proíbem a erotização infantil, a exploração sexual infantil e conversas de caráter sexual em mensagens privadas com crianças.
A AGU ressalta, por fim, que na recente decisão sobre a constitucionalidade do artigo 19 do Marco Civil da Internet, o Supremo Tribunal Federal (STF) determinou que os provedores de aplicações de internet podem ser responsabilizados por conteúdos de terceiros quando, tendo ciência inequívoca de ilícitos, não promoverem a remoção imediata do material, além de manterem o dever de cuidado em situações de circulação massiva de conteúdos graves e ilegais.