Janja é vítima de vídeo falso com inteligência artificial

Um vídeo que circula nas redes sociais usa inteligência artificial para atacar a primeira-dama Janja da Silva e o presidente Lula. Na montagem, Janja é dublada por uma voz que chama para uma página na internet com gastos não comprovados atribuídos a ela. A página foi criada pelo deputado estadual paulista Guto Zacarias (União), do Movimento Brasil Livre (MBL). A dublagem também faz ofensas pessoais contra Lula. Os dados do site citado não são oficiais, baseiam-se em links de notícias, checadas ou não, enviados por leitores.

Enquanto esse tipo de conteúdo se espalha, o Congresso caminha a passos lentos na criminalização desse tipo de adulteração de imagens, as chamadas "deepfakes". No Senado, há pelo menos um projeto de lei (PL 2024/24) que criminaliza o desenvolvimento, adulteração ou manipulação de conteúdo digital, para fins de representação falsa e não autorizada de terceiros, que objetive causar prejuízo ou obter vantagem indevida. A proposta foi apresentada em maio do ano passado e, desde então, aguarda distribuição para comissões. Ou seja, não deu sequer o primeiro passo na tramitação.

Segundo o autor do projeto, senador Alessandro Vieira (MDB-SE), a intenção é estabelecer regras para o uso das novas tecnologias de inteligência artificial, exigindo que o desenvolvedor de conteúdos artificiais informe claramente o tipo de informação produzida e que as plataformas digitais aprimorem seus mecanismos para mitigar a propagação de conteúdo inautêntico. O uso de deepfakes foi expressamente proibido nas eleições do ano passado pelo Tribunal Superior Eleitoral (TSE).

Nesta semana a Câmara deve votar o Projeto de Lei 3821/24, que acrescenta ao Código Penal o crime de manipulação, produção ou divulgação, por qualquer meio, de conteúdos falsos de nudez ou atos sexuais gerados por inteligência artificial ou outras tecnologias, com o objetivo de humilhar, intimidar ou constranger. A prática é chamada de "deepnude".

Em dezembro, o Senado aprovou o projeto de regulamentação da inteligência artificial. O texto, relatado pelo senador Eduardo Gomes (PL-TO), cria o Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA), que será coordenado pela Autoridade Nacional de Proteção de Dados (ANPD) junto a outros órgãos do Executivo. O SIA deverá criar a regulação e fiscalizar seu cumprimento. A proposta deve ser analisada este ano pela Câmara.