Por que todos os conteúdos gerados por IA devem rotulados na internet

Quem já assistiu "A Origem" (Inception) sabe que criar uma realidade paralela não era tão simples. Em uma mistura de ficção e romance, a trama nos mostra como implantar uma ideia na mente de alguém, uma simples ideia, exige uma operação quase cirúrgica. Com uma equipe que junta desde um arquiteto de sonhos, um falsificador, um químico e um ladrão de cofres, as cenas demonstram o desafio que é entrar em cada camada profunda que a mente humana pode possuir.

Lá, criar uma ilusão demandava um esforço clandestino, com um orçamento digno de Hollywood. Longe das telas, porém, com tecnologias como o Veo 3 (Google), esse trabalho de sonho virou tarefa de clique. A simulação do real, que antes era domínio de roteiristas e cineastas, agora cabe em um prompt. Criar um vídeo hiper-realista, inclusive de uma memória que nunca existiu, deixou de ser ficção científica. O que era sonho dentro de sonho, virou renderização em segundos.

A novidade não é só estética. Modelos atuais de vídeo já entregam áudio nativo, sincronização de fala e geração em 1080p, além de integrações com marcas dágua digitais como a SynthID, pensadas para sinalizar que o conteúdo é sintético. Plataformas que oferecem esses recursos vêm ampliando o acesso e a velocidade de geração, o que barateia experiências hiper realistas e, ao mesmo tempo, aumenta a urgência de políticas de rotulagem claras para o público.

E se no longa de Christopher Nolan o dilema era o quão possível seria implantar uma ideia sem que a pessoa percebesse, com as deepfakes de inteligência artificial, o alerta é ainda mais urgente: quem está implantando ideias em milhões de mentes, com aparência de verdade, e saindo impune por isso?

Quando o falso convence

Se antes era preciso desconfiar de manchetes sensacionalistas, hoje precisamos desconfiar dos nossos próprios olhos. As deepfakes, alimentadas por inteligência artificial generativa, não apenas imitam rostos e vozes com perfeição, elas fabricam evidências visuais de eventos que nunca aconteceram. Uma distorção calculada da realidade, com a estética do real e conteúdo da ficção.

E essa capacidade de simular o impossível já tem gerado desafios concretos:

Nas eleições, um novo capítulo no manual da desinformação será iniciado. Não basta mais manipular frases tiradas de contexto: agora é possível criar do zero um escândalo visual. Um vídeo pode mostrar uma candidata defendendo algo que jamais disse, um ex-presidente em uma reunião que nunca existiu, um militante cometendo um crime que nunca ocorreu. O tempo entre a viralização da mentira e a checagem do fato costuma ser maior do que o tempo necessário para formar uma convicção. Em contextos polarizados, segundos bastam para selar uma sentença moral. E como operam na lógica do engajamento, o dano já terá sido feito, mesmo que o conteúdo seja apagado.

No Brasil, a Justiça Eleitoral já deu o tom. O TSE proibiu deepfakes e determinou aviso explícito quando houver uso de IA na propaganda eleitoral, exigindo transparência para proteger o voto informado. Lá fora, a União Europeia incluiu no AI Act a obrigação de marcar saídas sintéticas em formato legível por máquina, justamente para que plataformas e usuários possam reconhecer quando algo foi gerado ou manipulado por IA. Essas balizas regulatórias convergem na mesma direção: rótulo claro e verificável.

No consumo, a manipulação não é menos poderosa, apenas mais sorrateira. Avatares digitais, com belezas impossíveis e rotinas perfeitamente roteirizadas, já influenciam tendências de moda, comportamento e estética. Produtos são recomendados por vozes clonadas. Perfis com milhões de seguidores simulam vidas que não existem, para vender estilos de vida inalcançáveis. Quando tudo pode ser simulado, o desejo vira um efeito colateral da ilusão e o mercado, um teatro de sombras onde se consome mais pelo espelho do que pela necessidade.

O rótulo também é defesa do consumidor. Quando um avatar artificial recomenda produtos ou quando uma rotina perfeita é, na verdade, roteirizada por IA, a informação de origem ajuda a separar inspiração de ilusão comercial. Plataformas que pedem divulgação de uso de IA pelos criadores e que leem credenciais de conteúdo no upload já começam a dar esse passo, embora a aplicação ainda varie. É um campo onde a transparência precisa virar padrão e não exceção.

E o impacto reputacional completa o tripé. Uma fala fabricada, um gesto simulado, uma denúncia digital falsa: o suficiente para demolir uma reputação. Em um cenário de alta exposição e julgamento instantâneo, a possibilidade de produzir provas falsas vira arma. A máxima "quem não deve, não teme" se torna obsoleta quando se pode fabricar a culpa. A dúvida, nesse contexto, deixa de ser saudável e se transforma em corrosiva: enfraquece instituições, alimenta cinismos, anula qualquer apelo à verdade.

Aqui, rótulo e trilha de procedência andam juntos. Não basta um aviso textual. É preciso que o arquivo traga metadados imutáveis que contem a sua história, da geração à edição, para sustentar disputas de autoria e pedidos de remoção. Iniciativas como o padrão C2PA e as Content Credentials caminham para isso, com adoções crescentes por grandes plataformas. A promessa é permitir que qualquer pessoa clique, veja quem criou, com qual ferramenta, e decida se confia.

O mais perigoso nas deepfakes não é sua capacidade técnica, mas sua eficiência social. Elas desestabilizam o pacto básico de convivência: o de que existe um mundo compartilhado, verificável, que nos permite dialogar sobre o que acontece. Quando a realidade se torna personalizável ao gosto do freguês, o diálogo se transforma em disputa de versões e a verdade se converte em moeda especulativa.

Quando o verdadeiro se revela

Se plataformas permitem que qualquer pessoa publique conteúdo audiovisual, elas também precisam assumir a responsabilidade por sinalizar o que é criação legítima e o que é simulação com intenção manipulativa. Assim como já existem rótulos obrigatórios para anúncios políticos nas próprias plataformas, precisamos de selos para conteúdos gerados por inteligência artificial.

O caminho prático é de camadas. Primeiro, autodeclaração do criador no momento do upload. Segundo, detecção automática e leitura de credenciais pela plataforma. Terceiro, marcas dágua robustas embutidas na saída dos modelos. Quarto, um rótulo visível e consistente para o público. Esse desenho minimiza incentivos à omissão e reduz o risco de falsos negativos, ao mesmo tempo em que não criminaliza o uso legítimo de IA para criação artística, jornalística ou educativa.

E para a operacionalização:

• O usuário que publica um vídeo ou áudio precisa declarar, previamente, se utilizou ferramentas de IA;
• As plataformas devem adotar mecanismos para identificar, sinalizar e, quando necessário, remover publicações que não tenham sido rotuladas adequadamente.
• É essencial garantir também um canal funcional para denúncias, onde qualquer pessoa possa alertar sobre conteúdos suspeitos.

Para funcionar, é preciso enforcement transparente. Publicar relatórios periódicos de quantos conteúdos foram rotulados automaticamente, quantos foram corrigidos por denúncia pública e quantos sofreram recurso ajuda a calibrar confiança. Um canal de denúncias com prazos de resposta, combinado a auditorias independentes do sistema de rotulagem, desencoraja abusos e reforça a responsabilização de quem mascara deepfakes como se fossem flagrantes.

Não se trata de censura. Se trata de transparência em tempos de simulação automatizada. Afinal, se um rótulo é exigido em alimentos para alertar sobre sua composição ou data de validade, por que a origem de um vídeo manipulado por inteligência artificial deveria circular livremente como se fosse fato? O rótulo não veta a peça, apenas informa. Em casos de interesse público, como investigações jornalísticas com material sintético para demonstração, o aviso preserva o contexto.

O foco é transparência, não policiamento de linguagem. Políticas de plataformas já vão nessa direção, ao priorizar rotulagem e reduzir o alcance de conteúdo manipulado em lugar de remover.

Totens coletivos começam com convenções simples. Um ícone único para "gerado por IA", a mesma frase de aviso em todas as plataformas, e metadados padronizados que qualquer editor de vídeo ou rede social reconheça. O objetivo não é vencer a simulação, é enquadrá-la. Quando todos sabem que estão em um sonho, o sonho perde o poder de fingir que é realidade.

E se não quisermos viver presos em um sonho que não escolhemos sonhar tal como em "A Origem", precisamos criar totens coletivos: critérios públicos, éticos e sociais para distinguir o que é criação legítima e o que é manipulação. Porque, diferente do filme, aqui fora, a queda no limbo da desinformação pode ser real, coletiva e, especialmente, fatal.

O texto acima expressa a visão de quem o assina, não necessariamente do Congresso em Foco. Se você quer publicar algo sobre o mesmo tema, mas com um diferente ponto de vista, envie sua sugestão de texto para [email protected].