Sem uma régua comum, cada plataforma escolhe o teste em que passa

Em 21 de agosto, a Agência Nacional de Proteção de Dados fez uma pergunta que pode inaugurar uma fiscalização mais séria da inteligência artificial no Brasil. Ao notificar 22 plataformas digitais, lojas de aplicativos e ferramentas de IA generativa, a agência não pediu apenas a descrição de políticas internas. Exigiu que as empresas informassem filtros, bloqueios, sistemas de detecção e outros mecanismos de segurança e, no caso das ferramentas generativas, que demonstrassem a efetividade das salvaguardas contra a produção ou manipulação de conteúdo íntimo envolvendo terceiros.

O verbo escolhido é o correto. Existir não é funcionar. Declarar não é demonstrar.

A dificuldade começa na palavra seguinte: efetividade. Como duas empresas serão comparadas se cada uma puder escolher os exemplos, a amostra, a métrica e o limiar em que sua proteção será avaliada? Uma plataforma pode testar apenas pedidos explícitos. Outra pode incluir reformulações indiretas, erros ortográficos, gírias, combinações de texto e imagem e tentativas deliberadas de contornar o filtro. Ambas podem apresentar uma taxa elevada de sucesso e, ainda assim, ter enfrentado provas completamente diferentes.

Sem uma régua comum, a fiscalização corre o risco de reunir 22 respostas tecnicamente sofisticadas e institucionalmente incomparáveis.

O problema não é abstrato. Em 12 de agosto, a ANPD suspendeu as transmissões ao vivo do Discord até que a empresa demonstrasse a implementação e a efetividade de medidas adequadas aos riscos identificados para crianças e adolescentes. Em 25 de agosto, em processo distinto, a agência aplicou multa de R$ 153,7 milhões à ByteDance por irregularidades no tratamento de dados de crianças e adolescentes no TikTok. A área técnica registrou, entre outros pontos, a falta de evidências concretas de que as medidas adotadas eram efetivas.

A efetividade, portanto, já deixou de ser uma palavra de boas práticas. Ela passou a produzir consequências regulatórias. Por isso, precisa de um método público.

Imagine dois filtros. O primeiro bloqueia quase todos os pedidos óbvios, mas falha com frequência quando a solicitação é disfarçada. O segundo erra mais no total, porém intercepta melhor os casos de maior gravidade. Qual deles protege mais? Uma média única não responde. É preciso separar falsos negativos, quando um pedido proibido atravessa a salvaguarda, de falsos positivos, quando um contexto legítimo de denúncia, pesquisa, prevenção ou apoio é bloqueado. Também é preciso ponderar a gravidade dos erros. Uma falha rara, mas capaz de produzir dano extremo, não pode desaparecer dentro de uma média confortável.

A ANPD não precisa impor a mesma arquitetura a todas as empresas. Precisa exigir que todas respondam às mesmas perguntas fundamentais.

Um Protocolo Público de Teste de Salvaguardas poderia ter um núcleo comum e módulos específicos para cada tipo de serviço. O núcleo deveria registrar, no mínimo, a categoria e a gravidade dos riscos testados; o tamanho e a composição da amostra; as taxas de falsos negativos e falsos positivos; o desempenho diante de tentativas de evasão; o tempo necessário para detectar, bloquear e encaminhar casos a revisão humana; a identidade exata do modelo, da versão e da configuração avaliados; e a data do teste.

A versão importa. Uma ferramenta pode conservar o mesmo nome comercial enquanto muda o modelo, o sistema de moderação, o roteamento, os filtros ou as permissões. O resultado de janeiro não prova o comportamento de agosto. Mudanças materiais deveriam acionar reteste obrigatório, e a empresa deveria informar claramente quando uma salvaguarda foi modificada.

O protocolo também precisaria ser desenhado para o português usado no Brasil. Não basta traduzir um conjunto de testes estrangeiro. Gírias, abreviações, erros intencionais, imagens com texto, referências culturais e formas locais de evasão alteram o desempenho. Isso não exige publicar todos os casos de teste. Exige que a autoridade mantenha uma amostra reservada, rotativa e suficientemente diversa para impedir que as empresas apenas decorem a prova.

Transparência, nesse campo, não significa entregar um manual de burla. O próprio Tribunal Superior Eleitoral já oferece um precedente útil. A Portaria 463 determina que declarações unilaterais dos provedores não bastam para demonstrar conformidade. O TSE separou as informações em duas camadas: uma pública, com descrição funcional e resultados agregados, e outra restrita, com metodologias de teste, parâmetros, registros de execução e dados cuja divulgação poderia comprometer a segurança ou revelar vulnerabilidades.

A ANPD pode adotar lógica semelhante. O público deveria conhecer quais categorias foram testadas, qual versão foi avaliada, quais métricas foram utilizadas, quais limitações permaneceram e quais resultados agregados foram observados. A agência e auditores autorizados teriam acesso aos casos reservados, às tentativas de contorno, aos dados desagregados e às evidências técnicas necessárias para verificar as alegações.

Esse desenho evita dois erros opostos. O primeiro é confiar em relatórios produzidos pelas próprias empresas sem possibilidade real de comparação. O segundo é exigir publicidade irrestrita de detalhes que poderiam facilitar abusos. Entre a caixa-preta e a exposição imprudente existe espaço para supervisão técnica com prestação de contas.

Também é preciso definir o que acontece quando uma salvaguarda falha. Um protocolo sem consequência vira apenas um formulário melhor escrito. Dependendo da gravidade, o resultado deveria levar a plano de correção, limitação de funcionalidade, nova rodada de testes, auditoria independente ou suspensão temporária. O caso Discord já mostra que a ANPD pode vincular a reativação de um recurso à comprovação de medidas efetivas. O próximo passo é tornar mais previsível a prova exigida.

Nada disso produzirá segurança perfeita. Testes sempre cobrem uma parte do mundo real. Sistemas mudam, usuários criam novas formas de evasão e riscos inesperados surgem. A função da régua não é certificar que uma plataforma se tornou segura para sempre. É tornar verificável o que foi testado, o que falhou, o que mudou e por que a autoridade considerou a evidência suficiente.

A ANPD acertou ao exigir demonstração de efetividade. Agora precisa impedir que cada empresa escolha a prova em que já sabe passar.

Sem um protocolo comum, o Brasil terá muitas declarações de proteção e pouca capacidade de compará-las. Com uma régua pública, a fiscalização pode começar a distinguir política escrita, promessa comercial e salvaguarda que resiste ao teste.

O texto acima expressa a visão de quem o assina, não necessariamente do Congresso em Foco. Se você quer publicar algo sobre o mesmo tema, mas com um diferente ponto de vista, envie sua sugestão de texto para [email protected].