O erro da inteligência artificial pode custar sua liberdade

As câmeras inteligentes ocupam cada vez mais o espaço urbano e prometem eficiência total no combate ao crime. O cenário do ano de 2025 mostrou, entretanto, que a realidade está longe dessa utopia digital.

Relatos de prisões injustas de pessoas negras ocorrem por falhas técnicas de algoritmos. Isso demonstra que a inovação trouxe consigo a automatização de velhos problemas sociais. A segurança não pode ser feita por tentativa e erro algorítmico.

Uma tecnologia que erra pela cor da pele não é inteligência. Trata-se de racismo automatizado. A segurança pública não pode operar na base da roleta-russa. O tema fomenta discussões fundamentais na sociedade contemporânea e ressalta a necessidade de regulamentações robustas.

O debate atual sobre o projeto de lei nº 2.338/2023 exige uma posição firme do Legislativo sobre a biometria a distância. O texto da lei atende a uma demanda urgente de proteção dos direitos fundamentais ao classificar essa aplicação como de risco alto ou excessivo. Qualquer sistema de segurança deve ser auditável e transparente.

Essa transparência raramente ocorre com os modelos privados importados pelos estados. O poder público brasileiro frequentemente abdica da soberania tecnológica ao aceitar soluções sem questionar. Os critérios de funcionamento desses sistemas permanecem ocultos sob a proteção do segredo industrial.

A falha do algoritmo não se resume a um número isolado em uma planilha de produtividade. Ela representa a limitação da liberdade de um inocente e a ruptura do pacto de confiança entre o cidadão e o Estado. Quando a tecnologia erra, a polícia aborda e o tribunal processa. O indivíduo, então, arca com a humilhação pública e o desgaste jurídico.

O custo do erro humano é reduzido pela responsabilidade de quem ordena a ação. O erro algorítmico costuma ser tratado como um defeito técnico impessoal. Precisamos mudar a lógica desse investimento. O Estado deve concentrar recursos na qualificação dos agentes e na inteligência de dados sobre rotas criminais.

O sistema público deve promover a integração de sistemas de inteligência que respeitem a privacidade e o devido processo legal. A automação deve servir para rastrear crimes. Ela jamais deve ser utilizada para prevenção discriminatória baseada em características físicas.

A soberania digital exige que os sistemas operados pelo Estado passem por avaliações criteriosas. Eles devem ser submetidos a testes rigorosos de diversidade e equidade antes de entrarem em operação. O Congresso Nacional tem a oportunidade de definir que a inovação tecnológica no Brasil respeitará a dignidade humana como limite inegociável.

A solução de liderança reside em impor que cada sistema de identificação biométrica passe por auditorias públicas independentes. Essa exigência deve ocorrer sem exceções. O gestor que negligenciar essa governança deve ser responsabilizado.

O uso da IA não confere imunidade para o descumprimento da Constituição. O futuro da segurança pública depende de um Estado que saiba utilizar a técnica para proteger o cidadão. A população não deve ser convertida em um alvo constante de sistemas que a própria administração não consegue explicar.

O texto acima expressa a visão de quem o assina, não necessariamente do Congresso em Foco. Se você quer publicar algo sobre o mesmo tema, mas com um diferente ponto de vista, envie sua sugestão de texto para [email protected].