Organizações têm incorporado inteligência artificial a decisões que produzem efeitos diretos sobre as pessoas: concessão de crédito, precificação de seguros, triagem de currículos, análise de sinistros. Esse movimento ocorre no mesmo momento em que os modelos utilizados se tornam mais complexos.
Redes neurais profundas e ensembles de múltiplos algoritmos combinam centenas de variáveis correlacionadas entre si. Historicamente, esse ganho de sofisticação técnica veio acompanhado de perda de interpretabilidade: quanto mais preciso o modelo, mais difícil se torna descrever, em linguagem simples, por que ele chegou a determinado resultado. O que antes era um problema de engenharia de dados tornou-se, com a Lei Geral de Proteção de Dados (LGPD) e com o avanço do Marco Legal da Inteligência Artificial, um problema jurídico de primeira ordem.
Considere o seguinte cenário. Uma instituição financeira utiliza um modelo de rede neural para decidir a concessão de crédito. O sistema processa centenas de variáveis e produz uma pontuação de risco. Abaixo de determinado limiar, o crédito é automaticamente negado. Um cliente recebe a negativa e solicita explicação sobre os critérios utilizados, com base no artigo 20 da LGPD.
A área de compliance aciona a equipe de dados, que informa que o modelo não permite isolar uma variável específica como causa da negativa: o resultado emerge da interação entre dezenas de fatores, ponderados de forma não linear. A resposta que a instituição consegue oferecer ao cliente é genérica, com menção a renda insuficiente e histórico de crédito, sem que se demonstre o nexo entre os dados daquele titular específico e o resultado que ele recebeu. A instituição cumpriu a formalidade de responder, mas não produziu uma explicação no sentido exigido pela lei.
O artigo 20 da LGPD assegura ao titular afetado por decisão tomada unicamente com base em tratamento automatizado o direito de solicitar revisão, incluindo informações claras e adequadas sobre os critérios adotados e os procedimentos utilizados, ressalvado o segredo comercial e industrial.
O parágrafo segundo do mesmo artigo autoriza a Agência Nacional de Proteção de Dados a realizar auditoria para verificar aspectos discriminatórios no tratamento automatizado. Em tomada de subsídios sobre o tema, a própria Autoridade Nacional de Proteção de Dados (ANPD) já indicou que decisões que definem perfil de crédito, consumo ou perfil profissional estão entre as expressamente sujeitas a esse direito de revisão. O texto legal não exige a abertura do código-fonte, mas exige a tradução dos fatores determinantes em linguagem compreensível ao titular. Essa tradução pressupõe que a organização seja capaz de reconstruir, caso a caso, o raciocínio do sistema.
O Marco Legal da Inteligência Artificial, aprovado pelo Senado Federal em dezembro de 2024 e em tramitação na Câmara dos Deputados com votação prevista para 2026, aprofunda essa exigência. Os artigos 7º, 8º e 9º do projeto de lei 2.338/2023 asseguram à pessoa afetada por sistema de inteligência artificial o direito de ser informada, previamente, sobre o caráter automatizado da decisão, o direito de solicitar explicação sobre os critérios e os principais fatores que influenciaram aquele resultado específico, em linguagem acessível e no prazo de até quinze dias, e o direito de contestar e requerer revisão humana.
Para sistemas classificados como de alto risco, categoria que tende a alcançar boa parte das aplicações de crédito, seguros e relações de consumo em escala, o projeto impõe ainda o dever de demonstrar auditabilidade e rastreabilidade do sistema perante a autoridade competente. Independentemente do calendário final de aprovação, o texto já opera como parâmetro de preparação regulatória para quem estrutura esses sistemas hoje.
A exigência de explicabilidade não é uma inovação recente na jurisprudência brasileira. Em acórdão paradigmático de 12 de novembro de 2014, o Superior Tribunal de Justiça já havia enfrentado o tema do credit scoring, reconhecendo-o como método legítimo de avaliação de risco de crédito baseado em modelos estatísticos, mas condicionando sua utilização à observância dos limites de proteção ao consumidor, notadamente a tutela da privacidade e a máxima transparência nas relações negociais, nos termos do Código de Defesa do Consumidor e da Lei nº 12.414/2011.
A decisão é anterior à LGPD e ao PL nº 2.338, mas já estabelecia um princípio que ambos os textos posteriores vieram a reforçar: a opacidade do critério algorítmico não é uma defesa jurídica válida, mesmo quando o modelo é estatisticamente sofisticado e comercialmente sensível. O que mudou desde então não foi o princípio, mas o grau de exigência técnica sobre como ele deve ser operacionalizado.
É exatamente nesse ponto que a Inteligência Artificial Explicável, ou XAI, deixa de ser uma escolha de engenharia e passa a compor a arquitetura de governança da organização.
Do ponto de vista técnico, existem duas abordagens principais para atender a essa exigência, e a diferença entre elas tem consequência jurídica direta. A primeira é a explicabilidade por design. A organização opta por modelos naturalmente interpretáveis, como árvores de decisão, modelos lineares ou scorecards tradicionalmente usados em crédito, nos quais o peso de cada variável para a decisão é visível na própria estrutura do modelo.
A segunda é a explicabilidade post-hoc. A organização mantém um modelo complexo, do tipo caixa-preta, e aplica técnicas complementares, como LIME ou SHAP, que estimam, para cada decisão individual, quais variáveis mais pesaram naquele resultado específico, sem alterar o funcionamento do modelo original.
Nenhuma das duas abordagens é intrinsecamente superior. A escolha correta depende do apetite ao risco da organização, da criticidade da decisão e da capacidade de sustentar, perante a ANPD ou em juízo, uma trilha documentada e reproduzível de como cada resultado foi produzido. O que não é sustentável, sob qualquer das duas abordagens, é a ausência de qualquer trilha: um modelo eficiente cuja lógica só é reconstruída depois que a reclamação chega.
Essa resposta raramente nasce apenas na área jurídica ou apenas na área de tecnologia. Departamentos jurídicos capazes de compreender a arquitetura técnica dos modelos, de identificar em que ponto do pipeline de desenvolvimento uma trilha de auditoria pode ser embutida e de dialogar com precisão técnica sobre os limites entre explicabilidade por design e explicabilidade post-hoc estão em posição de propor à área de TI soluções que atendam simultaneamente ao requisito legal e à eficiência operacional do sistema. Essa articulação entre conhecimento jurídico e conhecimento técnico e não apenas a leitura da norma, é o que determina se a explicabilidade será tratada como correção posterior ou como característica nativa do sistema.
Esse é o ponto em que a explicabilidade deixa de ser debate acadêmico e se torna decisão de alocação de recursos. Estruturar a trilha de explicabilidade no momento do desenho do modelo tem custo previsível e incorporado ao ciclo de desenvolvimento. Reconstruí-la sob pressão, diante de uma notificação da ANPD, de uma ação judicial ou de uma auditoria de alto risco sob o projeto de lei 2.338, tem custo maior e menos previsível, somado à exposição reputacional de uma resposta insuficiente ao titular.
A pergunta que se coloca a quem decide sobre a arquitetura desses sistemas não é mais se a explicabilidade será exigida, mas se a organização terá, no momento em que for cobrada, uma resposta documentada e defensável para cada decisão específica, ou apenas um modelo eficiente e mudo.
O texto acima expressa a visão de quem o assina, não necessariamente do Congresso em Foco. Se você quer publicar algo sobre o mesmo tema, mas com um diferente ponto de vista, envie sua sugestão de texto para redacao@congressoemfoco.com.br.