O alerta do Papa sobre um mundo que terceiriza decisões para máquinas

Em 28 de fevereiro, primeiro dia dos ataques dos Estados Unidos ao Irã, um míssil destruiu a escola primária Shajareh Tayyebeh, na cidade de Minab. Pelo menos 175 pessoas morreram, a maioria meninas com menos de 12 anos. As investigações indicam que o alvo foi selecionado com apoio de sistemas de inteligência artificial alimentados por dados desatualizados. Se foi um erro ou um acerto intencional para semear pânico na população, o fato é que ninguém sabe a quem responsabilizar por esse crime de guerra. Se a escolha foi feita por algoritmos, quem responde? A empresa que desenvolveu o sistema, o Estado que o contratou, o presidente que autorizou a operação? A inteligência artificial cria zonas cinzentas de responsabilidade que não existiam, e avança muito mais rápido do que a capacidade da sociedade de debater o tema e tomar, com sabedoria, as medidas para controlá-lo.

Diante desse cenário, o Papa Leão XIV publicou sua primeira encíclica. A Magnifica Humanitas, lançada em 25 de maio, é inteiramente dedicada à proteção da pessoa humana na era da inteligência artificial, e seu alcance vai muito além das armas. O documento trata dos impactos da tecnologia sobre o trabalho humano e sobre a própria comunicação, ao alertar que ferramentas que poderiam favorecer o debate vêm sendo usadas para construir narrativas distorcidas e apagar as fronteiras entre o verdadeiro e o falso. O gesto repete a história. Há 135 anos, Leão XIII publicava a Rerum Novarum para responder aos efeitos da Revolução Industrial sobre os trabalhadores. Agora, o Papa que escolheu seu nome em homenagem àquele pontífice volta o olhar da Igreja para a nova transformação do nosso tempo.

O Papa afirma que a inteligência artificial precisa ser desarmada, libertada das lógicas que a transformam em instrumento de dominação, exclusão e morte. Ele mesmo reconhece a força da palavra e diz que a escolheu deliberadamente, porque o momento exige expressões capazes de despertar consciências. A encíclica relata casos de sistemas de armas cada vez mais autônomos, praticamente fora do controle humano, e de algoritmos que negam acesso à saúde, ao trabalho e à segurança com base em dados contaminados por preconceito. Se um algoritmo é alimentado com dados que mostram que a maior parte dos crimes ocorre em uma região onde, por razões sociais, predomina uma determinada etnia, ele aprende que pessoas daquela etnia cometem mais crimes, e passa a reproduzir essa distorção como se fosse um fato. Também adverte que a concentração da tecnologia nas mãos de poucos atores privados cria um poder opaco, distante de qualquer controle público. Um detalhe da apresentação reforçou a relevância desse recado. Ao lado do pontífice estava um dos fundadores da Anthropic, empresa de inteligência artificial que se recusou a licenciar seus modelos ao Pentágono para o desenvolvimento de armas autônomas, sinal de que parte do próprio setor reconhece a urgência de limites.

O alerta do Vaticano chega a um mundo que ainda discute como regular a tecnologia, e o Brasil não está fora dessa equação. Por aqui, a regulamentação da inteligência artificial engatinha e permanece refém da disputa política, enquanto os sistemas já operam em bancos, hospitais, escolas e órgãos públicos. Essas decisões definirão o futuro da sociedade e não podem ficar restritas a gabinetes e interesses de ocasião. O debate sobre a inteligência artificial precisa se tornar uma demanda da sociedade como um todo, presente nas discussões políticas e nos projetos de governo, para que a tecnologia sirva às pessoas e não o contrário.

O texto acima expressa a visão de quem o assina, não necessariamente do Congresso em Foco. Se você quer publicar algo sobre o mesmo tema, mas com um diferente ponto de vista, envie sua sugestão de texto para [email protected].