Das leis da robótica à governança da inteligência artificial

A expansão da inteligência artificial vem modificando profundamente a forma como decisões são produzidas, informações circulam e relações econômicas, políticas e sociais são organizadas. Embora amplie capacidades humanas e possibilidades de inovação, a tecnologia também suscita preocupações relacionadas à concentração de poder, à autonomia decisória e à dificuldade de compreender os critérios que orientam determinados sistemas. Essa questão ganha especial relevância quando decisões com efeitos concretos sobre indivíduos são mediadas por estruturas tecnológicas cuja lógica permanece pouco acessível.

Nesse contexto, Frank Pasquale, em The Black Box Society: The Secret Algorithms That Control Money and Information ("A Sociedade da Caixa-Preta: Os Algoritmos Secretos que Controlam o Dinheiro e a Informação", tradução dos autores) (2015), evidencia como a crescente influência dos sistemas algorítmicos em diferentes esferas da vida social pode dificultar a compreensão e a fiscalização dos critérios que orientam seu funcionamento. Assim, quanto mais decisões relevantes dependem de estruturas opacas, maiores são os desafios para a fiscalização, a contestação e a responsabilização dos agentes envolvidos.

Outrossim, a preocupação com os limites da tecnologia antecede a própria emergência dos sistemas algorítmicos contemporâneos. Antes que a IA se tornasse uma realidade tecnológica com aplicações concretas, a ficção científica já especulava sobre as consequências da criação de máquinas capazes de interagir, decidir e agir em relação aos seres humanos.

É nesse terreno que se encontra a obra de Isaac Asimov, cuja formulação das Três Leis da Robótica, na década de 1940, constitui uma das primeiras representações literárias de um problema que hoje assume dimensão jurídica: como estabelecer limites para tecnologias dotadas de capacidade de ação e quais valores devem orientar esses limites?

Apresentadas no conto Runaround ("Enrolar", tradução dos autores), de 1942, e reunidas posteriormente em I, Robot ("Eu, Robô", tradução dos autores), de 1950, as Três Leis da Robótica estabelecem uma hierarquia para orientar a conduta dos robôs. A primeira prioriza a proteção humana, impedindo que o robô cause dano a uma pessoa ou permita, por omissão, que ela seja prejudicada; a segunda determina a obediência às ordens humanas, desde que compatíveis com a primeira; e a terceira assegura a preservação do próprio robô, desde que não contrarie as duas anteriores.

Nesse toar, Asimov demonstra que regras aparentemente objetivas podem gerar dilemas quando diferentes deveres entram em conflito, exigindo não apenas comandos, mas também ponderação diante das circunstâncias.

A realidade atual, contudo, amplia a reflexão de Asimov: se, na ficção, o desafio consiste em estabelecer regras para orientar a conduta dos robôs, no contexto da IA é necessário considerar também as escolhas humanas que determinam seu funcionamento. Assim, ao passo que objetivos, dados, parâmetros e formas de utilização são definidos por pessoas e organizações, eventuais danos não podem ser atribuídos genericamente à tecnologia, mas devem ser relacionados aos agentes envolvidos em seu desenvolvimento, implementação e supervisão.

Nessa perspectiva, as Leis da Robótica aproximam-se do debate jurídico contemporâneo, visto que a primeira lei prioriza a proteção humana, a segunda evidencia os limites da obediência e a terceira subordina a preservação do sistema aos interesses humanos. Nesse viés, mais do que oferecer um modelo de regulação, Asimov antecipa uma questão que permanece central: quanto maior a capacidade de uma tecnologia de interferir na vida social, maior deve ser a responsabilidade sobre seu funcionamento e mais rigorosos os mecanismos destinados a controlá-la.

É justamente a partir dessa necessidade de estabelecer limites que a reflexão de Adela Cortina amplia o debate de Asimov ao questionar também quais finalidades devem orientar o desenvolvimento tecnológico e quem deve defini-las. Em ¿Ética o ideología de la inteligencia artificial? ("Ética ou ideologia da inteligência artificial?", tradução dos autores) (2024), Cortina analisa os impactos da IA sobre a sociedade e problematiza a ideia de que seu desenvolvimento constitua um processo autônomo, inevitável ou necessariamente benéfico. Para a autora, a discussão ética não pode se limitar à segurança ou à eficiência dos sistemas, devendo alcançar os fins sociais e humanos a que a tecnologia deve servir.

Pontua-se que a própria existência da IA depende de uma estrutura material e econômica que também precisa ser considerada. É nesse ponto que a análise de Crawford, em Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence ("Atlas da IA: Poder, Política e os Custos Planetários da Inteligência Artificial", tradução dos autores), amplia a compreensão sobre o fenômeno.

Ao chamar atenção para o consumo de energia, água e outros recursos naturais, a autora demonstra que a IA não existe apenas no ambiente digital, visto que depende de infraestrutura física, cadeias produtivas e recursos naturais distribuídos globalmente. Como observa Crawford (2021, p. 28), seus impactos alcançam "[...] a atmosfera, os oceanos, a crosta terrestre e as condições de vida das populações mais desfavorecidas do planeta". Assim, a aparente intangibilidade da IA, portanto, oculta custos materiais e relações de poder que também precisam integrar sua análise jurídica e ética.

Essa dimensão material conduz a outra questão central: o que alimenta economicamente os sistemas de IA? Couldry e Mejias (2019), em The Costs of Connection: How Data Is Colonizing Human Life and Appropriating It for Capitalism ("Os Custos da Conexão: Como os Dados Estão Colonizando a Vida Humana e Apropriando-se dela para o Capitalismo", tradução dos autores), analisam como as interações humanas são continuamente convertidas em dados e apropriadas como recursos econômicos.

Essa perspectiva aproxima-se da formulação de Zuboff (2019), em The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power ("A Era do Capitalismo de Vigilância: A Luta por um Futuro Humano na Nova Fronteira do Poder", tradução dos autores), segundo a qual dados comportamentais são utilizados não apenas para conhecer os indivíduos, mas também para prever e influenciar seus comportamentos, estabelecendo uma relação assimétrica entre aqueles que produzem as informações e os agentes que possuem capacidade tecnológica para coletá-las, processá-las e transformá-las em valor.

Nesse percurso, a questão deixa de ser apenas o que a Inteligência Artificial pode fazer e passa a ser quem decide o que ela fará, com quais recursos, sob quais interesses e com quais consequências. Governar a IA significa, portanto, enfrentar as estruturas de poder que se formam em torno de seus dados, de sua infraestrutura e de sua capacidade de influenciar comportamentos. Destarte, o verdadeiro desafio jurídico não é conter a inovação, mas assegurar que nenhum poder tecnológico cresça além da capacidade democrática de compreendê-lo, fiscalizá-lo e responsabilizá-lo.

Referências

ASIMOV, I. (1950). Run Around. I, Robot (The Isaac Asimov Collection ed.). Doubleday, New York.

CORTINA, Adela. ¿Ética o ideología de la inteligencia artificial?: el eclipse de la razón comunicativa en una sociedad tecnologizada. Barcelona: Paidós, 2024.

26.

COULDRY, Nick; MEJIAS, Ulises Ali. Resistance to the new data colonialism must start now. Al Jazeera, 28 abr. 2020. Disponível em: https://www.aljazeera.com/opinions/2020/4/28/resistance-to-the-new-data-colonialism-must-start-now/. Acesso em: 14 jul. 2026.

CRAWFORD, Kate. Atlas of AI: power, politics, and the planetary costs of artificial intelligence. New Haven: Yale University Press, 2021.

PASQUALE, Frank. The Black Box Society: The Secret Algorithms That Control Money and Information. Cambridge: Harvard University Press, 2015.

ZUBOFF, Shoshana. A era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder. Tradução de George Schlesinger. Rio de Janeiro: Intrínseca, 2021.

O texto acima expressa a visão de quem o assina, não necessariamente do Congresso em Foco. Se você quer publicar algo sobre o mesmo tema, mas com um diferente ponto de vista, envie sua sugestão de texto para [email protected].