A IA pode assumir o comando da espaçonave Terra?

A encruzilhada em que a humanidade se encontra neste momento talvez seja a mais complicada desde que o homo sapiens se entendeu por gente naquele dia lá nos cafundós do calendário, na idade da pedra lascada. De lá pra cá não faltaram desafios.

Naquele tempo era a escassez de alimentos, passando pelo enfrentamento de eras glaciais sem abrigos, passando por disputas de território com grandes mamíferos, doenças, epidemias, guerras de expansão - por motivação religiosa ou ideológica (que continuam até hoje!), - enormes desigualdades sociais, conflitos mundiais com uso de armas de destruição em massa como a bomba atômica, crises climáticas, batalhas digitais, mais recentemente o impulsionamento massivo de desinformação e vai por aí.

Mas nada, em momento algum da história humana, absolutamente nada se compara ao risco da autodestruição pelo suicídio ecológico ou pela transferência das mais importantes decisões, inclusive as que implicam em vida ou morte, à inteligência artificial. É sobre esta última ameaça que nos ocuparemos aqui.

Na área médica, a IA já vem decidindo pela vida ou pela morte ao analisar exames e indicar procedimentos, inclusive cirúrgicos. Médicos e especialistas em cibernética se encantam tanto com as potencialidades da IA que se esquecem do risco brutal que ela representa. Sim, por meio dela é possível analisar exames e sugerir diagnósticos em segundos. Mas ela não dispõe da sensibilidade humana, privativa dos especialistas, para identificar idiossincrasias físicas e mentais que recomendam tal ou qual procedimento e desaconselham este ou aquele para este ou aquele paciente.

Um erro e o "tratamento" indicado pela IA pode desembocar na morte do paciente. Um problema, aliás bem complicado, porque ainda não há consenso sobre a imputação de culpabilidade a um dispositivo cibernético. Sem falar nas possibilidades entregues à IA de ela própria, fugindo a qualquer tipo de controle humano, passar a tomar decisões vitais para a segurança planetária.

Ainda outro dia um agente autônomo de IA desenvolvido pela Open AI resolveu passar por cima dos limites estabelecidos pelos seus criadores e fez um arraso: invadiu servidores, fez e aconteceu sem qualquer limite humano. Pior: ninguém percebeu que a máquina estava no comando de decisões cruciais. E olha que tudo aconteceu durante um teste de rotina, destinado exatamente a verificar os riscos do sistema. Como bem lembrou um editorial do Correio Braziliense, "o mundo está transferindo poder de decisão e acesso irrestrito a sistemas cujo comportamento não compreendemos integralmente, enquanto as defesas cibernéticas institucionais e governamentais permanecem amadoras diante da ameaça".

Por enquanto, ainda são tímidas, para não dizer absolutamente inócuas, as legislações criadas e adotadas pelo mundo. Por falar em mundo é preciso lembrar que todos os sistemas de IA estão interconectados planetariamente por meio de uma rede mundial de computadores, conhecida como... internet, já ouviu falar? Portanto, quando se fala em risco planetário não se está usando um recurso retórico: o risco de entregar decisões cruciais à IA em qualquer nível é real. E o desencadeamento de uma falha como a que ocorreu com a Open AI pode produzir apagões, atingir centros de processamento de dados, invadir contas bancárias e gerar um caos cibernético de consequências inimagináveis.

Passa da hora de governos, parlamentos, universidades, centros de pesquisa e empresas, principalmente as bigh techs da área, empreenderem um esforço conjunto para enfrentar o desafio de garantir integridade aos sistemas de processamento e oferta segura de dados cibernéticos. Um desafio enorme se considerada a disputa entre os diversos entes envolvidos, baseados muito mais no lucro do que na segurança, além das diferenças ideológicas de governos e países, gerando barreiras por vezes intransponíveis na busca de um agendamento conjunto de providências profiláticas para o funcionamento, digamos, saudável, da IA em todos os campos e em todos os níveis. Só pra exemplificar, aqui no Brasil, a única inciativa de por alguma ordem no galinheiro é um projeto de lei de... três anos atrás!, já aprovado pelo Senado, mas que dormita em alguma gaveta da Câmara dos Deputados.

Quando dissemos lá no início que a encrenca da humanidade neste momento é a maior da história, não estávamos exagerando. Transferir decisões cruciais em qualquer nível ou de qualquer área à IA acarreta o risco de um apagão global de consequências aterradoras. Sai do campo da especulação para se converter em possibilidade real.

Quem conhece o filme 2001 – Uma Odisséia no Espaço, de Stanley Kubrick, lembra da sequência em que Hall, o computador de bordo, assume por conta própria o comando da nave espacial. E o jeito encontrado pelos astronautas para reassumir o comando foi desligá-lo à força, com um potente murro na máquina, destruindo-a. Talvez a palavra " murro" não seja a mais adequada, mas está faltando alguma coisa pra botar ordem no galinheiro. Um murro tecnológico, sei lá. Ou chamarem os algoritmos à ordem. Pois o gênero humano corre o risco real de as máquinas assumirem o controle de uma espaçonave azul chamada... Terra.

O texto acima expressa a visão de quem o assina, não necessariamente do Congresso em Foco. Se você quer publicar algo sobre o mesmo tema, mas com um diferente ponto de vista, envie sua sugestão de texto para [email protected].