A inteligência artificial perdeu o direito de fingir

Em 1950, Alan Turing propôs um experimento simples. Se um ser humano conversasse com uma máquina sem conseguir distingui-la de outro humano, faria sentido continuar dizendo que aquela máquina não pensa?

Durante décadas, a humanidade perseguiu esse objetivo. Chatbots, assistentes virtuais e modelos de linguagem foram avaliados justamente pela capacidade de soar naturais, e quanto mais humana a interação, melhor parecia ser a tecnologia. Mas, agora, parece que os papéis se invertem. As máquinas precisam anunciar que são máquinas, já que a interação é quase natural.

A recente atualização do AI Act europeu estabelece que sistemas de IA concebidos para interagir diretamente com pessoas devem informar que o usuário está interagindo com um sistema de inteligência artificial. Da mesma forma, conteúdos sintéticos como imagens, vídeos, áudios e textos gerados artificialmente deverão ser identificados com uma marca legível, indicando sua origem artificial.

Em outras palavras, ainda que uma IA consiga passar no Teste de Turing, ela não poderá fazê-lo sem antes denunciar sua verdadeira identidade.

Essa mudança revela algo importante sobre nossa relação com a IA, que se torna cada vez mais presente em nosso cotidiano. Durante décadas, acreditamos que o grande desafio seria construir máquinas suficientemente sofisticadas para parecerem humanas. Hoje, o desafio parece ser exatamente o contrário: garantir que elas não escondam que não são.

A exigência de transparência, entretanto, não nasce de uma preocupação filosófica, mas prática. Deepfakes, golpes, manipulação política, atendimento automatizado, influência em redes sociais e relações de consumo dependem, muitas vezes, da percepção de quem está do outro lado da conversa.

Saber se estamos falando com uma pessoa ou um algoritmo tornou-se uma informação relevante para o exercício da autonomia.

E pensar que há quase 75 anos, o Teste de Turing perguntava se humanos seriam capazes de identificar uma máquina. O AI Act acaba invertendo essa lógica, ao estabelecer que a responsabilidade não deve recair sobre os humanos, mas sobre a própria tecnologia.

O "sucesso" de um sistema de IA deixa de ser medido apenas pela sua capacidade de imitar pessoas e passa a incluir sua capacidade de ser transparente enquanto o faz.

O texto acima expressa a visão de quem o assina, não necessariamente do Congresso em Foco. Se você quer publicar algo sobre o mesmo tema, mas com um diferente ponto de vista, envie sua sugestão de texto para [email protected].