Socooorro! Os algoritmos estão soltos!

Ao ampliar a responsabilidade das big-techs sobre conteúdos ofensivos publicados pelos usuários, o STF deu o primeiro passo no sentido de botar ordem no galinheiro digital, onde, até aqui, reina a mais absoluta impunidade, como se as plataformas fossem terra de ninguém.

Sim, a criação de uma legislação a respeito é extremamente complicada pelos obstáculos à monitoração, controle e acompanhamento circula pelas plataformas. Ainda assim, o STF deu um passo, um grande, um enorme e fundamental passo para o enfrentamento da questão que, pelas suas nuances, exige iniciativas concretas, mesmo que ainda imperfeitas. Basicamente, o que o STF fez foi obrigar as redes a levar em conta a notificação extrajudicial para a remoção de conteúdo irregular. Parece pouco, mas é um baita avanço num terreno onde, até aqui, não havia regulação alguma. E também avançou na conceituação dos crimes, ao decidir que as redes são obrigadas a responder civilmente por danos morais causados por conteúdos ofensivos ou ilegais como racismo, discurso de ódio, fake news e incitação à violência.

Ainda outro dia, em Brasília, uma menina de 8 anos morreu ao inalar desodorante tentando superar um desafio compartilhado nas redes sociais. Sabe quem foi responsabilizado? Ninguém.

As plataformas condenaram a decisão considerando-a um cerceamento da liberdade de expressão. O Google afirmou que o STF atuou contra a "economia digital". Ou seja, buliu nos bilhões de dólares que a megaempresa movimenta mundo afora. A Meta - leia-se Facebook, Instagram e WhatsApp - idem. Ao fim e ao cabo, o argumento é o de que, inibindo-se a atuação escancarada e sem controle das redes, as bigh-techs podem perder bilhões no seu trilionário faturamento. Em suma: para elas, importante é a grana. Exclusivamente a grana! Ética? Diabéisso?

E os algoritmos continuam soltos por aí

Outro argumento cretino das bigh-techs é o de que elas não são responsáveis pelos conteúdos pois apenas oferecem "o palco". Nos Estados Unidos, a morte de um menino que participou de um desafio que circulava nas redes arriscando-se até morrer ao cair de um abismo reabriu o debate. O STF lá deles mandou brasa. E considerou que as empresas "teriam atuado ativamente para identificar e explorar usuários vulneráveis, como menores de idade. Isso não é liberdade de expressão - é manipulação algorítmica com potencial letal".

E aqui chegamos ao mais perigoso agente nesse assunto: os algoritmos, uma espécie de programa que decide o que aparece na tela do computador, dependendo do usuário que trabalha na máquina. Por isso as plataformas funcionam como traficantes que oferecem drogas de acordo com o gosto de cada um. E se eximem de responsabilidade com o argumento de que "cada um escolhe o que quer, nós só oferecemos o palco". Os algoritmos operam no sentido de render mais "audiência", selecionando conteúdos de acordo com o perfil (idade, sexo, profissão, gostos pessoais etc.) dos usuários. E tudo isso sem qualquer compromisso com a ética, visando exclusivamente o faturamento. Claro que é difícil obrigar as plataformas a serem proativas na seleção dos conteúdos. Mas os recursos da tecnologia permitem, sim, que elas programem seus algoritmos para atuarem com base em princípios éticos, e não mantendo a permissividade atual que lhes permite atuar sem qualquer freio ou controle.

Por isso, isso, na decisão adotada, o STF entendeu que antes mesmo de uma legislação aprovada pelo Congresso, as big-techs devem adotar posturas proativas para coibir a prática de crimes adotando mecanismos para a identificação de conteúdos nocivos a fim de promoverem um ambiente virtual saudável.

Passei a vida em redações onde se pratica a moderação dos conteúdos, a fim de evitar a disseminação de discursos de ódio, ataques à honra e à imagem das instituições bem como na contenção de conteúdos que influenciem negativamente os usuários. O "Efeito Werther", por exemplo, relaciona-se à imitação do comportamento suicida após a divulgação de casos de suicídio. Surgiu quando um livro de Goethe que relatava os sofrimentos de um jovem até seu suicídio gerou uma onda de suicídios na Alemanha. Por isso até hoje a maioria dos veículos de comunicação evita divulgar suicídios. Um comportamento que precisa ser adotado em relação a quaisquer outros comportamentos nocivos, principalmente no cyberespaço. As plataformas não são simples suportes de postagens. São, sim, co-responsáveis pelo que acolhem e divulgam. Mesmo que isso implique em redução de faturamento. O que nada tem a ver com censura ou cerceamento à liberdade de expressão, mas de cuidado com o bem-estar dos usuários, inclusive crianças e adolescentes, os mais vulneráveis. Quem lucra com a morte de crianças e adolescentes é criminoso ou não é?

Cabe ao Congresso sair da zona de conforto e entrar firme no debate para aprimorar a decisão do STF, que deu um passo histórico, firmando um "verdadeiro marco civilizatório", como afirmou o advogado geral da União, Jorge Messias. Mas que ninguém se iluda: com o perfil atual do Parlamento, com uma maioria de direita aliada do grande capital, é bem possível que aprove é uma legislação em sentido contrário, pondo abaixo o "marco histórico" fincado pelo STF.

O texto acima expressa a visão de quem o assina, não necessariamente do Congresso em Foco. Se você quer publicar algo sobre o mesmo tema, mas com um diferente ponto de vista, envie sua sugestão de texto para [email protected].