Uso indevido de dados alimenta algoritmos capazes de aprofundar discriminação

Venício Dantas Cavalcanti* De forma simples, uma sequência de passos para chegar a uma finalidade. Com o advento da inteligência artificial e do aprendizado de máquina, os algoritmos processam uma quantidade enorme de dados para estabelecer padrões, a partir de critérios previamente estabelecidos, “aprendendo” com os dados de entrada. Se fornecermos muitos dados relativos a uma determinada doença e às diversas abordagens de tratamento, por exemplo, podemos “aprender” com eles e reconhecer o padrão de melhor abordagem de tratamento. Quanto maior o volume de dados, maior o número de padrões que podem ser reconhecidos e as aplicações desses padrões. É importante entender que os dados de entrada juntamente com os critérios definidos no algoritmo, influenciarão nos padrões estabelecidos na saída. Então, se os dados de entrada não respeitarem critérios relativos à diversidade, pluralidade e igualdade, ou se os algoritmos se basearem em critérios não éticos, os resultados poderão refletir uma realidade distorcida, e é aí que a sua vida pode ser impactada pela discriminação algorítmica. Estamos falando, por exemplo, de pessoas que não estarão habilitadas a um determinado emprego; não farão jus a um determinado benefício ou crédito; oferecerão risco a uma seguradora; merecerão penas mais duras; dentre outras infinitas possibilidades. Imagine um padrão que aponte que moradores de determinado bairro têm maior propensão a não honrarem seus financiamentos; ou, que determinado grupo de pessoas tende a trazer prejuízos ao plano de saúde. Tudo isso já é realidade, tem implicações legais, e é neste contexto que se insere a atuação da campanha Salve Seus Dados. Quanto mais dados pessoais disponíveis, maior o número de padrões possíveis de serem mapeados, e maior a possibilidade de discriminação baseada em algoritmos. Muitas instituições têm acompanhado estas discussões, cujo pano de fundo é o enfoque desta campanha, e aqui te convidamos a acompanhá-las também. Afinal, é do futuro dos seus dados que elas estão falando. *Venício Dantas Cavalcanti é Analista de Tecnologia da Informação, Advogado, Pós-graduado em Tecnologia da Informação, Pós-graduado em Direito Público, Pós-graduando em Direito Digital e Membro da Comissão de Direito e Tecnologia da OAB/PE.  O texto acima expressa a visão de quem o assina, não necessariamente do Congresso em Foco. Se você quer publicar algo sobre o mesmo tema, mas com um diferente ponto de vista, envie sua sugestão de texto para [email protected]. > Leia mais textos da coluna Salve seus Dados