A rede social Twitter anunciou na quarta-feira (14) que lançará uma iniciativa sobre "aprendizado de máquina responsável" que incluirá análises de igualdade algorítmica em sua plataforma.

A empresa, sediada na Califórnia, disse que o plano visa oferecer mais transparência sobre sua inteligência artificial e lidar com "os potenciais efeitos prejudiciais das decisões algorítmicas".

A iniciativa surge em meio à crescente preocupação com os algoritmos usados pelos serviços online, que alguns dizem que podem promover violência, conteúdo extremista e reforçar o preconceito racial ou de gênero.

“O uso responsável da tecnologia inclui o estudo dos efeitos que ela pode ter a longo prazo”, escreveram em um blog Jutta Williams e Rumman Chowdhury, da equipe de ética e transparência do Twitter.

Quando o Twitter usa aprendizado de máquina ou automático, "isso pode afetar centenas de milhões de tweets por dia e, às vezes, a maneira como um sistema foi projetado para ajudar pode começar a se comportar de maneira diferente do esperado", explicaram.

Segundo os pesquisadores, a iniciativa busca "assumir a responsabilidade por nossas decisões algorítmicas" com o objetivo de alcançar "equidade e justiça nos resultados".

"Também estamos construindo soluções de aprendizado de máquina explicáveis, para que nossos algoritmos possam ser melhor compreendidos, o que os informa e como eles impactam o que (o usuário) vê no Twitter".

Williams e Chowdhury disseram que a equipe compartilhará suas descobertas com pesquisadores externos. "Para melhorar o entendimento coletivo da indústria sobre esta questão, nos ajude a melhorar nossa abordagem e nos responsabilizar."

Essa estratégia do Twitter segue uma série de controvérsias na equipe de ética de inteligência artificial do Google, que levaram à demissão de dois pesquisadores de alto nível e à demissão de um cientista de alto escalão.

Era para ser uma noite diferente. O rapaz chegou em casa, pegou o um pedaço de pizza e correu para a frente da TV para assistir a uma comédia no seu serviço de streaming favorito. Mas, poucos minutos depois, lá estava ele assistindo a outro filme de ação, como em todas as noites anteriores. Seria só uma coincidência? Na verdade, é mais um triunfo de uma sequência de linhas de código, repleta de complexos cálculos matemáticos, que é chamada de algoritmo. Eles viraram o núcleo dos serviços digitais na última década.

Embora a vida tenha ficado mais fácil desde que eles apareceram - basta lembrar de como era pesquisar sobre qualquer assunto sem o Google -, há indícios de que esses softwares não sejam tão neutros e inofensivos quanto parecem.

"Os algoritmos têm um grande papel nas escolhas das pessoas hoje em dia", diz o professor de Ciências da Computação da Universidade de Washington, Pedro Domingos. "Eles determinam o que vemos no Google, escolhem três quartos dos filmes assistidos no Netflix e sugerem um terço de tudo o que é comprado na Amazon."

Isso não seria um grande problema, se todo mundo soubesse como os algoritmos funcionam e que, dependendo de quem o desenvolveu, eles podem apresentar resultados enviesados. Contudo, hoje eles são como segredos industriais. "Os algoritmos são feitos para beneficiar quem está por trás deles", alertou, em entrevista ao Estado, a matemática norte-americana Cathy O’Neil, autora do livro Weapons of Math Destruction (Armas de Destruição Matemática, em tradução livre). "Eles têm sido usados para separar vencedores de perdedores na internet."

Viés

Nos Estados Unidos, os exemplos de algoritmos "viciados" se acumulam. Em 2016, a agência de notícias Bloomberg revelou que a Amazon não entregava produtos no mesmo dia em bairros predominantemente negros. A empresa negou que seu algoritmo levasse em conta a raça dos clientes.

Outro caso envolve o uso da tecnologia por juízes norte-americanos para determinar penas. Uma investigação da organização sem fins lucrativos ProPublica mostrou que negros tinham o dobro de chances de receberem uma pena mais longa que brancos. Há também casos de sites de emprego que não mostram vagas com altos salários para mulheres e de financeiras que cobram taxas mais altas de quem mora na periferia.

"Os algoritmos aprendem com os dados que são oferecidos a ele", explica Júlio Monteiro, doutorando em Ciências da Computação na Escola Politécnica da Universidade de São Paulo (USP). "Se quem está por trás é preconceituoso, ele pode manter esse perfil."

Para o professor da Universidade Federal do Espírito Santo (Ufes), Fábio Malini, o uso intensivo de algoritmos prejudica a sociedade, pois limita o acesso à web. "A regulação algorítmica melhora a democracia? Acredito que não", defende o pesquisador. "É o acesso pleno a todos os conteúdos da rede que me ajuda a ampliar os pontos de vista." Essa curadoria automatizada é o que tem provocado o "efeito bolha" nas redes sociais, em que as pessoas só veem conteúdos que reforçam suas crenças.

Solução

Especialistas consultados são unânimes em defender que é preciso criar órgãos independentes para auditar os algoritmos. "Imagino um futuro em que decisões são tomadas por eles", diz Cathy. "Mas é preciso poder pedir explicações."

Por enquanto, esse tipo de garantia só está prevista na União Europeia, onde o Regulamento Geral de Proteção de Dados (GDPR) deve entrar em vigor em maio de 2018. A nova lei, que representa a maior mudança na área de privacidade online em 20 anos, prevê que cidadãos possam exigir explicações às empresas por trás dos algoritmos.

Apesar de apresentarem riscos, esses programas são considerados um mal necessário no mundo digital. "Antes, a TV decidia o que veríamos, mas na internet passamos a escolher livremente o que consumir", diz Edney Souza, professor da ESPM. "A maioria não estava pronta para este salto. O algoritmo está no meio do caminho." As informações são do jornal O Estado de S. Paulo.