O algoritmo do Twitter prefere caras mais novas, mais magras e mais claras, diz estudo

Investigador criou rostos semelhantes e mudou apenas alguns aspectos como o tom de pele, a largura do rosto, o género ou a idade. Percebeu que quanto mais velhos, largos e escuros — mais ignorados pelo algoritmo eram.

Foto
Bogdan Kulynych

Caras mais novas, mais magras e com pele mais clara: são estas as características a que o algoritmo do Twitter dá preferência. A conclusão é de um estudo levado a cabo por Bogdan Kulynych, um estudante da universidade suíça EFPL.

A empresa, que já tinha estado envolvida numa polémica devido ao enviesamento do algoritmo, pagou agora 3500 dólares a Bogdan para estudá-lo. Para isso, o investigador gerou rostos artificiais com características distintas, e deixou-as correr no algoritmo do Twitter para perceber em quais ele se focava.

Uma vez que os rostos foram criados digitalmente, foi possível gerar caras quase iguais, alterando apenas pequenos pontos, como o tom de pele, a largura do rosto, o género ou a idade — e comprovar, desta forma, que o algoritmo prefere os mais novos, mais finos e mais claros, em detrimento dos mais velhos, mais largos e mais escuros.

Foto
Bogdan Kulynych

“Eu uso a frase ‘a vida a imitar arte a imitar a vida’. Nós criamos estes filtros porque acreditamos que isso é o que a beleza é, e isso acaba por moldar os nossos modelos e criar estas noções irrealistas do que significa ser atraente”, disse Rumman Chowdhury, director da equipa de Inteligência Artificial do Twitter, citado pelo Guardian.

O enviesamento do algoritmo do Twitter já tinha sido motivo de polémica em 2020, depois de alguns utilizadores terem percebido que apareciam mais caras brancas do que negras (e até mais cães brancos do que pretos). Nessa altura, a empresa pediu desculpa: “A nossa equipa fez testes no algoritmo e não encontrou enviesamento racial ou de género. Mas é óbvio, a partir destes exemplos, que temos mais análises a fazer. Vamos continuar a partilhar o que aprendemos, as acções que praticamos e vamos abrir os nossos testes para que outros possam avaliar e replicar.”

Esta questão levou a empresa a lançar um prémio de milhares de dólares para investigadores que conseguissem demonstrar características prejudiciais do algoritmo — e Bodgan foi o vencedor. “Os malefícios do algoritmo não são apenas bugs. Muita da tecnologia que é nociva não o é por acidente ou erros, mas pelo próprio desenho. Isto vem de uma tentativa de maximizar o engagement e, no geral, os lucros, externalizando os custos para outros. Por exemplo, amplificando a gentrificação, baixando salários, espalhando informações falsas e clickbaits — isto não se deve necessariamente a algoritmos ‘enviesados’”, atirou o investigador.