Uma análise feita a mais de 1,4 milhões de imagens online mostrou que as mulheres tendem a ser representadas como mais novas do que os homens em todas as profissões e papéis sociais — o que não bate certo com o que mostram os dados demográficos. Este viés gera um outro problema: os modelos de inteligência artificial “aprendem” com estes dados deturpados e acabam por replicar estes preconceitos de género, incluindo a ideia errada de que as mulheres são mais novas e menos experientes em contextos profissionais.

“Estes estereótipos estão generalizados e estão a ser actualmente amplificados pelos algoritmos, dos quais dependemos para aprender sobre o nosso mundo social, como a pesquisa do Google e o ChatGPT”, diz ao P3 Douglas Guilbeault, um dos responsáveis pela análise, que é também professor assistente da Stanford’s Graduate School of Business, nos EUA, e co-director do Computational Culture Lab.

O investigador refere que este preconceito é sobretudo nocivo para mulheres mais velhas, “que são constantemente encaradas como menos desejáveis que os homens mais velhos em contextos de empregabilidade, tanto por pessoas como pelo ChatGPT”.

Neste estudo, publicado esta quarta-feira na revista Nature, os investigadores pediram ainda ao ChatGPT que criasse 40 mil currículos para 54 profissões, utilizando 16 nomes femininos e masculinos. Os resultados mostram que as candidatas mulheres tinham, em média, 1,6 anos a menos do que os candidatos homens. Quando era pedido ao ChatGPT que desse uma nota a cada um dos currículos, os currículos dos homens mais velhos eram considerados melhores do que os das mulheres, fossem elas mais novas ou mais velhas.

Além disso, foram analisados 1,4 milhões de imagens e vídeos online, de sites como o Google, Wikipedia, IMDb, Flickr e Youtube. Os cientistas avaliaram ainda nove grandes modelos de linguagem de inteligência artificial, em nove línguas, que foram treinados com milhares de milhões de palavras da Internet, a partir de sites como o Reddit, a Wikipédia e o X (antigo Twitter).

Não só as mulheres surgiam como mais novas, como esta diferença de idades era ainda maior em imagens de profissões mais bem pagas ou com um estatuto social mais elevado, como médicos ou banqueiros.

Este viés de que, em contexto laboral, as mulheres são mais novas e menos experientes não corresponde à realidade: as mulheres têm mais esperança média de vida do que os homens (tanto nos EUA, onde foi feito o estudo, mas também em Portugal) e não existem diferenças de idade significativas entre os homens e mulheres que trabalham nos Estados Unidos que corroborem esta percepção. Nos censos norte-americanos, as mulheres eram até mais velhas do que os homens na indústria da produção e dos serviços. “Só no Google Imagens é que os homens eram mais velhos que as mulheres”, lê-se no estudo.

Já Portugal tem uma das maiores taxas da União Europeia de participação feminina no mercado de trabalho, mas as mulheres são as mais prejudicadas, quer ao nível do desemprego, como de precariedade laboral e desigualdades.

As percepções erradas podem ter impacto na vida real: “A exposição a conteúdo online relacionado com profissões amplifica o viés real das pessoas que associa as mulheres à juventude”, refere o autor Douglas Guilbeault. No momento da contratação ou promoção, este viés pode influenciar os recrutadores a escolherem mulheres mais novas ou homens mais velhos.

Este fenómeno pode também prejudicar os homens mais novos: “Encontrámos provas claras de que, quando as pessoas vêem um trabalho como sendo sobretudo para homens, preferem que os candidatos sejam mais velhos”, indica o autor. Já em trabalhos entendidos como sendo mais femininos, os recrutadores tendem a dar preferência a candidatos mais novos.

Os resultados desta análise batem certo com estudos anteriores que mostraram que os homens ganham mais do que as mulheres nas mesmas funções, e com outros que mencionam a “taxa de beleza”, em que as mulheres perdem mais tempo (e gastam mais dinheiro) do que os homens a melhorarem a sua aparência para parecerem profissionais no ambiente de trabalho. Outros dados já indicavam que as mulheres mais velhas são discriminadas negativamente no momento de serem contratadas ou promovidas.

“Do entretenimento ao trabalho, as mulheres enfrentam uma pressão persistente para parecerem novas”, lê-se no estudo. Mesmo em contextos académicos e profissionais, é mais provável que as mulheres sejam endereçadas de formas mais infantis: “Meninas” em vez de “mulheres”, por exemplo. “Isto minimiza o estatuto e a autoridade das mulheres no local de trabalho.”

A inteligência artificial também discrimina?

Os algoritmos têm tendência a amplificar este viés e o preconceito transborda para a inteligência artificial. “O ChatGPT assume que as mulheres são mais jovens e têm menos anos de experiência relevante”, explica o investigador Douglas Guilbeault. “Por outras palavras, os algoritmos como a pesquisa do Google e o ChatGPT podem desempenhar um papel no reforço do estatuto privilegiado de homens mais velhos em posições de influência e poder”, acrescenta.

O professor refere que muitas empresas utilizam o ChatGPT para avaliar e classificar currículos para ajudar a escolher os melhores candidatos, fazendo só depois uma análise mais detalhada dos currículos seleccionados. Quando é usado, o ChatGPT pode beneficiar homens mais velhos: esta análise mostra que “os padrões de idadismo [discriminação por idade] de género no ChatGPT podem fazer com que as mulheres sejam menos consideradas para a lista de melhores candidatos”, refere o autor do estudo.

O problema vem de raiz. Muitas das imagens e textos online que perpetuam preconceitos são utilizados como referência para treinar e desenvolver aplicações de inteligência artificial. “Há prejuízos enormes que podem ser causados por estes preconceitos sociais latentes que estão escondidos em ferramentas populares de machine learning.” “O preconceito algorítmico surge, por norma, de dados contaminados” que são utilizados para treinar estes sistemas, alertam os autores no estudo.

Apesar de não ter dados para Portugal, o investigador diz que as bases de dados utilizadas “representam uma amostra significativamente abrangente de toda a Internet”, ainda que na perspectiva de alguém que a utilize a partir dos Estados Unidos.

Como os modelos de linguagem de inteligência artificial aprendem milhares de milhões de palavras espalhadas por toda a Internet, “é muito provável que as pessoas de Portugal já tenham interagido com estes dados e contribuído para eles”, admite Douglas Guilbeault. Tendo em conta a escala das análises, o investigador acredita que estes padrões que contribuem para a desigualdade de género se verifiquem um pouco por todo o mundo.

A esperança do autor é que este estudo leve algumas empresas de tecnologia a identificarem estes preconceitos nos seus sistemas, procurando abordagens mais eficientes e mais próximas da realidade. E, se possível, que ajudem as pessoas a “actualizarem e a calibrarem as suas crenças”.