Inteligência artificial usada para apanhar perfis falsos online

Investigadores utilizaram um site de entretenimento para adultos para criar um algoritmo capaz de identificar pessoas que mentem sobre a identidade na Internet.

Foto
Os homens que criam perfis falsos tendem a dizer que são mais novos JOCHEN LUEBKE/Reuters

Uma equipa de investigadores no Reino Unido treinou um programa de computador para detectar utilizadores que mentem sobre o género e a idade em redes sociais para adultos. O objectivo é que se desenvolvam métodos semelhantes para outras redes na Internet.

A motivação foi desenvolver uma maneira de combater o fenómeno de "catfishing", que é o nome Inglês para este tipo de comportamento. "Estas pessoas podem fingir ser mais novas do que realmente são para atrair parceiros; da mesma forma, utilizadores mais novos podem fingir que são mais velhos para escapar a filtros de idade”, avisam os investigadores.

Para já, o método foi elaborado e testado na rede social do site de entretenimento para adultos PornHub.“É a rede social ideal para utilizar como base de estudo,” explica ao PÚBLICO Yehia Elkhatib, um investigador da Universidade de Lancaster que trabalhou no projecto. “Embora mentir sobre a identidade seja comum na cultura online, é muito mais prevalente em sites para adultos e em serviços de namoro online. Além disso, o Pornhub verifica a informação em algumas contas o que nos permite ter uma base sólida para começar." Elkhatib refere-se às contas que são revistas manualmente pela equipa do site, um processo que geralmente passa por obter uma fotografia do utilizador em que este mostra um documento que comprove a sua idade e um papel com o seu nome de utilizador.

No total, a equipa (que também incluía investigadores das universidades de Edimburgo, Queen Mary e King’s College) analisou cerca de 5500 contas públicas verificadas no site de pornografia online para criar um programa que aprende como é que homens e mulheres escrevem e se comportam na rede.

As contas foram retiradas de uma amostra de mais de 99,727 perfis públicos em cidades de todo o mundo (incluindo Lisboa), embora apenas tenham sido considerados perfis com mais de dez comentários escritos em inglês, francês ou alemão (as três línguas que o programa de computador domina). Não foram consideradas contas nas categorias de casal, transgénero e empresa (representavam um total de 4,4%).

Os investigadores consideraram como perfis falsos os utilizadores que o algoritmo identificava como tendo um género diferente, ou uma idade com mais de cinco anos de diferença da registada. Os resultados mostram que 38% dos utilizadores mentem sobre a sua idade, e 25% mentem sobre o género. As mulheres têm uma maior probabilidade de criarem um perfil falso, mas os homens são mais consistentes nos perfis que criam: geralmente identificam-se como homens mais novos.

“Com algumas modificações, as nossas técnicas podem funcionar noutras redes sociais. Porém, é necessário ter uma base de dados pré-validada [de contas com informação fidedigna] para treinar os modelos”, diz Yehia Elkhatib. “Agora temos provas da expansão deste fenómeno online e dos diferentes utilizadores que mentem sobre a sua idade e género. Isto é útil para combater a mentira online, que está associada com comportamento de assédio online."

Segundo um relatório de 2016 da empresa de segurança informática Kaspersky, com base em mais de 3500 famílias, uma em cada três crianças mente sobre a idade online. Uma em cada cinco entre os 11 e os 13 anos diz ser mais velha. 

Não são só crianças que se fazem passar por adultas, notam os investigadores. Muitas vezes acontece o contrário. Sites e aplicações de jogos para crianças como o StarDoll (um site para criar e vestir bonecas) e o Roblox (um jogo para criar mundos virtuais) destinam-se a crianças, mas têm chats que por vezes são usados por adultos que querem enganar menores. Muitos pais revelam preocupações no site de comentários Common Sense Media: “Há predadores em todo o lado, a tentar oferecer itens pagos no jogo (como maquilhagem para as bonecas) em troca de endereços de emails e passwords”, escreve uma mãe no site sobre o jogo Star Doll.

Foi precisamente com a missão de reduzir este problema que os investigadores do Reino Unido começaram a investigação.

“Esperamos que os nossos desenvolvimentos permitam a criação de ferramentas úteis que identificam utilizadores desonestos e permitem assegurar a segurança de todas as redes sociais”, escreve o líder do estudo, Walid Magdy. O objectivo não é eliminar automaticamente os utilizadores “apanhados” pelo programa, mas sinalizá-los às equipas de moderação das redes sociais como tendo um comportamento suspeito.