O Twitter e alguns sites de pornografia, entre os quais o popular Pornhub, decidiram banir vídeos para adultos em que o rosto dos protagonistas é substituído pelo rosto de pessoas famosas. É uma prática que se está a popularizar graças a algoritmos que são capazes de fazer a montagem de forma rápida e convincente.

“Iremos suspender todas as contas que identificarmos como tendo publicado originalmente material íntimo que tenha sido produzido ou distribuído sem a autorização dos visados. Também suspenderemos qualquer conta dedicada a publicar este tipo de conteúdo”, explicou o Twitter, em declarações à imprensa americana. Ao contrário do Facebook, o Twitter é tolerante face à partilha de conteúdos para adultos. Cada utilizador pode decidir nas definições da respectiva conta se quer ver este género de publicações.

Tanto o Twitter como os sites de pornografia pretendem banir os vídeos que tenham sido adulterados, independentemente do método usado para isso. Inserir o rosto de pessoas famosas em vídeos pornográficos não é uma novidade. Mas este é um problema que está em crescendo graças a ferramentas informáticas que não requerem mais do que um computador convencional e conhecimentos técnicos para criar vídeos que podem enganar o olhar menos treinado. Em Dezembro, um programador informático disse ter recorrido a ferramentas de inteligência artificial disponíveis para serem usadas livremente (entre as quais, uma do Google) para inserir o rosto de actrizes como Scarlett Johansson e Gal Galdot em vídeos pornográficos. Recorrendo às muitas fotografias destas celebridades que existem na Internet, o sistema era capaz de ir aprendendo a melhorar a sobreposição do rosto no corpo da actriz do vídeo original. 

A técnica pode ir muito além de vídeos para adultos e pode vir a tornar ainda mais difícil distinguir a verdade da mentira num mundo que já tem dificuldades em lidar com notícias falsas. Um Presidente ou primeiro-ministro pode ser retratado em vídeo como estando numa situação em que nunca esteve ou como tendo afirmado algo que nunca disse.

Este tipo de montagens com políticos também não são uma novidade: em 2015, por exemplo, um canal humorístico alemão deu origem a uma controvérsia internacional e ameaçou crispar ainda mais as relações entre países europeus quando pôs o então ministro grego das Finanças, Yanis Varoufakis, com o dedo do meio em riste dirigido aos alemães. Neste caso, porém, tratou-se de uma montagem elaborada feita em estúdio.

Nos fóruns e sites de partilha, os vídeos pornográficos adulterados com recurso a inteligência artificial já têm uma categoria própria e são chamados deepfake.