Onde um humano vê uma cabra, um computador vê um gato. Ou uma bailarina

O passatempo preferido de Janelle Shane é pôr a inteligência artificial a aprender sobre o mundo — e mostrar como ainda falha.

Foto
É uma cabra. Mas um computador pode discordar Beawiharta Beawiharta/Reuters

“Sou obrigado a escrever aos meus vizinhos sobre a besta. (...) O homem tinha a pele de um baronete, e as nuvens do homem estavam na cabeça." É o começo de um romance escrito pelas redes neuronais da norte-americana Janelle Shane, 33 anos. Durante o dia, Shane é uma investigadora numa empresa que desenvolve raios laser. De noite, transforma-se numa humorista que cria material a partir de redes neuronais — os sistemas de inteligência artificial inspirados no cérebro humano que aprendem a analisar frases, identificar imagens, jogar xadrez e escrever livros, após estudarem extensas bases de dados. Os resultados são publicados na Internet.

“No meu site, rimo-nos das redes neuronais, mas também percebemos que podem ser perigosas se as levarmos muito a sério”, diz Janelle Shane ao P2. “As redes neuronais aprendem a ver e copiar padrões em imagens e excertos de texto. Mas surge sempre algo inesperado, o algoritmo mostra a sua fraqueza.”

PÚBLICO -
Foto
Shane usa o Twitter para partilhar o que outras pessoas fazem com as instruções de tricô das suas redes neuronais Janelle Shane

O processo para as treinar começa sempre da mesma forma: pesquisar bases de dados interessantes (por exemplo, a frase de abertura de clássicos da literatura, receitas tradicionais, músicas de Natal) e pôr as redes neuronais (criadas a partir de software livre) a aprender com elas. Depois, Shane faz uma triagem dos resultados mais interessantes e partilha-os no blogue AI Weirdness, onde desafia os leitores a testar receitas para “bolos de frango e chocolate” ou a tricotar padrões (“pós-apocalípticos”, como os descreve Shane) concebidos pelas redes neuronais. Parte do objectivo é mostrar que ainda falta muito para que esta tecnologia possa substituir humanos, mas que é fácil pôr humanos a editar redes neuronais. Mesmo as que escrevem parágrafos de ficção têm dificuldade em fazer com que as frases façam sentido juntas.

Numa das suas publicações mais populares no Twitter, Shane pede aos seguidores para lhe enviarem fotografias de animais em locais peculiares (como ovelhas ou cabras na neve ou na praia) para introduzir nas bases de dados das suas redes e ver se estas percebem o que está nas imagens. Muitas vezes falham e decidem que estão a ver, por exemplo, bailarinas.

“Temos de questionar aquilo que as redes neuronais vêem. Se uma rede neuronal disse que viu ovelhas, como é que temos a certeza de que viu mesmo? Pode ter confundido com o fundo da imagem, com uma cor ou com um cartaz”, diz Shane. 

Actualmente, a tecnologia é usada para ajudar carros autónomos a reconhecer objectos na estrada e para classificar imagens na Internet. Para evitar ser injusta com os seus resultados, Shane também testa algumas das experiências em interfaces de reconhecimento de imagens profissionais, como o da Microsoft, que pode ser usado online. “É fácil ver que mesmo os algoritmos de topo dependem de probabilidades e sorte”, escreve no seu site, numa imagem em que a plataforma da Microsoft confundiu cabras com girafas. As redes de Shane tinham visto pássaros.

“Assumimos demasiado sobre a informação que vem das redes neuronais”, alerta. “Eu tento confundir as redes neuronais e é engraçado quando me dizem que estão a ver gatos em vez de cabras… Mas as redes neuronais estão a ser treinadas para trabalhar ao nível da saúde, para identificar doenças, e a esse nível podem ser terríveis.”

Shane, porém, acredita que com humor se consegue chamar mais a atenção do que com avisos fatalistas e, ao mesmo tempo, mostrar os desafios e o potencial da tecnologia. No tempo livre, além do blogue, está a trabalhar num livro para ajudar pessoas a compreender o conceito básico da inteligência artificial através de vinhetas de banda desenhada. “Uma das coisas que mais me animam é quando recebo mensagens de pessoas que disseram que começaram a aprender sobre redes neuronais com o meu blogue.”

PÚBLICO -
Foto
A investigadora Janelle Shane Janelle Shane

São também cada vez mais as pessoas que contactam Shane com bases de dados para ensinar as suas redes. Desde a biblioteca do Instituto de Tecnologia de Massachusetts (MIT), que forneceu milhares de títulos de teses, a advogados que lhe mandam as leis de estados americanos, à BBC, que enviou o nome das mais de seis mil bandas que actuaram no festival de música SXSW (South by Southwest), nos EUA. Como a quantidade de dados que usa é cada vez maior, Shane passou a pagar para armazenar a informação em servidores de empresas. Parte dos fundos é angariada através da venda de T-shirts desenhadas pelas redes neuronais.

“É importante perceber que a tecnologia está longe de ser perfeita, mas temos de começar a aprender como funciona”, frisa a investigadora. “Ainda há muito por explorar. Temos as redes que identificam imagens, temos redes que identificam se os sentimentos num texto ou imagem são positivos ou negativos, temos aquelas que trabalham com palavras”, enumera a investigadora. “No futuro, quero trabalhar com redes ainda mais complexas. É importante deixar as redes neuronais serem estranhas.”