Antes dos quatro dias de afastamento do director executivo da OpenAI, Sam Altman, vários investigadores da equipa tinham escrito uma carta ao conselho de administração em que alertavam para uma poderosa descoberta de inteligência artificial (IA) que, segundo eles, poderia ameaçar a humanidade, disseram à Reuters duas pessoas familiarizadas com o assunto.

O conteúdo da carta, desconhecida até agora, e o algoritmo de IA foram os principais desenvolvimentos antes da expulsão de Altman do conselho, o rosto da IA generativa na empresa, disseram as duas fontes. Antes de seu regresso triunfante na terça-feira, mais de 700 funcionários tinham ameaçado demitir-se e juntar-se à Microsoft em solidariedade com o director afastado.

As fontes citaram a carta como um factor entre uma lista mais longa de queixas ao conselho de administração que levaram à demissão de Altman. Entre as queixas estavam as preocupações com a comercialização de avanços na tecnologia antes de compreender as suas consequências. A Reuters não conseguiu analisar uma cópia da carta e os funcionários que a escreveram não responderam aos pedidos de comentário.

Contactada pela Reuters, a OpenAI, que se recusou a comentar, reconheceu numa mensagem interna enviada aos funcionários a existência de um projecto chamado Q* (lê-se Q-Star) e uma carta dirigida ao conselho de administração antes dos acontecimentos do fim-de-semana, disse uma das fontes. Um porta-voz da OpenAI disse que a mensagem, enviada pela executiva de longa data Mira Murati, alertava os funcionários para alguns artigos na comunicação social, sem comentar a sua exactidão.

Algumas pessoas a trabalhar na OpenAI acreditam que o Q* pode ser um avanço na investigação da empresa do que é conhecido como “inteligência artificial geral” (AGI, na sigla inglesa), disse uma delas à Reuters. A OpenAI define AGI como sistemas autónomos que superam os humanos nas tarefas mais valiosas do ponto de vista económico.

Com vastos recursos de computação, o novo modelo foi capaz de resolver problemas matemáticos, disse a fonte sob anonimato, porque não estava autorizada a falar em nome da empresa. Apesar de só conseguir resolver problemas matemáticos ao nível dos alunos do ensino básico, o facto de ter sido bem-sucedido nestes testes deixou os investigadores muito optimistas quanto ao futuro sucesso do Q*, disse a fonte. A Reuters não conseguiu verificar de forma independente as alegadas capacidades da Q* referidas pelos investigadores.

Véu de ignorância

Os investigadores consideram a matemática como uma fronteira do desenvolvimento da IA generativa. Actualmente, esta tecnologia é boa na escrita e na tradução de línguas, prevendo estatisticamente a palavra seguinte, e as respostas à mesma pergunta podem variar muito. Mas conquistar a capacidade de fazer contas — com as quais só há uma resposta correcta — implica que a IA teria maiores capacidades de raciocínio, semelhantes às da inteligência humana. Segundo os investigadores de IA, isto poderia ser aplicado, por exemplo, em novas investigações científicas.

Ao contrário de uma calculadora que pode resolver um número limitado de operações, a IA pode generalizar, aprender e compreender. Na carta que enviaram ao conselho de administração, os investigadores assinalaram as proezas da IA e o seu potencial perigo, afirmaram as fontes, sem especificar as preocupações de segurança exactas referidas na carta. Há muito que se discute entre os cientistas informáticos o perigo que representam as máquinas altamente inteligentes — por exemplo, se estas podem decidir que a destruição da humanidade é do seu interesse.

Os investigadores também assinalaram o trabalho de uma equipa de “cientistas de IA”, cuja existência foi confirmada por várias fontes. O grupo, formado pela combinação das anteriores equipas Code Gen e Math Gen, estava a explorar a forma de optimizar os modelos de IA existentes para melhorar o seu raciocínio e, eventualmente, realizar trabalho científico, disse uma das fontes.

Altman dirigiu os esforços para tornar o ChatGPT uma das aplicações de software de crescimento mais rápido da história e atraiu o investimento — e os recursos informáticos — necessários da Microsoft para se aproximar da AGI. Para além de ter anunciado uma série de novas ferramentas numa demonstração este mês, Altman expressou, na semana passada, numa cimeira de dirigentes mundiais em São Francisco, a convicção de que estavam à vista grandes avanços.

“Quatro vezes na história da OpenAI, a mais recente das quais nas últimas duas semanas, tive a oportunidade de estar na sala, quando puxámos o véu da ignorância para trás e a fronteira da descoberta para a frente. Fazer isso é uma honra na vida de um profissional”, disse na cimeira da Cooperação Económica Ásia-Pacífico. Um dia depois, a direcção da OpenAI demitiu Altman.

Tradução: Marta Leite Ferreira