Numa rara demonstração de consenso entre empresas de inteligência artificial (IA), os alertas sobre os riscos do uso destes modelos estão a levar algumas das principais empresas do sector a defender uma abordagem mais cautelosa ao desenvolvimento da tecnologia. Sam Altman, da OpenAI, e Elon Musk, da SpaceXAI, concordaram publicamente com os riscos manifestados pelo director da Anthropic. A OpenAI poderá, entretanto, adiar a entrada em bolsa.

O investigador de inteligência artificial Jacob Coxon, da Anthropic, esteve na origem da polémica que marcou esta semana o debate sobre a segurança da IA e os riscos que o seu desenvolvimento pode representar para a humanidade. Ao demitir-se da empresa, na terça-feira, alertou para o desenvolvimento de modelos de inteligência artificial “superinteligentes”, capazes de se aperfeiçoarem a um ritmo superior ao da supervisão humana.

O presidente executivo da empresa em questão, Dario Amodei, aconselhou as empresas de IA a adoptarem uma abordagem mais comedida no seu desenvolvimento. “Temos de abrandar o ritmo a que melhoramos as capacidades dos modelos de IA”, escreveu o responsável num ensaio publicado na rede social X.

As preocupações demonstradas por Dario foram acompanhadas pelos outros representantes do sector. Sam Altman, da OpenAI, fez uma publicação onde concordava com os alertas. “Concordo com o Dario na medida em que precisamos de controlar o ritmo da inovação. Este tem sido um dos principais temas das discussões que temos tido na OpenAI nas últimas semanas”, lia-se.

“Dario tem razão”, escreveu Elon Musk na rede social X, ao apoiar publicamente as propostas do presidente executivo da Anthropic. Musk lidera a xAI, empresa responsável pelo desenvolvimento do Grok. No seguimento, Demis Hassabis, responsável pela Google DeepMind, também defendeu uma desaceleração do desenvolvimento da tecnologia, invocando a necessidade de “excesso de cautela”. A Meta ainda não se pronunciou sobre a discussão.

Contudo, os alertas sobre a segurança da IA não abrandaram os planos da Anthropic para a entrada na bolsa de valores. Prevê-se que a empresa comece a promover a sua oferta pública inicial, o mais tardar, em meados de Outubro e conclua a cotação na bolsa alguns dias antes das eleições intercalares nos EUA, que se realizam em Novembro, segundo a Reuters.

Jacob Coxon, ao demitir-se, alertou ainda que as pessoas que desenvolvem a inteligência artificial têm consciência de que a tecnologia “pode matar a humanidade até ao final da década”. O aviso surgiu depois de agentes artificiais da OpenAI — empresa responsável pelo ChatGPT – terem conseguido sair de um sistema de testes e de migrar para um site de desenvolvimento de inteligência artificial da Hugging Face, ou seja, invadiram sistemas externos e actuaram de forma coordenada com o objectivo de cumprir uma tarefa que lhes tinha sido proposta pelos criadores.

Este tipo de episódio não deve ser encarado como um caso isolado, indica o ex-investigador da Anthropic. Têm sido registados incidentes semelhantes, embora menos graves, noutras empresas do sector. Jacob Coxon apela a que as empresas tecnológicas adoptem medidas de segurança como se o incidente tivesse acontecido com os seus próprios modelos.

OpenAI adia entrada na bolsa

A OpenAI poderá não entrar na bolsa de valores em 2026, afirmou o director executivo Sam Altman em declarações publicadas neste sábado na revista Fortune. Esta estreia na bolsa de valores no segundo semestre do ano é muito aguardada por Wall Street e a empresa pretendia ser avaliada em mais de um trilião de dólares (cerca de 860 biliões de euros), o que faria da entrada em bolsa da OpenAI a segunda maior de toda a história dos Estados Unidos da América (EUA), superada apenas pela SpaceX.

Quando questionado sobre se a data de entrada na bolsa prevista para 2026 estava fora de questão, Altman respondeu: “Diria que não será em 2026”. Já em Junho, o New York Times tinha noticiado que a OpenAI, sediada em São Francisco, estava a ponderar adiar para o ano de 2027 uma oferta pública de venda inicial (IPO) na bolsa de valores que poderia atingir um trilião de dólares.

“Na verdade, penso que, tendo em conta tudo o que se passa em matéria de segurança, neste momento seria imprudente abrir o capital, e não sentimos qualquer pressão nesse sentido”, afirmou Altman à revista de negócios norte-americana. Esta decisão tinha ainda sido anunciada aos funcionários da empresa em Agosto pela directora financeira, Sarah Friar, mas esta entrevista à Fortune foi a primeira vez que a decisão foi relacionada expressamente com a questão das falhas de segurança no uso da inteligência artificial.

Sobre se existe uma probabilidade de 10% de uma extinção provocada pela IA, Altman questionou como foi feita tal estimativa, mas alertou que o risco será suficientemente grave para que as empresas do ramo e os governos agissem em conformidade. “Quer sejam dez, oito ou seis, importa que todos tenhamos uma enorme responsabilidade e não podemos deixar que os egos, os incentivos ao lucro ou qualquer outra coisa se intrometam”, defendeu o director executivo.

Sam Altman também sugeriu que a OpenAI e outras empresas do sector da IA possam estar a preparar um acordo para abrandar o desenvolvimento da inteligência artificial e a trabalhar em conjunto para fazer face aos riscos de segurança, segundo a revista Fortune. “Temos muito que fazer, como responder a este momento em que é necessário garantir a segurança e o alinhamento, e definir como a indústria e os governos podem trabalhar em conjunto”, disse.