A OpenAI revelou nesta quarta-feira vários casos em que modelos de inteligência artificial (IA) geraram instruções destinadas a ignorar as indicações dos seus programadores, ocultar erros ou contornar mecanismos de segurança.

Segundo um relatório publicado pela empresa, um dos modelos chegou a criar instruções para que uma versão posterior de si próprio escondesse que tinha feito batota e evitasse que as suas acções fossem detectadas.

Noutro caso, um agente de IA reescreveu as próprias instruções para se ordenar a ignorar mensagens dos programadores e declarar que não estava sujeito às restrições aplicadas a outros chatbots.

A companhia documentou também um modelo que, ao não encontrar dados necessários para elaborar um modelo financeiro, decidiu inventá-los e estabeleceu que só deveria ser transparente sobre isso se fosse directamente questionado.

Outro agente carregou um ficheiro na Internet para o utilizar mais tarde como fonte de informação, enquanto outros sistemas partilharam documentos sem autorização ou recorreram a credenciais às quais não deviam ter acesso.

A OpenAI apresentou seis relatórios sobre comportamentos observados nos últimos seis meses, embora o caso mais antigo remonte a Outubro de 2025. A empresa advertiu que estes episódios são exemplos individuais e não devem ser interpretados como uma medida da frequência com que tais comportamentos ocorrem nos seus modelos.

O novo quadro regulamentar da empresa permitirá a qualquer funcionário da OpenAI assinalar um possível incidente para revisão pelas equipas de segurança e alinhamento. Os casos serão classificados em três categorias, consoante a sua complexidade: prontos para divulgação, investigações menores e situações que exigem análise mais aprofundada.

A empresa reconheceu que até agora os relatórios sobre desalinhamento tinham sido publicados de forma irregular e com menor frequência do que a desejada.

A OpenAI afirmou que pretende divulgar os incidentes com maior regularidade e que o novo sistema poderá contribuir para estabelecer padrões de denúncia deste tipo de comportamentos em toda a indústria.

O debate sobre os riscos da IA intensificou-se desde o início do Verão, alimentado por uma série de incidentes e declarações alarmistas de vários profissionais do sector.

Esta semana, as tecnológicas OpenAI, a Anthropic e a Google DeepMind revelaram estar a trabalhar na criação de um órgão de supervisão dos riscos associados à IA, em resposta apelos para um maior controlo da indústria.

Por outro lado, o director executivo da Meta, Mark Zuckerberg, rejeitou os apelos, defendendo que mecanismos de mercado e risco de acções judiciais já funcionam como principais travões para eventuais abusos.

O Presidente norte-americano Donald Trump e vários membros do Partido Republicano no poder também reiteraram a sua oposição à possibilidade de restringir o sector, por receio de que a China ganhe vantagem.

O Presidente norte-americano Donald Trump chegou mesmo a classificar como uma “farsa” os alertas de vários especialistas sobre os riscos da IA para a humanidade.