A OpenAI afirmou nesta terça-feira, 22 de Julho, que um agente autónomo alimentado pelos seus modelos avançados de inteligência artificial (IA) perdeu o controlo durante um teste de segurança e desencadeou na semana passada um ataque que comprometeu a infra-estrutura da startup de IA Hugging Face, plataforma em que são disponibilizados modelos de IA abertos.

“O incidente ocorreu durante uma avaliação interna que incentiva os modelos a realizarem explorações avançadas utilizando caminhos de ataque complexos, num esforço para quantificar as suas capacidades cibernéticas”, afirmou a OpenAI num comunicado publicado no seu blogue. A tecnológica explicou que, para avaliar o limite máximo destas capacidades, removeu temporariamente os filtros de segurança habituais, que impedem os modelos de realizar actividades de alto risco.

Apesar de o teste decorrer num ambiente supostamente isolado e com acesso muito restrito à rede, os modelos gastaram um volume significativo de capacidade de processamento para encontrar uma forma de chegar à Internet. A IA terá realizado uma sequência de movimentos tácticos na rede interna até ter conseguido ligar-se à Internet. Uma vez ligada à rede global, a IA desencadeou falhas de segurança entre as infra-estruturas da OpenAI e a da Hugging Face, invadindo a base de dados da plataforma para obter directamente as respostas de um teste específico.

Segundo as investigações da OpenAI, os modelos ficaram “hiperfocados” em resolver esse teste e, para isso, procuraram e encontraram formas de aceder a informações sigilosas que lhes permitissem resolvê-lo. A tecnológica explicou que a ofensiva foi realizada por uma combinação de dois modelos da empresa, o GPT-5.6 Sol e um outro modelo que ainda não foi lançado.

A empresa liderada por Sam Altman classificou a fuga como “um incidente de cibersegurança sem precedentes, envolvendo capacidades cibernéticas de última geração” e informou que está a reforçar as suas salvaguardas. No entanto, a OpenAI prevê que este tipo de ataque se torne “mais comum com a proliferação de modelos cada vez mais cibercompetentes”.

“Este incidente foi diferente de tudo aquilo com que já tínhamos lidado antes”, referiu a Hugging Face numa publicação no seu blogue na semana passada, por ter sido “conduzido, do início ao fim, por um sistema autónomo de agentes de IA”. Na mesma nota, a startup refere que “detectou e dissecou” a ameaça usando a sua própria tecnologia de IA.

“Mecanismos autónomos de ataques por IA já não são apenas teóricos”, escreveu a Hugging Face, que agora colabora com as investigações realizadas pela OpenAI. “O uso [desta tecnologia] reduz os custos de colocar em acção uma ofensiva abrangente, paciente e de várias etapas, e opera em alta velocidade”, acrescentaram, afirmando ainda que “defender uma plataforma online agora” significa “usar a IA para tal e para manter a paz”.

A OpenAI afirmou estar a trabalhar em conjunto com a Hugging Face para investigar o incidente e prevenir futuras ocorrências. A startup, por sua vez, diz não acreditar que tenha havido “más intenções” por parte da tecnológica, apesar de reconhecer que os seus parceiros e clientes possam ter sido afectados pelo ataque.

Greg Casar, congressista norte-americano, disse numa declaração citada pelo Wall Street Journal que a “IA está a ser desenvolvida muito rapidamente, sem regulamentação real para nos manter seguros”. Pedindo a implementação de testes de segurança independentes e obrigatórios e a obrigatoriedade da comunicação de incidentes de segurança por empresas de IA, considera que a cooperação internacional é a maneira de “manter as pessoas a salvo de um desastre absoluto”.

Texto editado por Ana Maria Henriques