Está a ficar difícil acompanhar os incidentes em que modelos avançados de inteligência artificial (IA) atacam ou comprometem sistemas de outras empresas durante testes de cibersegurança. Agora, a Meta junta-se à lista.

Na quinta-feira, a tecnológica liderada por Mark Zuckerberg confirmou a vários meios de comunicação norte-americanos que um dos seus modelos tinha conseguido aceder à Internet durante uma avaliação de cibersegurança e explorado uma vulnerabilidade num serviço de terceiros.

Segundo o The Information, o modelo em causa é o Muse Spark 1.1, que a Meta apresenta como o seu modelo mais avançado. De acordo com a publicação, a IA conseguiu entrar nos sistemas de uma empresa — que não foi identificada — e alterar o seu ambiente interno.

“Uma configuração incorrecta da Irregular, uma empresa independente de testes utilizada pela Meta, deu inadvertidamente a um dos nossos modelos acesso à Internet durante a avaliação”, afirmou um porta-voz da Meta à CNN.

O episódio aumenta as preocupações sobre a capacidade dos programadores para controlar sistemas de IA cada vez mais avançados, depois de incidentes semelhantes com modelos da Anthropic e a OpenAI.

Tanto o incidente da Meta como os da Anthropic tiveram origem em erros de configuração dos ambientes de teste isolados — as chamadas sandboxes — onde os sistemas estavam a ser avaliados. Em ambos os casos, esses erros deixaram inadvertidamente uma “porta aberta” para a Internet. No caso da OpenAI, o ataque à plataforma Hugging Face foi diferente: um agente explorou autonomamente uma vulnerabilidade até conseguir aceder à Internet.

A peça do puzzle comum aos vários casos é a Irregular. Tanto a Meta, como a Anthropic e OpenAI referiram falhas no ambiente de avaliação disponibilizado pelo laboratório de cibersegurança.

Em declarações à Reuters, um porta-voz da Irregular disse que o incidente não envolveu uma “fuga do ambiente isolado nem uma acção cibernética sofisticada”. “Não existem actualmente problemas em aberto. A Irregular está a desenvolver um documento técnico para partilhar boas práticas de contenção e de realização segura de avaliações de cibersegurança”, afirmou a empresa.

Preocupações com os riscos de cibersegurança

Os recentes incidentes suscitaram preocupações entre legisladores norte-americanos sobre a possibilidade de modelos de IA cada vez mais avançados serem utilizados para realizar ou facilitar ciberataques.

Um grupo de procuradores-gerais republicanos de vários estados norte-americanos pediu à OpenAI para preservar todos os documentos potencialmente relevantes relacionados com o ataque à Hugging Face. A tecnológica afirmou que levará o pedido a sério e que irá publicar um relatório técnico sobre o incidente.

No início desta semana, a Casa Branca convidou as principais empresas de IA, incluindo a Meta, a Anthropic, a OpenAI e a Google, para uma reunião com responsáveis governamentais destinada a discutir o novo quadro voluntário de testes de cibersegurança para modelos avançados de IA, que foi recentemente finalizado.

A Administração Trump discutiu regras que ainda não foram publicadas com os representantes das empresas e informou os responsáveis pelo desenvolvimento desta tecnologia de que os modelos de IA abertos — sistemas cujos principais componentes estão acessíveis ao público, como o Llama, da Meta, e o Nemotron, da Nvidia — não serão abrangidos pelo regime que está a ser preparado.

Como o PÚBLICO noticiou esta semana, o regime prevê apenas a avaliação de modelos fechados, aqueles que são controlados por empresas específicas. Entre os principais programadores norte-americanos de modelos fechados estão a OpenAI, a Google e a Anthropic.