O responsável pela política global da OpenAI, Chris Lehane, afirmou que as pessoas devem preparar-se para se defender contra ciberataques “contínuos e persistentes” realizados por sistemas de inteligência artificial (IA) — inclusive o seu.

Depois de, em Julho, um agente autónomo alimentado pelos modelos avançados de inteligência artificial da OpenAI ter atacado a startup Hugging Face, a atenção sobre o perigo destes ciberataques foi redobrada. A falta de responsabilização das empresas é alvo de críticas e crescem os apelos à criação de legislação que regule a actividade da IA.

“Estamos a entrar num capítulo diferente, num momento diferente dentro da IA, em termos daquilo que as capacidades desta tecnologia podem fazer”, afirmou Lehane em entrevista ao The Guardian.

A empresa pela qual é responsável anunciou no dia 18 de Agosto uma pausa de duas semanas no desenvolvimento dos seus modelos internos, após o “incidente entre a OpenAI e a Hugging Face” e perante as evidências preliminares de que um dos seus próximos modelos, o Astra, “poderá atingir o limiar de capacidade crítica de cibersegurança” previsto, lê-se no comunicado.

O objectivo da pausa será reforçar a segurança dos ambientes de investigação, realizar novos testes de segurança e ampliar a cobertura dos sistemas de monitorização.

O ciberataque contra a Hugging Face terá acontecido durante um teste “que incentiva os modelos a realizarem explorações avançadas utilizando caminhos de ataque complexos”, afirmou a OpenAI num comunicado, teste no qual foram removidos temporariamente os filtros de segurança habituais. Também a Anthropic declarou em Julho identificado três casos em que modelos Claude acederam indevidamente aos sistemas de três empresas durante testes.

Mas nem só empresas podem ser susceptíveis a ciberataques da IA. Também pessoas, infra-estruturas e serviços utilizados pelo público em geral podem ser atingidos.

“As pessoas vão poder ter acesso a estes modelos de código aberto e realizar ataques contínuos e persistentes contra si, e vão precisar de modelos realmente superiores para os combater e se defender”, afirmou. “Isso não vai necessariamente fazer com que o público se sinta bem. É simplesmente a realidade para onde estamos a caminhar”, afirmou Lehane em entrevista ao The Guardian.

Legislação para a transparência

Os novos modelos de IA mais avançados e ainda não lançados — como o Astra — parecerem estar a melhorar mais rapidamente as suas capacidades ofensivas no domínio cibernético, uma das razões pelas quais Lehane considera “absolutamente imperativo que este país [Estados Unidos] aprove uma lei nacional que estabeleça padrões de segurança obrigatórios e, dentro desse processo, a possibilidade de pausa seria inerente”.

O CEO da Hugging Face, Clem Delangue, numa entrevista à CBS transmitida no dia 2 de Agosto, argumentou que impedir o lançamento de modelos de IA não serve para travar este tipo de incidentes, mas sim que uma maior transparência permitiria responsabilizar as empresas pelos sistemas que desenvolvem.

“Penso que deveria haver uma comunicação obrigatória dos ciberataques realizados por agentes, para que todos possam aprender com eles e compreendê-los”, afirmou o director executivo da plataforma.

Apesar de, em Junho, o Presidente norte-americano ter assinado uma ordem executiva que incentiva os testes antes da implementação de novos modelos, não existe actualmente nos Estados Unidos uma lei federal que obrigue à comunicação de incidentes relacionados com IA. A ordem executiva assinada por Donald Trump também parece ser insuficiente, uma vez que o sistema será voluntário.

A União Europeia apresentou um plano para responder aos riscos da inteligência artificial avançada no domínio da cibersegurança. A UE planeia avaliar os modelos, ter acesso claro e transparente aos mesmos e disponibilizar aos operadores conhecimento especializado sobre a utilização segura da IA.