Os administradores do RubyGems, uma infra-estrutura essencial para uma parte significativa do desenvolvimento de software, foram confrontados com uma vaga anómala de tráfego que sobrecarregou os servidores da plataforma.

Ao investigar o incidente, a equipa técnica concluiu que os pedidos provinham de vários endereços de rede associados à OpenAI. Segundo o relato publicado pela TechRadar, o tráfego terá sido gerado por agentes autónomos de inteligência artificial, e não por piratas informáticos envolvidos numa tentativa de extorsão ou sabotagem deliberada.

Na prática, o comportamento dos sistemas produziu efeitos semelhantes aos de um ataque distribuído de negação de serviço, conhecido pela sigla DDoS. Neste tipo de incidente, um elevado número de pedidos é dirigido, em simultâneo, a um servidor, reduzindo a sua capacidade de responder aos utilizadores legítimos.

O caso ilustra um dos riscos associados à nova geração de agentes de inteligência artificial. Quando recebem instruções amplas e actuam na Internet sem supervisão humana ou limites técnicos adequados, estes sistemas podem desencadear grandes volumes de tráfego, mesmo que não tenham sido concebidos com uma intenção maliciosa.

Uma biblioteca digital sob pressão

Para quem não trabalha em programação, o RubyGems pode parecer um serviço distante. Trata-se, porém, de um repositório central para a linguagem de programação Ruby, no qual os programadores publicam e descarregam pequenos componentes de software reutilizáveis, conhecidos como gems.

Estes componentes permitem acrescentar funcionalidades a aplicações sem que seja necessário desenvolver todo o código de raiz. Numerosos serviços digitais e aplicações empresariais recorrem ao repositório para instalar dependências, corrigir falhas e actualizar sistemas.

De acordo com a informação divulgada pelos responsáveis da plataforma, o RubyGems registou uma subida acentuada do número de pedidos por segundo. O tráfego, proveniente de diferentes endereços de rede associados à OpenAI, começou a afectar o desempenho da infra-estrutura.

A equipa de operações teve de adoptar medidas de emergência para limitar os acessos e preservar a disponibilidade do serviço para os restantes utilizadores. O episódio assemelha-se a uma situação em que centenas de visitantes entram numa biblioteca ao mesmo tempo e tentam consultar sucessivamente grande parte do catálogo, dificultando o atendimento dos leitores habituais.

Embora o efeito possa ser comparável ao de um ataque informático, a informação disponível não permite concluir que tenha existido a intenção de bloquear ou danificar o RubyGems. A designação de “ataque em enxame” descreve sobretudo o padrão e a intensidade do tráfego observados.

O risco de agentes sem limites

A principal diferença entre os agentes de inteligência artificial e as ferramentas de conversação mais comuns reside no grau de autonomia. Em vez de aguardarem por cada instrução do utilizador, os agentes podem receber uma missão genérica, dividi-la em várias etapas e executar sucessivamente diferentes acções.

Uma tarefa como examinar um catálogo de software, recolher documentação ou procurar vulnerabilidades pode, assim, gerar dezenas ou milhares de pedidos automáticos. Se vários agentes executarem a mesma missão em paralelo e não respeitarem limites de frequência, o resultado pode ser uma sobrecarga involuntária dos serviços consultados.

O risco é particularmente elevado em infra-estruturas abertas mantidas por comunidades de programadores, que nem sempre dispõem dos recursos técnicos e financeiros das grandes plataformas tecnológicas. Um volume de tráfego comportável para uma multinacional pode ser suficiente para perturbar um projecto de menor dimensão.

Segundo a TechRadar, os responsáveis pelo RubyGems consideram que os pedidos não respeitaram regras elementares aplicáveis à recolha automatizada de informação. Entre essas práticas encontram-se a limitação da frequência dos acessos, a identificação clara dos sistemas automáticos e o cumprimento das instruções publicadas pelos administradores de cada serviço.

O episódio reforça, por isso, a necessidade de os criadores de agentes de inteligência artificial incorporarem mecanismos de controlo antes de lhes permitirem actuar livremente na Internet. Esses mecanismos podem incluir limites de pedidos, pausas automáticas, coordenação entre agentes e intervenção humana quando um serviço começa a responder com erros ou sinais de congestionamento.

A informação disponível, baseada no relato dos responsáveis pelo RubyGems reproduzido pela TechRadar, não esclarece se a OpenAI foi alertada para o incidente nem se adoptou medidas posteriores. Também não é conhecida, até ao momento, uma explicação pública da empresa sobre o comportamento atribuído aos seus sistemas.