Dois meses depois de a OpenAI ter admitido o ataque informático à Hugging Face, a empresa responsável pelo ChatGPT reconhece agora que os seus agentes de Inteligência Artificial (IA) acederam a informações dos sites da Comissão de Valores Mobiliários dos Estados Unidos e dos Censos dos EUA durante actividades de investigação e treino. A tecnológica diz não ter encontrado provas de acesso não autorizado, contas comprometidas ou falhas de segurança.

Separadamente, a Transluce, uma organização sem fins lucrativos dedicada à investigação em IA, afirmou que agentes que aparentavam ter origem na OpenAI fizeram uma tentativa falhada de piratear um site do Departamento de Educação dos EUA dedicado aos direitos civis. A Transluce afirmou que o incidente fazia parte de uma actividade mais ampla de agentes de IA que sondavam sítios governamentais, utilizando tácticas que incluíam credenciais expostas, formas de contornar sistemas anti-bot e contas falsas.

O The New York Times avança que o acesso ao site dos Censos foi conseguido através de passwords encontradas online, com os agentes de IA da OpenAI a extraírem os dados após conseguirem acesso à infra-estrutura informática. Foram ainda partilhados em fóruns públicos dados da Comissão de Valores Mobiliários dos EUA por estas ferramentas da OpenAI.

Segundo fontes ouvidas pela Reuters, a Open AI continua a tentar compreender a verdadeira dimensão da actividade dos seus agentes de inteligência artificial que actuaram de forma indevida.

Ainda nesta sexta-feira, a OpenAI confirmou que os seus agentes tinham divulgado 53 imagens de utilizadores do ChatGPT, recusando dizer se as imagens tinham sido geradas por IA ou se identificavam pessoas reais. A empresa também recusou dizer quando é que as imagens foram publicadas.

A divulgação e os relatos de investigadores, na sexta-feira, sobre outras actividades anteriormente desconhecidas envolvendo várias agências norte-americanas mostram a dificuldade que até uma empresa de IA na vanguarda da tecnologia enfrenta para inventariar toda a actividade não autorizada associada aos seus agentes. A luta contínua da OpenAI reflecte também um enorme fosso entre a capacidade dos modelos que a empresa está a testar e a sua capacidade para supervisionar ou sequer acompanhar as suas acções.

Em meados de Setembro, uma fonte com conhecimento do dossier estimou que a OpenAI tinha identificado cerca de duas dezenas de incidentes em que os seus agentes tinham actuado de formas indesejáveis. Mas o número continuou a aumentar à medida que as equipas da OpenAI analisavam os registos internos das actividades dos agentes e encontravam casos anteriormente desconhecidos, segundo as duas fontes próximas da empresa ouvidas pela Reuters.

A OpenAI afirmou que a sua análise demoraria meses a concluir, dada a dimensão do trabalho. A empresa disse também ter notificado dezenas de terceiros sobre actividades indevidas.

Quanto às imagens de utilizadores, a OpenAI garante que maioria já foi retirada e diz estar a pressionar os fornecedores de alojamento para remover as restantes.

Os agentes da OpenAI tiveram acesso a estas imagens porque a empresa recorre a dados de utilizadores anonimizados como parte do processo de treino dos seus modelos, segundo a empresa, antigos funcionários e investigadores externos. Os dados empresariais não são elegíveis para treino, enquanto os consumidores do ChatGPT têm de optar por não permitir que a empresa utilize os seus dados para esse fim.

Antes de as publicações dos utilizadores serem utilizadas para treino, passam por um processo de anonimização que elimina metadados, nomes e outras informações de contacto e que deverá dificultar a sua associação a qualquer utilizador individual, afirmou a empresa.

Mas esta prática acarreta riscos, uma vez que existe a possibilidade de os dados não serem totalmente desprovidos de informações de identificação pessoal e de estas poderem ser divulgadas durante o trabalho do modelo, disseram três pessoas familiarizadas com as práticas da OpenAI.

Mais de 15 casos

Nos dois meses desde que a OpenAI admitiu pela primeira vez que os seus agentes tinham escapado às medidas de contenção, foram divulgados mais de 15 incidentes distintos relacionados com a OpenAI, de diferentes níveis de gravidade, pela própria empresa, por investigadores externos ou — esta quarta-feira — pelo primeiro-ministro australiano Anthony Albanese, nas Nações Unidas, que afirmou que agentes da OpenAI tinham entrado num portal governamental de dados de saúde em Junho.

Os incidentes anteriores foram de natureza diversa, desde mensagens semelhantes a spam deixadas em sites até à intrusão na Hugging Face, que envolveu um conjunto de agentes que exploraram vulnerabilidades de software anteriormente desconhecidas para escapar às suas redes e penetrar no repositório de IA enquanto procuravam respostas para um teste. A OpenAI afirmou também que os seus agentes visaram a sua própria infra-estrutura.

Albanese disse aos jornalistas, em Nova Iorque, que a OpenAI descobriu a actividade em Agosto e a divulgou em 10 de Setembro através de uma mensagem de correio electrónico enviada para uma caixa de entrada governamental geral. Afirmou ter dito directamente ao director-executivo da OpenAI, Sam Altman, que esse processo de divulgação era inaceitável.

A OpenAI afirmou que alguns dos sites envolvidos são operados por entidades governamentais, universidades e agências públicas, porque os modelos que realizam investigação procuram fontes credíveis de informação pública.