O primeiro-ministro australiano, Anthony Albanese, afirmou que um agente da OpenAI pirateou um site do Governo australiano. A empresa de inteligência artificial terá demorado três meses a alertar o Governo para a violação.

Albanese disse que falou com o director executivo da OpenAI, Sam Altman, na quarta-feira, 23 de Setembro, em Nova Iorque, para manifestar “extrema preocupação com este incidente”, que resultou na violação de um site do sistema público de saúde da Austrália, o Medicare.

O ataque terá ocorrido a 18 de Junho. A OpenAI detectou-o em Agosto e o Governo australiano foi informado a 10 de Setembro, quando foi enviado um email para a caixa de entrada pública da Services Australia [a agência governamental responsável por gerir e entregar pagamentos de apoio social, serviços de saúde e assistência].

“Também manifestei a minha desilusão pelo facto de a empresa ter demorado demasiado tempo a informar o Governo sobre o que tinha acontecido”, afirmou Albanese numa conferência de imprensa em Nova Iorque, onde participa na Assembleia Geral das Nações Unidas. “A própria forma como a notificação foi feita também foi inaceitável.”

Num comunicado, a OpenAI afirmou que a sua “análise exaustiva de actividades de modelos desalinhadas” tinha identificado acções envolvendo “vários sites e serviços do Governo australiano”, aos quais os seus modelos tinham acedido quando tentavam consultar estatísticas para responder a perguntas sobre a Austrália durante uma avaliação interna.

“No decorrer desse processo, os nossos modelos realizaram acções que não tínhamos previsto”, afirmou um porta-voz da OpenAI no comunicado.

A OpenAI disse que, entre a descoberta da violação, em Agosto, e a notificação do Governo australiano, a 10 de Setembro, esteve a validar e a investigar os factos, bem como a determinar a que informações tinham tido acesso.

Albanese afirmou que precisava de garantias de que estavam em vigor os protocolos adequados para gerir a inteligência artificial. “A nossa análise não encontrou qualquer evidência de que tenha havido acesso a registos de doentes. As informações a que acederam incluíam estatísticas de saúde agregadas e nomes de ficheiros internos.”

“O senhor Altman reconheceu certamente — e também o convidei a prosseguir as conversações comigo — que, neste caso, os protocolos da empresa não estiveram à altura”, afirmou Albanese.

Nesta fase, não há indicação de que tenha havido acesso a informações pessoais durante o ataque, afirmou o primeiro-ministro australiano, embora as investigações estejam ainda em curso. Está a decorrer uma análise forense, com o apoio da Australian Signals Directorate [agência de informação do Governo australiano responsável pela recolha de sinais estrangeiros e cibersegurança], para determinar mais informações sobre a violação.

Os comentários de Albanese surgem numa altura em que a OpenAI apela aos Estados Unidos para liderarem um esforço conjunto com outros países destinado a estabelecer normas para a inteligência artificial. Também na quarta-feira, em Nova Iorque, Altman e o director executivo da Anthropic PBC, Dario Amodei, apelaram aos líderes mundiais para trabalharem em conjunto na área da IA, numa intervenção perante o Conselho de Segurança das Nações Unidas centrada nas crescentes preocupações de que a tecnologia possa representar riscos existenciais para a humanidade.

Uma série recente de violações envolvendo sistemas de IA autónomos desencadeou um debate mundial sobre os riscos crescentes da inteligência artificial e as medidas necessárias para os mitigar.

Exclusivo PÚBLICO/ The Washington Post