Legisladores norte-americanos apresentaram na quinta-feira uma proposta de lei denominada “AI Kill Switch Act” (em português, Lei do interruptor de emergência para IA), que permitiria às autoridades federais ordenar às empresas que interrompessem o funcionamento de modelos de IA considerados uma ameaça para vidas humanas ou para a economia.

A proposta surge depois de a OpenAI ter revelado, esta semana, que um dos seus agentes de IA escapou às medidas de contenção durante um teste de segurança e desencadeou um ataque informático que comprometeu a infra-estrutura da startup de IA Hugging Face, uma plataforma onde programadores armazenam código e colaboram no desenvolvimento de modelos de inteligência artificial.

A iniciativa, apresentada pelo congressista democrata Ted Lieu e pelo republicano Nathaniel Moran, conferiria ao Departamento de Segurança Interna dos EUA poderes para intervir naquilo a que o projecto de lei chama “cenários de perda de controlo”, quando o modelo de IA executa uma acção de risco que não foi pedida pelo seu programador.

“Este é um projecto de lei bipartidário, de bom senso e urgente, baseado num princípio simples. Os humanos devem estar no controlo, não as máquinas. E quando a IA fica fora de controlo, os humanos devem ter a capacidade de a desligar”, escreveu Ted Lieu numa publicação na rede social X.

Além desta proposta, um grupo bipartidário de seis membros da Câmara dos Representantes dos EUA apresentou legislação que obrigaria os programadores dos modelos de IA mais avançados a submetê-los a auditorias independentes de segurança, de acordo com uma cópia da proposta de lei. Os auditores seriam acreditados pelo Departamento do Comércio dos EUA, que criaria igualmente um novo cargo para supervisionar a segurança dos sistemas de IA.

Casa Branca acompanha a situação

A criadora do ChatGPT afirmou estar a trabalhar em estreita colaboração com a Hugging Face para investigar o sucedido. O incidente, que a própria tecnológica classificou como “sem precedentes”, alarmou investigadores e executivos do sector, que, de forma generalizada, reconheceram a gravidade da situação.

Segundo um responsável da Casa Branca citado pela Reuters, Michael Kratsios, o principal conselheiro tecnológico de Trump, foi informado da divulgação feita pela OpenAI e está a acompanhar a evolução da situação.

O senador democrata Mark Warner afirmou, em comunicado, que falou com funcionários da OpenAI após o anúncio do incidente. Antes de a OpenAI divulgar o caso, na terça-feira, Warner já tinha proposto legislação que obrigaria as empresas responsáveis pelos modelos de IA mais avançados a submetê-los a testes da Agência de Segurança Nacional dos EUA (NSA) antes do seu lançamento público.

“É precisamente por isto que precisamos de testes seguros, com as agências governamentais envolvidas e com visibilidade sobre todo o processo”, afirmou Warner, referindo-se ao incidente da OpenAI.