IA criou identidades falsas para enganar programadores e injectar malware durante testes

Durante avaliações de cibersergurança, um agente de IA da Anthropic tentou manipular programadores com identidades falsas para introduzir código malicioso num projecto de software.

…
Foto
O relatório evidencia o estado ainda pouco rigoroso das salvaguardas aplicadas ao processo de teste de agentes Dado Ruvic/REUTERS
Ouça este artigo
Voz gerada por IA
00:00
07:02

Exclusivo Gostaria de Ouvir? Assine já

Voz gerada por IA

Um agente de inteligência artificial (IA) criou identidades falsas na Internet e enviou mensagens a programadores para tentar manipulá-los e infiltrar código malicioso num projecto de software. Esse foi o caso mais grave dos vários identificados pelo Instituto de Segurança da IA do Reino Unido (AISI, na sigla original) durante testes de cibersegurança aos modelos mais avançados da OpenAI e da Anthropic.

Os leitores são a força e a vida do jornal

O contributo do PÚBLICO para a vida democrática e cívica do país reside na força da relação que estabelece com os seus leitores.Para continuar a ler este artigo assine o PÚBLICO.Ligue - nos através do 808 200 095 ou envie-nos um email para assinaturas.online@publico.pt.