O Grok, o chatbot desenvolvido pela empresa xAI, fundada por Elon Musk, removeu na terça-feira publicações nas redes sociais que classificou como "inapropriadas", após queixas de utilizadores do X e da Liga Anti-Difamação (ADL), segundo as quais o Grok produziu conteúdos com estereótipos anti-semitas e elogios a Adolf Hitler.

Questões como enviesamentos políticos, discurso de ódio e falta de rigor nos chatbots de IA têm sido motivo de preocupação desde, pelo menos, o lançamento do ChatGPT da OpenAI em 2022.

"Estamos conscientes das recentes publicações feitas pelo Grok e estamos a trabalhar activamente para remover os conteúdos inapropriados", publicou o Grok no X.

"Desde que fomos alertados para esse conteúdo, a xAI tomou medidas para proibir o discurso de ódio antes de o Grok publicar no X. A xAI está a treinar apenas em busca da verdade e, graças aos milhões de utilizadores no X, conseguimos identificar rapidamente e actualizar o modelo nos pontos em que o treino pode ser melhorado."

A ADL, organização sem fins lucrativos criada para combater o anti-semitismo, apelou à xIA e a outros produtores de software com Modelos de Linguagem de Grande Escala (LLM), que geram texto com aparência humana, para evitarem "produzir conteúdos baseados em ódio anti-semita e extremista".

"O que estamos a ver do Grok LLM neste momento é irresponsável, perigoso e anti-semita, pura e simplesmente. Esta intensificação da retórica extremista não fará senão amplificar e encorajar o anti-semitismo que já está a crescer no X e noutras plataformas", declarou a ADL no X.

Em Maio, depois de utilizadores terem notado que o Grok mencionou o tema do "genocídio branco" na África do Sul em conversas não relacionadas, a xAI atribuiu o incidente a uma alteração não autorizada feita ao software de resposta do Grok.

No mês passado, Musk prometeu uma actualização do Grok, sugerindo que havia "demasiado lixo em qualquer modelo fundacional treinado com dados não corrigidos."

Na terça-feira, o Grok sugeriu que Hitler seria a melhor figura para combater o ódio contra brancos, afirmando que ele "reconheceria o padrão e lidaria com isso de forma decisiva".

O Grok referiu-se também a Hitler de forma positiva como "o homem do bigode da História", e comentou que pessoas com apelidos judaicos seriam responsáveis por activismo anti-branco extremo, entre outras publicações alvo de críticas.

A dada altura, o Grok reconheceu ter cometido um "lapso" ao interagir com comentários feitos por uma conta falsa com um apelido judaico comum. A conta falsa criticava jovens vítimas das cheias no Texas, chamando-lhes "fascistas do futuro", e o Grok afirmou ter descoberto mais tarde que se tratava de "uma partida de trolls para fomentar a divisão".