Um relatório preliminar do Painel Científico Internacional Independente sobre Inteligência Artificial das Nações Unidas alerta que a rápida expansão da inteligência artificial pode aprofundar desigualdades globais, comprometer direitos humanos e dificultar a capacidade dos governos de regular a tecnologia. Publicado nesta quinta-feira, o documento reúne a primeira avaliação científica independente da ONU sobre as oportunidades, os riscos e os impactos da IA e servirá de base para um estudo mais abrangente previsto para 2027.

Segundo o relatório, mais de um bilhão de pessoas utilizam ferramentas de IA conversacional semanalmente, mas a adopção da tecnologia continua desigual entre países e sectores. Como destaca o The Guardian, os Estados Unidos e a China concentram o desenvolvimento dos modelos mais avançados e os investimentos em infra-estrutura, enquanto países em desenvolvimento enfrentam mais dificuldades para acompanhar esse avanço, o que pode ampliar desigualdades e aumentar a dependência de tecnologias desenvolvidas no exterior.

“O acesso a ferramentas de IA, por si só, não produz benefícios iguais”, afirma o relatório. O documento sustenta que países dependentes de modelos, infra-estrutura em nuvem e fluxos de dados estrangeiros podem até ter acesso à tecnologia, mas acabam perdendo capacidade de definir padrões, mecanismos de segurança e soluções adaptadas às suas próprias necessidades.

Entre os principais riscos apontados estão impactos sobre direitos humanos, sistemas sociais e o meio ambiente. Segundo a Reuters, o relatório cita a circulação cada vez mais frequente de material de abuso sexual infantil gerado por IA, o uso de deepfakes em episódios de violência sexual e a facilidade de produzir conteúdos persuasivos em larga escala, capazes de corroer a confiança pública, enfraquecer a coesão social e comprometer o debate democrático.

Ainda de acordo com a Reuters, a maior parte dos países, inclusive economias desenvolvidas, não dispõe de capacidade técnica para avaliar os modelos de IA mais avançados nem para participar de forma efectiva da sua governança. O co-presidente do painel, Yoshua Bengio, afirmou que há provas crescentes de comportamentos enganosos em sistemas de inteligência artificial e que a ciência ainda não consegue assegurar que, à medida que essas tecnologias evoluam, não possam causar “danos catastróficos, por conta própria ou devido ao uso por agentes mal-intencionados”.

Criado pela Assembleia Geral da ONU no ano passado, o painel reúne 40 cientistas e especialistas independentes de todas as regiões do mundo, que actuam a título pessoal, sem representar governos, empresas ou instituições. Descrito pelo The Guardian como o primeiro órgão científico global dedicado à inteligência artificial, o grupo foi criado para produzir avaliações periódicas sobre a evolução da tecnologia e subsidiar decisões de governos. As conclusões deste relatório preliminar serão apresentadas durante o primeiro Diálogo Global da ONU sobre Governança da IA, que acontece nos dias 6 e 7 de Julho, em Genebra.

Além de mapear riscos, o relatório propõe medidas para que os países ampliem os benefícios da inteligência artificial. Entre as recomendações estão investimentos em infra-estrutura de dados e computação, iniciativas para ampliar a alfabetização em IA, criação de institutos voltados à segurança da tecnologia, estratégias de combate à desinformação e monitoramento contínuo do comportamento dos sistemas depois de sua implementação.

O relatório conclui que “o potencial da IA é enorme”. Apesar disso, alerta, “a rápida implantação da tecnologia em larga escala, sem controlo, também apresenta riscos consideráveis, incluindo danos à saúde mental dos usuários, o potencial de uso como ferramenta destrutiva, impactos sobre sistemas sociais, económicos e ambientais e desafios associados ao controle da tecnologia.”

Texto editado por Pedro Sales Dias