Opinião

As novas tecnologias e as pessoas

Reflexões inspiradas por uma entrevista a um membro do Governo.

“A técnica é a dança mágica que o mundo contemporâneo dança”.
E. Junger (1895-1998)

A edição de 12/12/18 do PÚBLICO inclui uma entrevista à senhora ministra da Presidência e Modernização Administrativa, Maria Leitão Marques (M.L.M.), na qual são focadas questões relevantes e actuais relativas à tecnologia, à política e à ética. A jornalista São José Almeida escolheu um conjunto de perguntas pertinentes e colocou em destaque algumas das ideias chave de M.L.M. O tema, o modo como são desenvolvidas as respostas e a qualidade da entrevistada motivam muitas reflexões ao leitor interessado. Considero que uma das funções de um órgão de comunicação de referência é a de impulsionar o diálogo esclarecido envolvendo diferentes intervenientes e pontos de vista em particular quando o tema é importante, complexo e ainda pouco debatido, em profundidade, em Portugal.

Um dos aspectos positivos da entrevista é a ministra não recorrer ao argumento simplista, mas controverso, da inevitabilidade do progresso técnico e das respectivas consequências. O suposto determinismo técnico, resultante de uma evolução técnica incontornável e semelhante à evolução biológica, tem sido um argumento adoptado por muitos políticos e comentadores para justificarem a incapacidade ou o não interesse em actuar. “A tecnologia é o que as pessoas quiserem” e “temos de deixar sempre à decisão humana saber como se usa a tecnologia e para quê, é muito importante, mas isso é uma decisão política”, afirma M.L.M.

Muito do que se tem escrito e decidido em termos éticos e de análise da essência da técnica é compatível com esta ideia. O problema está na identificação do que deve ser preservado e na capacidade e vontade política na concretização das decisões. A questão coloca-se, neste caso e em outros, na ponderação e na escolha dos valores que são considerados predominantes para a sociedade no presente e no futuro.

Referindo-se aos riscos da robotização, a entrevistada afirma que os cientistas devem ter em conta que os “algoritmos alimentam decisões automáticas, de inteligência artificial” e que as questões éticas devem ser incorporadas no desenvolvimento da própria investigação. Mas sublinha que não devemos deixar “a política e a ciência, ou o seu impacto, separadas”. A designação de ciência e de cientistas está obviamente a ser utilizada em sentido lato. Os produtos da tecnologia contemporânea são o resultado de uma cadeia de intervenções científicas e técnicas diferenciadas. Desde o cientista arquitecto de princípios fundamentais, passando pelo engenheiro que desenvolve uma aplicação para um objectivo específico e o gestor que procura financiamentos, até ao técnico comercial que insere o produto no mercado. A maioria das designadas novas tecnologias tem potencialidades extraordinárias para melhorar da qualidade de vida das pessoas e não são intrinsecamente perigosas para a humanidade. Os cientistas e técnicos assim o desejam.

Os cientistas e os engenheiros regem-se por códigos deontológicos ou profissionais mas o que M.L.M. pede é, no meu entender, de outro âmbito. Exceptuando as máquinas militares letais que poderão ser desenvolvidas e o caso das viaturas ditas autónomas, ambas com problemáticas éticas especiais e difíceis de ser solucionadas, as principais questões éticas que se têm colocado estão associadas ao modo ou aos fins como são utilizados os diferentes produtos: quebra de privacidade e uso de dados pessoais, eliminação de postos de trabalho, inferências automáticas enviesadas, interferência no espaço público comunicacional e em eleições ou manipulação da decisão.

É um lugar-comum solicitar a intervenção da ética nas novas tecnologias. Parece que todos somos vítimas em potência e cúmplices em acto. O que constatamos é que a carência principal e urgente parece ser na ética empresarial e na regulação de actividades que interferem com espaços privados e públicos. As maiores empresas mundiais são tecnológicas, os seus líderes podem ser engenheiros mas falam como empresários em competição que pretendem cativar as pessoas, como profetas. Habituámo-nos, no passado, a conhecer o cientista como um apaixonado do conhecimento, procurando inquirir e desenvolver um empreendimento intelectual sem fins comerciais. Mas o valor comercial, o valor económico acrescentado, o valor de mercado é o Valor que parece ser agora o predominante.

Uma parte significativa do desenvolvimento da inteligência artificial acontece no seio de poderosas empresas dos EUA ou da China em competição geoestratégica. Na Europa ou em qualquer outro país, os técnicos estão individualmente submetidos a uma pressão profissional para manterem ou aumentarem o ritmo, para justificarem os investimentos, para não se ficar para trás. Mas para discutir e identificar valores humanistas é preciso mais do que técnica avançada. É preciso ter uma perspectiva da humanidade e da sua natureza, do sentido da vida humana e da sua dignidade, de reconhecer que nem tudo pode ser equivalente. No meu entender, a componente humanista deveria ser maior na formação de cientistas, de engenheiros e mais cultura técnica nas restantes formações universitárias, “para não deixar a política e a ciência separadas”, como afirma M.L.M.

A educação em competências digitais e a inclusão digital com um direito humano fazem todo o sentido, tal como já aconteceu com a revolução da escrita, séculos atrás. É uma condição necessária para a inserção no mundo novo dito digital. Os jovens aprendem com facilidade e a adaptação é quase imediata. Os humanos apreciam as novidades trazidas pelos objectos técnicos. O problema mais delicado é a evolução do sistema técnico que vai moldando a vida dos humanos. Como escreveu S. Weil (1909-1943), “a raiz do mal está quando as coisas fazem o papel dos homens e os homens fazem o papel das coisas”. Para uns, as novas tecnologias trazem a redenção para a humanidade, para outros a desvalorização fatal dos seres humanos.

Não acompanho totalmente a ministra nas afirmações “ao nível do cumprimento dos direitos humanos não vejo mais riscos do que outras situações nos trazem” e “nesta fase tão disruptiva da tecnologia, é natural que os riscos nos pareçam sempre maiores”. Para além do regulamento europeu de protecção de dados, que na prática pode ser ineficaz, há outros documentos relevantes neste domínio, como o elaborado pelo Grupo Europeu de Ética na Ciência e Novas Tecnologias (Comissão Europeia, Março de 2018). Neste documento são identificados nove princípios éticos e pré-requisitos democráticos para regulação da inteligência artificial. Se as oportunidades são muitas, os riscos éticos também: por exemplo, as técnicas de “cidades inteligentes” (“smart cities”) colocam problemas de privacidade com o controlo de dados dos habitantes.

Convém não confundir privacidade com arquivo organizado. Ir a uma biblioteca pública não é entrar sem autorização na casa de um cidadão. Na realidade, o digital não é um mero instrumento ou competência e não é suficiente apelar à política e aos políticos como um bloco homogéneo. Se as aplicações da tecnologia não são neutras, como se tem provado ao longo da História, a política, por definição, também não o é. O próprio conceito muito utilizado de disrupção generalizada constitui um desafio à ética e aos valores essenciais da humanidade, das pessoas.

Se “o uso da tecnologia deve ser decidido por meios democráticos”, como afirma M.L.M., há que discutir como fazer uso da democracia e do Estado de Direito com envolvimento dos cidadãos. A análise do que tem sido dito e escrito e os potenciais efeitos de algumas inovações digitais permitem desvelar visões políticas radicais, nomeadamente, na esteira do pensamento de Ayn Rand e Robert Nozick, um libertarianismo, sem intermediários, com redução do Estado a um mínimo ou transformado numa plataforma digital: uma start-up digital, sem falhas e ágil.

Melhorar a intervenção de instituições intermediárias ou de mediadores é positivo. Defender a ausência de mediadores e a substituição por um único sistema intermediário, digital, sem rosto e obscuro, como alguns políticos o fazem é, no mínimo, imprudente e revela falta de conhecimento sobre a história e a natureza humana. Congratulo-me por a ministra M.L.M. não ter seguido esse caminho.