“Todas as esperanças são permitidas ao Homem, mesmo a esperança de desaparecer”
Jean Rostand (1894-1977)

Os temas do transhumanismo e posthumanismo, da superinteligência, da sociedade digital, da imortalidade utópica e das ameaças potenciais que se colocam à humanidade são motivo de debate científico e filosófico. Suscitam atenção particular em eventos especializados como o recente Web Summit e na comunicação social. O prof. Arlindo Oliveira, presidente do IST, publicou (2017) um livro intitulado Mentes Digitais: A Ciência Redefinindo a Humanidade (ver texto no PÚBLICO de 23/11/17) e é de sua autoria o artigo com o título “A última invenção da humanidade”, publicado no PÚBLICO em 10/11/17, no qual apresenta uma “conquista da inteligência artificial”, “uma prodigiosa invenção da humanidade”, nas palavras do autor.

Consideramos muito positivo e estimulante que um cientista português, que lidera uma escola muito importante de engenharia, divulgue e impulsione a reflexão sobre esta matéria. P.T. Durbin, em 1988 (em Évaluer la Technique, ed. de G. Hottois), afirma que os maiores problemas sociais associados à tecnologia, no domínio da sobrevivência da sociedade, são as armas nucleares, os resíduos tóxicos e outras ameaças ecológicas e, como ameaças ao que significa ser humano, a genética e a inteligência artificial. Intervenientes importantes nos media internacionais, como Bill Gates, E. Musk e S. Hawking, têm feito afirmações contundentes sobre os perigos da evolução da inteligência artificial, dita “forte”, capaz de superar as capacidades humanas (em La Révolution Transhumaniste, de L. Ferry, 2016). Uma análise feroz da sociedade digital é feita por E. Sadin (em La Silicolonisation du Monde, 2016).

A tensão suscitada na sociedade por inovações tecnológicas tem uma história longa de séculos. Envolve defensores determinados do progresso tecnológico e dos respectivos benefícios, face a defensores de valores sociais ou ambientais ameaçados ou de valores éticos ofendidos. A maioria dos grandes pensadores do séc. XX contribuiu com análises filosóficas sobre o sistema técnico que molda a sociedade contemporânea. M. Heidegger, num texto notável (A Questão da Técnica, 1954), convoca-nos para uma reflexão metafísica sobre o mistério da essência da tecnologia e do perigo da estruturação que esta impõe aos humanos, a qual impediria de conhecermos a nossa própria essência. Contudo, o conjunto de resultados da tecnologia que consideramos positivos ou benéficos é tão extenso quanto o queiramos.

A tecnologia incorpora a ciência e fornece produtos e estrutura métodos de comportamento que são a marca do desenvolvimento da sociedade na fase mais recente da História da Humanidade. Os progressos na saúde, nos transportes e comunicações e as aplicações da informática, entre outros, são exemplos marcantes. Mas manda a verdade reconhecer que algumas das críticas expressas no passado eram conjunturalmente correctas (e.g. o impacto social no trabalho) ou correspondiam a perigos reais que só tardiamente foram reconhecidos (casos da energia nuclear e da poluição, com efeitos específicos na saúde e no planeta).

Com o eventual desenvolvimento de uma superinteligência concentrada num artefacto, a situação muda radicalmente. Até esta fase discutia-se um sistema técnico geral, com dispositivos progressivamente mais potentes e de natureza diversa, com influência nos humanos, mas sempre sob o domínio potencial destes. Pode-se discutir quem tinha esse poder, mas o comportamento desses produtos resultava de um acto humano e por isso passíveis de serem corrigidos ou anulados por humanos. Os riscos tecnológicos actuais podem, em abstracto, ser avaliados e mitigados. Em caso de incerteza relevante é possível uma aplicação sensata do princípio da precaução. Mas permitir ou desejar que se montem artefactos que se podem autonomizar, com capacidades cognitivas, de aprendizagem ou de decisão, muito superiores às dos humanos é transpor um Rubicão fundamentalmente diferente.

Conceptualmente, esta situação não é nova. Mary Shelley descreveu, há 200 anos, de modo lapidar, o fantasma da ameaça da criatura sobre o criador (em Frankenstein: or The Modern Prometheus, 1818). Com efeito, a tecnologia, muito mais do que a ciência, tende a suscitar uma atracção fácil, envolta em ilusão positiva e fascínio. Porquê? Talvez seja a “criança” que existe sempre em nós ou talvez seja uma manifestação da génese longínqua da natureza da técnica, resultante de uma hipotética rotura da estrutura mágica primitiva do mundo decomposta em “técnicas e religião”, duas mediações simétricas e opostas (em Du mode d`existence des objets techniques, de G. Simondon, 1958). Ou é uma variedade muito forte de homeostasia para sobrevivência e poupança de energia humanas, conforme propõe A. Damásio (em A estranha ordem das coisas, 2017).

Mas qual é a justificação de se querer desafiar a “inteligência humana”? Uma tendência da “aceleração exponencial” da tecnologia e da sociedade, analisada com cuidado por H. Martins (em Experimentum Humanum, 2011)? A maioria dos problemas da sociedade não pode ter solução com uma cooperação eficaz da inteligência natural com a inteligência artificial? Há quem tenha uma resposta: porque o cérebro humano funciona muito mal em comparação com os “cérebros electrónicos” e é um mecanismo deformante (Y. Friedmann, citado em Le Système Technicien, de J. Ellul, edição 2012, p.266). E a experiência parece mostrar que, na evolução tecnocientífica, o que “pode ser feito tende a ser feito”. H. Arendt afirmou: “Esse homem futuro, que os sábios irão criar, dizem que daqui a cem anos, em rebelião contra a existência humana tal como ela nos foi dada, uma dádiva vinda do nada, e que se quer trocar por algo por si construído” (em The Human Condition, de 1958, p.2, Prólogo). Já não falta muito para 2058, mas será que estamos mesmo a prever que uma superinteligência possa superar a humanidade? Pode, eventualmente, dominar e competir, em alguns aspectos, mas não superar globalmente.

A Humanidade é inteligência e sentimentos, é mente e corpo, numa simbiose que evoluiu durante muitos, muitos milhares de anos, com plasticidades e adaptações muito imprevisíveis mas muito criativas. É um património denso, compacto, que não parece capaz de ser reduzido a inteligência ou a esquemas de algoritmos. O teste de humanidade (teste de Turing) deve envolver mais do que palavras em diálogo, deve envolver o abraço, a carícia, o beijo, entre outras manifestações. Mas este progresso, estes avanços científicos e técnicos, não são de aproveitar? Sim, é a resposta sensata. Devem ser aproveitados para benefício estrito da Humanidade, como ajudas para melhorar a qualidade de vida dos humanos, para tentar prolongar a vida activa e feliz, contribuindo para uma sociedade mais justa e pacífica. Os cientistas e engenheiros têm, sem dúvida, este ideal, mas cabe a todos mostrar que aprendemos com o passado e que sabemos colocar um “interruptor” para “encerrar” os robots inadequados.

Ao longo da História, a sociedade humana tem tido manifestações horríveis, mas pode aperfeiçoar-se por ela própria. Aproveitemos a inteligência artificial para isso. A inserção da Universidade Técnica na Universidade de Lisboa é um caminho para interligar disciplinas e pensamentos e abrir a evolução da técnica ao debate entre investigadores, alunos e a sociedade. Para procurarmos a essência da Humanidade e o que deve ser preservado. No final do texto já referido, Heidegger recorre ao poeta Holderlin: “Mas onde há perigo, cresce também a salvação” (Patmos, de F. Holderlin, 1802). Um bom começo poético para uma reflexão sobre a salvação, de modo a evitar a vulgata de que “não se pode parar o progresso” nem tornar a tecnologia numa crença salvívica. E o futuro? Como disse o prémio Nobel Niels Bohr: “Prever é complexo, sobretudo o futuro.”