Opinião

Uma nova ética para as novas tecnologias?

A responsabilidade política de consequências futuras não deve ser atribuída às próprias tecnologias mas sim a quem as utiliza ou permite.

Foto
Miguel Manso

“As tentativas de criação de máquinas pensantes vão ser muito úteis para descobrirmos como pensamos”
Alan Turing (1912-1954)

Vivemos numa época em que a tecnologia é considerada a redentora privilegiada da sociedade. Com a tecnologia, os cidadãos têm os benefícios incontestáveis que conhecemos. Os empresários e empreendedores procuram o sucesso comercial, os gestores a eficiência e a competitividade, os militares as armas perfeitas e os políticos a sustentabilidade e o crescimento económico.

Sabe-se que a evolução da humanidade está marcada, desde o domínio do fogo, pelo uso de técnicas e instrumentos. Paulatinamente, as técnicas estruturaram e moldaram o trabalho e a vida em sociedade. No séc. XX, a técnica potenciou uma dinâmica abrangente e o “sistema técnico-social” foi impondo um modo específico de estruturação da sociedade, uma “metodologia racionalizada e generalizada“, segundo J. Ellul (1912-1994). Contudo, a par dos efeitos positivos das técnicas são também conhecidos aspectos negativos para a sociedade e para o planeta como são os diferentes modos de poluição.

Não cabe no propósito deste texto discorrer sobre o significado histórico das metamorfoses da técnica. Desde a integração fundamental do conhecimento científico à ligação, que passou a ser íntima, com as actividades de produção, comerciais, publicitárias e financeiras. É uma complexa teia de interesses o que actualmente é designado na comunicação social por “tecnologia”, em detrimento do termo “técnica” que era adoptado tradicionalmente na Europa continental. A tecnologia tem sempre algo de encantatório e de mágico que fascina e foi associada ao sentido libertador do progresso da Humanidade. Um sinal político vincado que actualmente perdeu brilho.

Com o advento de tecnologias mais avançadas (nomeadamente análise e gestão de dados, “blockchain” e “bitcoins”, inteligência artificial e robotização autónoma), há visionários que anunciam para breve uma disrupção completa (e imposta) na sociedade, em todos os modos de vida humana. Face a estas novas tecnologias, a sociedade tem, como aconteceu no passado, comportamentos contraditórios: um entusiasmo incondicional face aos novos produtos e dispositivos tecnológicos, a par de um temor mitológico pela transgressão prometaica de uma ordem natural; mas também uma aparente submissão por parte das elites políticas de diferentes ideologias afirmando a inevitabilidade do devir tecnológico como um determinismo, não obstante a preocupação e os avisos de personalidades (e.g. Stephen Hawking) contra as potenciais ameaças a direitos, à democracia e à Humanidade. A tecnologia não é neutra na medida que potencia comportamentos e intervenções humanas e é um instrumento privilegiado de poderes dominantes. A designada disrupção tecnológica anuncia uma revolução política, industrial e social (e.g. o fim das entidades sociais intermediárias e um desafio ao Estado de direito) de cariz radical, individualista e libertária, que pode ter propostas válidas mas que deve ser acompanhada democraticamente com atenção como sendo um processo ideológico e político. A responsabilidade política de consequências futuras não deve ser atribuída às próprias tecnologias mas sim a quem as utiliza ou permite. A responsabilidade do Holocausto, não obstante a forte densidade tecnológica que o caracterizou, não é atribuída à tecnologia alemã.

O Parlamento Europeu deu voz a estas posições antagónicas na Resolução de 16 de Fevereiro de 2017, com recomendações à Comissão sobre disposições de Direito Civil sobre robótica. Este documento enumera as oportunidades positivas e as ameaças sociais para a Humanidade no limiar de uma era em que “robôs, ‘bots’, andróides e outras manifestações de inteligência artificial (IA) cada vez mais sofisticadas”, que podem ultrapassar a capacidade humana, estão a ser realidade. O texto, que começa por recordar o Frankenstein de Mary Shelley, apresenta um conjunto denso de recomendações à Comissão Europeia sobre questões relevantes do direito e da ética, nomeadamente no referente a educação e trabalho, aplicações na saúde, direitos individuais, responsabilidade civil, regulação na criação e licenciamentos de robôs e códigos de conduta para a investigação e actividades de engenharia. Recomenda-se uma abordagem gradual, pragmática e cautelosa, no que diz respeito às iniciativas futuras em matéria de robótica e IA, de modo a “assegurar que não asfixiemos a inovação”.

Em 25 de Abril de 2018, a Comissão Europeia publicou uma “Comunicação sobre a Inteligência Artificial para a Europa”, a qual aborda duas perspectivas: as oportunidades e impactos na capacidade e actividade industrial e na competitividade da UE e a necessidade de um quadro ético e legal adequado. O documento anuncia, para o final de 2018, um plano coordenado com os Estados-membros por forma a “colocar a IA ao serviço do progresso humano”. Só a reflexão conjunta pode inspirar acções neste domínio.

Em Portugal, constitui-se na Faculdade de Direito de Lisboa da U. Católica, sob o impulso do Prof. H. Sousa Antunes, o Grupo “Direito e Inteligência Artificial”, que tem por objectivo principal desenvolver uma investigação multidisciplinar e inovadora destinada a responder aos desafios éticos e jurídicos que a IA coloca. O grupo é constituído por 20 membros de diferentes especialidades, instituições e universidades. A reflexão ética e filosófica constitui o meu interesse principal nesse trabalho de equipa. Essa reflexão tem dificuldades relevantes. Em primeiro lugar, trata-se de situações novas que envolvem humanos e sistemas não-humanos, artificiais e autónomos, o que exige uma revisitação dos valores humanos a preservar (fronteiras da dignidade, da privacidade, da confiança e da vulnerabilidade). Com efeito, a Humanidade é mais que algoritmos: é mente-corpo que evoluiu em milhões de anos. Em segundo lugar, as novas tecnologias estão intimamente associadas a “modelos de negócio” e de competição estratégica e empresarial criando uma pressão sobre os valores éticos. Na verdade, as grandes empresas mundiais são de natureza tecnológica com elites tecnológicas, mas multimilionárias. Em terceiro lugar, o presente e o futuro tendem a confundir-se. Assiste-se a uma prolepse na divulgação do tema da IA, o que dificulta a análise objectiva das situações que é agravada pela adaptação progressiva dos cidadãos que esse estilo de divulgação pode induzir. Os colossos empresariais (EUA) da tecnologia começam a solicitar orientações éticas e alguma regulação dos Estados. Talvez a concorrência o exija, mas o princípio ético é aceitar que o que se pode fazer nem sempre se deve fazer, em favor da sociedade.

Professor catedrático (emérito) da Universidade de Lisboa/Instituto Superior Técnico