Mudança de condições humanas: dilemas e risco de engessamento

João Lourenço Fabiano reconhece riscos nas intervenções bioquímicas e criação de superinteligências. Entretanto, alerta para que o risco não se torne uma trava para estudos na área

Tanto a literatura quanto o cinema são ricos em histórias de experimentos em que se buscava uma ideia de melhoramento humano, mas que acabou criando verdadeiros monstros desprovidos de qualquer humanidade. Nessa teia que imbrica realidade e ficção, o filósofo João Lourenço Fabiano, que estuda aspectos éticos do melhoramento tecnológico humano, reconhece que se correm riscos quando o assunto é melhoramento cognitivo. “Com as intervenções bioquímicas, o risco é mudar a condição humana no sentido de configurações indesejáveis. Com as superinteligências, o risco é criar qualquer uma das mais de um trilhão de possibilidades que seriam hostis e prejudiciais aos humanos”, reconhece.

Porém, o professor acredita que cessar estudos e pesquisas na área pode também cessar a possibilidade de desenvolvimento frente a outros mundos. “O maior problema não é dedicar a atenção suficiente a algo com tal valor moral extremo como a prevenção de coisas que poderiam destruir completamente a humanidade”, pondera, na entrevista concedida em inglês por e-mail à IHU On-Line. Para ele, “se abster de se envolver com essas questões, tanto em nível acadêmico quanto individual, pode significar se resignar a viver no futuro moldado pelos poucos que se envolveram com essas questões e que desenvolveram essas tecnologias”. Assim, acredita que nações poderiam se tornar de certo modo reféns de grandes potências, apenas reproduzindo valores e interesses dos detentores de tais tecnologias de melhoramento humano. “Este é um mau momento para cochilar. Eu espero, sinceramente, que o Brasil possa se livrar da sua atual crise econômica e do seu feitiço político, de modo que possa avançar para níveis ainda mais altos de progresso humano”, completa.

João Lourenço de Araujo Fabiano é bacharel e mestre em filosofia pela Universidade de São Paulo - USP. Seus trabalhos são voltados para Filosofia Analítica, Filosofia da Mente, Transumanismo e Vieses Cognitivos. É doutorando em Filosofia na Universidade de Oxford. Foi estudante visitante no Future of Humanity Institute, na Universidade de Oxford. Atuou, ainda, como pesquisador para o Machine Intelligence Research Institute. Em 2012, foi um dos organizadores da “1ª Jornada Transhumanista”, primeiro encontro acadêmico sobre transumanismo no Brasil.

Confira a entrevista.

IHU On-Line – Como o mito grego de Ícaro  oferece uma chave de leitura sobre nossas sociedades contemporâneas?

João Lourenço Fabiano – Acredito que esse mito pode ser uma boa analogia para a relação do homem com o advento da tecnologia, que evolui de forma cada vez mais rápida. Temos de escolher quão alto ou quão baixo voar. Ambas as escolhas apresentam riscos.

IHU On-Line – Que relações podemos estabelecer entre o mito de Ícaro e as Smart Drugs , coisas aparentemente tão diferentes?

João Lourenço Fabiano – O fato de melhorar ou não a nossa capacidade cognitiva para além do nosso nível atual reflete a questão de saber se devemos voar mais perto do Sol ou do mar. Não aumentá-la significa aceitar o risco de viver com os nossos fracassos, com toda a nossa inépcia de lidar com problemas modernos, da cooperação ao raciocínio abstrato — isso é voar muito baixo. Ao tentar aumentá-la muito, sem o cuidado e a pesquisa adequados, nós criamos o risco de destruir a nós mesmos — isso é voar muito alto.

IHU On-Line – O que a “necessidade” do uso de drogas que aumentam o desempenho, físico ou cognitivo, diz a respeito de nosso tempo?

João Lourenço Fabiano – A necessidade de aumentar parece revelar tanto a nossa incapacidade de lidar com o ambiente atual que criamos para nós mesmos, quanto o fato de que essa capacidade de aumento foi finalmente desenvolvida a um grau suficiente a ponto de se tornar tanto uma realidade, quanto um produto desejável. O fato de o cérebro humano parecer incapaz de lidar com os desafios da sociedade moderna é uma questão muito urgente e real. Tanto em nível individual quanto societal, da probabilidade de aprendizagem ao fato de lidar com a cooperação em larga escala para combater corretamente os riscos de catástrofe global (que incluem a guerra nuclear, o aquecimento global, as superinteligências futuras etc.), os cérebros humanos têm muito mais dificuldade para resolver esses problemas do que para resolver outros problemas evolutivos recorrentes do passado.

O caminhar bípede parece ser um problema particularmente difícil que o nosso cérebro resolve inconscientemente, todos os dias. Nós também somos muito bons para responder a pistas de instabilidade ambiental, para decifrar expressões emocionais e assim por diante. Mas, quando se trata de acessar e absorver racionalmente evidências científicas, raciocínios políticos imparciais ou cooperação em larga escala livre de conflitos, parece que temos uma dificuldade particular. Não só isso, mas os problemas aos quais sempre estivemos expostos, mas que não conseguíamos resolver, como o envelhecimento, também estão finalmente entrando no âmbito das coisas que podem ser resolvidas.

Outra questão é que não só parecemos incapazes de lidar com o atual estágio de progresso tecnológico, mas também seremos perigosamente mais incapazes de lidar com revoluções tecnológicas muito maiores, possíveis no futuro. Um dos livros mais influentes na área está precisamente intitulado Unfit for the Future  [Inapto para o futuro, em tradução livre], dos filósofos Julian Savulescu  e Ingmar Persson .

IHU On-Line – Em que medida tornar-se mais produtivo é uma espécie de imperativo contemporâneo?

João Lourenço Fabiano – Ser capaz de produzir mais com menos, ou seja, ser capaz de aumentar a eficiência individual na produção de um resultado desejável, é a capacidade humana mais importante que existe. Ela se assenta no fundamento de algumas definições de inteligência. O fato de que muitas pessoas veem a palavra “produtividade” com uma possível conotação ruim não é um bom sinal. Isso significa que, independentemente do que elas estejam fazendo, elas desejam fazer menos disso. É lógico que as pessoas deveriam estar produzindo coisas de que elas quisessem mais.

Muito frequentemente, ser eficaz significa dar um passo atrás, assumindo uma perspectiva de visão externa, e, depois, refletir sobre o que exatamente faria você feliz e realizado, e sobre como alcançar isso. Isso não significa estar obcecado com o trabalho em algo com o qual você preferiria não estar trabalhando. Isso também não significa que não deveríamos, muitas vezes, nos forçar a fazer algo momentaneamente desagradável, até mesmo ao longo de muitos anos, para alcançar algo muito agradável para nós mesmos e para os outros no futuro. Mas eu gostaria de pensar que, uma vez que entendemos o quadro maior, isso dá sentido à atividade desagradável, e, assim, ela se torna agradável.

IHU On-Line – O que nos torna humanos? De que forma o uso de componentes químicos sintéticos altera esta condição?

João Lourenço Fabiano – Parece que ser um agente intencional com altas capacidades morais e cognitivas geralmente é assumido como definir características dos seres humanos em oposição aos animais não humanos ou aos objetos inanimados. As drogas podem tanto aumentar quanto diminuir a nossa humanidade. Até a mesma droga tomada em contextos diferentes pela mesma pessoa pode variar entre o fato de ser uma melhoria humana e produzir a decadência humana.

Dito isso, eu acredito que as drogas que aumentam as nossas capacidades cognitivas e morais, tais como o raciocínio abstrato e a cooperatividade, nos tornam mais humanos em um sentido. Em outro sentido, talvez um sentido que vincula a humanidade com espécies humanas ou com formas atuais e passadas da cultura humana, as intervenções bioquímicas podem nos fazer transcender e ir além das nossas limitações humanas — ou destruir a nossa humanidade. As intervenções bioquímicas sobre a condição humana exacerbam a nossa liberdade e todas as vantagens e problemas que possam vir junto.

IHU On-Line – Ante a complexidade contemporânea, como superar uma visão puramente dualista acerca do humanismo e do transumanismo?

João Lourenço Fabiano – Acredito que dei uma resposta possível a essa questão na minha resposta anterior, uma resposta ligeiramente positiva. Mas também existe a possibilidade de que possamos nos melhorar de tal forma que isso nos leve a perder o que nós valorizamos em relação à nossa humanidade, mesmo que tenhamos como alvo os traços certos e tenhamos definições de humanidade mais sofisticadas — e menos rigorosas — do que o pertencimento à espécie. Pode ser que algumas das nossas falhas sejam uma parte intrínseca do que é ser humano.

IHU On-Line – Que dilemas éticos emergem com as novas possibilidades de melhoramento humano?

João Lourenço Fabiano – O dilema geral se encontra em decidir que disposições, previamente imutáveis, nós queremos mais e quais queremos menos, e qual é o equilíbrio correto entre elas. Talvez seja um polilema. No fim, esse conflito sempre será expresso em circunstâncias factuais particulares. Deveríamos fazer o uso de melhorias cognitivas? Deveríamos buscar o desenvolvimento de superinteligências? Deveríamos buscar a possibilidade de melhorar as nossas disposições morais? Eu acho que a maioria dos — mas nem todos — pesquisadores acredita agora que a resposta seja “sim” a todas essas questões, mas a questão de como e quanto permanece, o que leva a questões até mais práticas.

IHU On-Line – De que ordem é o desafio de escolher quais tipos de inteligência artificial podem ser realmente benéficas ao ser humano, considerando o universo de mais de um trilhão de organizações estruturais capazes de constituírem inteligência artificial? O que está em jogo na definição do que é benéfico ou não ao ser humano?

João Lourenço Fabiano – Parece ser da ordem de mais de um trilhão. No caso da criação de inteligências artificiais com capacidades iguais ou superiores às humanas — agora amplamente referidas como superinteligências, depois da publicação do livro homônimo do filósofo Nick Bostrom  [Superintelligence ] — o problema da liberdade excessiva é muito mais grave. Com as intervenções bioquímicas, o risco é mudar a condição humana no sentido de configurações indesejáveis. Com as superinteligências, o risco é criar qualquer uma das mais de um trilhão de possibilidades que seriam hostis e prejudiciais aos humanos.

Muitos desses agentes superinteligentes artificiais que podemos ser capazes de construir no futuro são claramente maus, mas o problema de como não produzi-los não foi resolvido. Mas, mesmo deixando de lado os casos cinzentos, essa questão pode ser difícil. Nós ainda não determinamos o que faz com que certos seres sejam conscientes ou não, mas parece que as experiências de prazer conscientes são um elemento essencial do bem, das coisas que desejamos preservar. Poderíamos criar superinteligências artificiais que projetariam um mundo repleto de coisas valiosas, mas sem nenhum agente senciente para desfrutá-las. Como uma piada, isso tem sido chamado de uma Disneylândia sem o problema das crianças.

IHU On-Line – Que riscos estão implicados nestes processos? Em que medida as Smart Drugs passam a ser centrais neste debate?

João Lourenço Fabiano – Podemos usar a melhoria cognitiva e moral para aumentar as nossas capacidades cognitivas e morais de forma mais lenta e segura até que produzamos os níveis de cooperação, racionalidade e intuição moral que nos permitiriam criar superinteligências amigáveis. Algumas outras pessoas podem ser mais otimistas em relação às superinteligências e menos otimistas em relação às intervenções bioquímicas. Algumas outras gostariam de pensar que a criação de superinteligências artificiais é tecnicamente inviável ou tão difícil que vai demorar muito tempo, a ponto de ser irrelevante neste momento.

A primeira posição se baseia em um grau de certeza sobre o futuro — e a nossa compreensão da inteligência humana — que é simplesmente irracional. A última tem perdido popularidade cada vez mais ao longo dos anos. Eu acho que afirmar que nós simplesmente não podemos voar é uma resposta inútil ao dilema de Ícaro.

IHU On-Line – Deseja acrescentar algo?

João Lourenço Fabiano – Essas são questões muito significativas e definidoras do nosso tempo. De Bill Gates  a Elon Musk , de Stephen Hawking  a Martin Rees , muitas figuras públicas estão preocupadas com o fato de que a humanidade não tem prestado a atenção suficiente a esses problemas. O maior problema é não dedicar a atenção suficiente a algo com tal valor moral extremo como a prevenção de coisas que poderiam destruir completamente a humanidade, e estas incluem não apenas as superinteligências, mas também pandemias, asteroides etc.

Outro problema com o qual eu me preocupo, às vezes, é que se abster de se envolver com essas questões, tanto em nível acadêmico quanto individual, pode significar se resignar a viver no futuro moldado pelos poucos que se envolveram com essas questões e que desenvolveram essas tecnologias de acordo com os seus valores e interesses. A vantagem estratégica de ter essas tecnologias também é consideravelmente grande; algumas delas, possivelmente mais impactantes do que a revolução industrial; outras, não tão atrás.

A necessidade do envolvimento

Os países e as pessoas centralmente envolvidos na nossa última revolução tecnológica desfrutam agora de padrões muito mais altos de vida, de satisfação com a vida, de riqueza, de saúde, de educação e de muitas outras dimensões do desenvolvimento humano. Outra rodada de retardatários dessas revoluções vai tornar essa brecha ainda maior, talvez até mesmo excluindo muitos países de terem qualquer voz no cenário internacional. No Reino Unido e nos Estados Unidos, estão sendo feitas generosas doações para estabelecer novos centros e projetos de pesquisa nessas áreas. Centros de pesquisa já existentes estão contratando pesquisadores extremamente qualificados em um ritmo inacreditável. Os centros obtêm tanto sucesso que germinam outros, que, em questão de um par de anos, são tão grandes quanto o anterior. Organizações sem fins lucrativos que pareciam nada mais do que um grupo de estudantes excessivamente empolgados estão agora produzindo pesquisa do mais alto nível, criando fóruns de discussão pública e se engajando com a mídia diariamente.

Este é um mau momento para cochilar. Eu espero, sinceramente, que o Brasil possa se livrar da sua atual crise econômica e do seu feitiço político, de modo que possa avançar para níveis ainda mais altos de progresso humano. Caso contrário, no momento em que o gigante decidir acordar de novo, todo mundo terá ido embora para um futuro drasticamente melhor. O desenvolvimento dessas tecnologias poderosas também pode ser uma oportunidade para estreitar essa brecha. Se o Brasil se unir desde o início, o progresso resultante pode tornar insignificantes quaisquer desigualdades passadas.■