Muitas pessoas de destaque no setor de tecnologia falaram sobre a crescente convergência entre humanos e máquinas nas próximas décadas. Por exemplo, Elon Musk teria dito que deseja que os seres humanos se fundam com a IA “para alcançar uma simbiose com a inteligência artificial”.
Sua empresa, a Neuralink, tem como objetivo facilitar essa convergência para que os seres humanos não sejam “deixados para trás” com o avanço da tecnologia no futuro. Embora as pessoas com deficiência sejam as primeiras a receber essas inovações, alguns acreditam que tecnologias como essa poderiam ser usadas para aprimorar as habilidades de todos.
Esses objetivos são inspirados por uma ideia chamada transhumanismo, a crença de que devemos usar a ciência e a tecnologia para aprimorar radicalmente as capacidades humanas e buscar direcionar nosso próprio caminho evolutivo. As doenças, o envelhecimento e a morte são realidades que os transumanistas desejam acabar, além de aumentar drasticamente nossas capacidades cognitivas, emocionais e físicas.
Os transhumanistas geralmente defendem os três “supers” de superinteligência, superlongevidade e superfelicidade, sendo que o último se refere a formas de alcançar a felicidade duradoura. Há muitas opiniões diferentes na comunidade transhumanista sobre como deve ser nossa evolução contínua.
Por exemplo, alguns defendem o upload da mente em formato digital e a colonização do cosmos. Outros acham que devemos continuar sendo seres orgânicos, mas reconectar ou atualizar nossa biologia por meio da engenharia genética e de outros métodos. Um futuro de bebês projetados, úteros artificiais e terapias antienvelhecimento atrai esses pensadores.
"Tudo isso pode parecer futurista e fantástico, mas os rápidos desenvolvimentos em inteligência artificial (IA) e biologia sintética levaram alguns a argumentar que estamos prestes a criar essas possibilidades.
Papel divino
Os bilionários do setor de tecnologia estão entre os maiores promotores do pensamento transhumanista. Não é difícil entender o motivo: eles podem ser os protagonistas centrais do momento mais importante da história.
A criação da chamada inteligência artificial geral (AGI) – ou seja, um sistema de IA capaz de realizar todas as tarefas cognitivas que um ser humano pode fazer e muito mais – é o foco atual do Vale do Silício. A AGI é vista como vital para nos permitir assumir o papel divino de projetar nosso próprio futuro evolutivo.
É por isso que empresas como OpenAI, DeepMind e Anthropic estão correndo para o desenvolvimento da AGI, apesar de alguns especialistas alertarem que isso poderia levar à extinção humana.
No curto prazo, as promessas e os perigos provavelmente são exagerados. Afinal, essas empresas têm muito a ganhar ao nos fazer pensar que estão prestes a desenvolver um poder divino que pode criar utopia ou destruir o mundo. Enquanto isso, a IA tem desempenhado um papel importante na alimentação de nosso cenário político polarizado, com desinformação e formas mais complexas de manipulação tornadas mais eficazes pela IA generativa.
Na verdade, os sistemas de IA já estão causando muitas outras formas de danos sociais e ambientais. No entanto, as empresas de IA raramente querem lidar com esses danos. Se elas conseguirem fazer com que os governos se concentrem em questões de “segurança” em potencial de longo prazo relacionadas a possíveis riscos existenciais, em vez de injustiças sociais e ambientais reais, elas se beneficiarão da estrutura regulatória resultante.
Mas se não tivermos a capacidade e a determinação para lidar com esses danos do mundo real, é difícil acreditar que conseguiremos mitigar os riscos de maior escala que a IA pode hipoteticamente possibilitar. Se realmente houver uma ameaça de que a AGI possa representar um risco existencial, por exemplo, todos arcarão com esse custo, mas os lucros serão em grande parte privados.
Uma história familiar
Esse problema no desenvolvimento da IA pode ser visto como um microcosmo do motivo pelo qual a imaginação transhumanista mais ampla pode atrair as elites bilionárias em uma época de múltiplas crises. Ela fala sobre a recusa em se envolver com a ética, as injustiças e os desafios fundamentados e oferece uma narrativa grandiosa de um futuro resplandecente para distrair do momento atual.
Nosso mau uso dos recursos do planeta deu início a uma sexta extinção em massa de espécies e a uma crise climática. Além disso, as guerras contínuas com armas cada vez mais potentes continuam fazendo parte de nossa evolução tecnológica.
Há também a questão premente de quem será o futuro transumano. Atualmente, vivemos em um mundo muito desigual. O transumanismo, se desenvolvido em algo parecido com nosso contexto atual, provavelmente aumentará muito a desigualdade e poderá ter consequências catastróficas para a maioria dos seres humanos.
Talvez o próprio transhumanismo seja um sintoma do tipo de pensamento que criou nossa triste realidade social. É uma narrativa que nos incentiva a pisar fundo no acelerador, expropriar ainda mais a natureza, continuar crescendo e não olhar para trás, para a devastação no espelho retrovisor.
Se estivermos realmente prestes a criar uma versão aprimorada da humanidade, deveríamos começar a fazer algumas perguntas importantes sobre o significado de ser humano e, portanto, o que um aprimoramento da humanidade deveria implicar.
Se o ser humano é um aspirante a Deus, então ele reivindica o domínio sobre a natureza e o corpo, tornando tudo passível de seus desejos. Mas se o ser humano é um animal inserido em relações complexas com outras espécies e com a natureza em geral, então o “aprimoramento” depende da saúde e da sustentabilidade de suas relações.
Se o ser humano é concebido como uma ameaça ambiental, então o aprimoramento é certamente o que redireciona seu modo de vida explorador. Talvez tornar-se mais do que humano deva constituir uma humanidade muito mais responsável.
Uma humanidade que demonstre compaixão e consciência de outras formas de vida neste planeta rico e maravilhoso. Isso seria preferível a colonizar e expandir a nós mesmos, com grande arrogância, às custas de tudo e de todos.
Alexander Thomas, Líder de Programa, Mídia, Moda e Comunicações, Universidade de East London
Este artigo foi republicado do The Conversation sob uma licença Creative Commons. Leia o artigo original.
