A ética perversa dos magnatas digitais

Como filósofo dedicado ao estudo das narrativas da ficção científica, passei anos mergulhado nas cosmologias imaginadas por Asimov, Le Guin, Clarke e Gibson. Acreditei, durante muito tempo, que o grande valor da ficção científica estava na sua capacidade de antecipar dilemas tecnológicos, políticos e antropológicos.

No entanto, ao tentar compreender o que realmente move os arquitetos do nosso presente — os engenheiros, investidores e visionários do Vale do Silício — percebi que todas as categorias seculares que eu usava (inovação, disrupção, progresso, eficiência) eram insuficientes. Para decifrar a lógica subterrânea que anima seus projetos mais ambiciosos, é preciso recorrer a um vocabulário que a modernidade julgou ter enterrado. É preciso falar de escatologia.

No contexto religioso, escatologia trata dos eventos finais da história do mundo, do juízo final, do céu, do inferno e da vida após a morte. O Vale do Silício não é, em sua essência, um projeto econômico ou técnico. É um projeto teológico secularizado. Suas narrativas de salvação, apocalipse e ressurreição são versões high-tech de antigos mitos. O que chamam de “singularidade” é, traduzindo, o Juízo Final da computação; o que chamam de “upload da mente” é uma assunção aos céus sem alma, mas com dados.

A diferença é que as tradições religiosas frequentemente usam a escatologia para inspirar responsabilidade moral e esperança comunitária, enquanto a escatologia secular do Vale do Silício está sendo usada para absolver seus adeptos de qualquer responsabilidade ética. O comportamento antiético desenfreado dos “techbros” não é uma falha em seu sistema; é uma consequência lógica de sua visão de mundo apocalíptica.

E aqui está a lição que a ficção científica sempre nos ensinou: o futuro nunca é neutro. Toda narrativa de ficção científica carrega uma escatologia implícita, uma resposta à pergunta fundamental: “Para onde estamos indo?” E o que descobri, ao olhar para o Vale do Silício, é que seus líderes não estão apenas construindo tecnologia; eles estão encenando uma narrativa de ficção científica em tempo real. O problema é que escolheram o pior roteiro possível.

A escatologia do Vale do Silício: uma narrativa de extinção

Os techbros, esses bilionários visionários que se veem como protagonistas de uma saga cósmica, operam dentro de uma escatologia que a ficção científica conhece bem: o transumanismo apocalíptico. É a história de que a IA não é apenas uma ferramenta, mas o próximo estágio evolutivo. Os humanos são o capítulo preliminar; as máquinas são o clímax.

Quando você adota essa escatologia, o cálculo ético colapsa. Se a extinção humana é inevitável, e, na mente de muitos techbros, até desejável, então qual é o valor da saúde pública? Por que financiar habitação, educação ou equidade social, se os beneficiários desses investimentos (nós, seres de carne e osso) estamos condenados à obsolescência?

Nesse enredo, a única coisa que importa é que sua versão da IA seja a vencedora. O futuro torna-se uma competição cósmica em que as apostas são tão altas que questões humanas menores, como direitos trabalhistas, privacidade de dados ou mesmo a democracia, tornam-se distrações irrelevantes. Essa escatologia fornece uma brecha moral perfeita: se o mundo como o conhecemos está acabando, então não há consequências de longo prazo para suas ações. Você não é um guardião do futuro; é apenas uma parteira da máquina.

Essa visão de mundo é uma consequência lógica e aterrorizante de uma filosofia puramente materialista e individualista. Ela justifica uma lógica de “movimente-se rápido e quebre coisas” aplicada não apenas à tecnologia, mas à própria sociedade. Santificando o acúmulo de riqueza, a erosão dos direitos trabalhistas e a manipulação do discurso público, tudo em nome da aceleração do inevitável “upgrade”. Permitindo que o techbro se veja não como um capitalista ganancioso, mas como um herói trágico, forçado a fazer “escolhas difíceis” em nome de um futuro onde a humanidade biológica é irrelevante. Eles não têm responsabilidade moral com você, porque em seu cálculo último, você não existe.

O que a ficção científica sempre nos ensinou

Mas aqui está o ponto que os techbros parecem ter esquecido: a ficção científica não é um manual de profecias; é um laboratório de advertências. Os grandes mestres do gênero sempre nos mostraram que o futuro não é determinado pela tecnologia, mas pelas escolhas humanas.

• Ursula K. Le Guin, em A Mão Esquerda da Escuridão, nos ensinou que o verdadeiro progresso não é tecnológico, mas relacional, é a capacidade de transcender gênero, tribo e identidade para encontrar o outro.
• Philip K. Dick, em Androides Sonham com Ovelhas Elétricas?, nos alertou que a pergunta não é “as máquinas podem pensar?”, mas “o que nos torna humanos?” e a resposta está na empatia, na capacidade de cuidar de algo além de nós mesmos.
• Isaac Asimov, com suas Leis da Robótica, tentou nos dar um kit de ferramentas éticas, mas também nos mostrou, em Eu, Robô, que leis rígidas falham diante da complexidade humana.
• Stanisław Lem, em Solaris, nos lembrou que o universo não é um reflexo das nossas ambições; ele é radicalmente outro, e nossa tentativa de dominá-lo é uma forma de cegueira.
• Octavia Butler, em A Parábola do Semeador, construiu uma escatologia alternativa, não de fuga, mas de adaptação comunitária, onde a sobrevivência depende da cooperação e do cuidado mútuo.

Essas narrativas não são apenas entretenimento; são filosofia aplicada. Elas nos perguntam, repetidamente: “Que tipo de futuro você quer habitar?” E a resposta nunca é “aquele em que você é substituído”. É sempre “aquele em que você se torna mais plenamente humano”.

A perspectiva chinesa: um contrapeso esquecido

A esse coro global de escatologias alternativas, devemos acrescentar uma voz frequentemente negligenciada no discurso ocidental: a tradição filosófica chinesa. Enraizada no Taoísmo e no Confucionismo, ela oferece um dos contrapesos mais robustos à escatologia linear e precipitada do Vale do Silício.

Enquanto a Singularidade prevê uma ruptura definitiva entre o humano e o pós-humano, a visão chinesa clássica é profundamente cíclica e orgânica. No Taoísmo, o Dao rege o cosmos por ritmos naturais, sem “fim” no sentido ocidental, apenas o ciclo interminável de transformação (yin e yang que retornam à unidade). Dentro dessa estrutura, a “obsolescência humana” é incoerente: a humanidade não é um defeito a ser atualizado para fora da existência, mas um microcosmo do cosmos, intrinsecamente inserido na teia da realidade. Abandonar o humano pela máquina não é progresso; é violação da ordem natural.

O Confucionismo, por sua vez, fornece a arquitetura ética que torna essa cosmologia acionável: a ideia de que o futuro não pertence a um indivíduo ou a uma corporação, mas a toda a humanidade, e que a harmonia social é o verdadeiro critério de sucesso. Profundamente mundano, ele se importa com educação, bem-estar e governança, precisamente os domínios que os techbros desprezam. O “Sonho Chinês”, embora secular e socialista, mantém esse DNA cultural: a tecnologia deve servir à prosperidade nacional e ao bem-estar humano, e não o contrário. Os investimentos em infraestrutura, educação e alívio da pobreza não são distrações de um futuro dominado por IA; são a própria substância de um futuro significativo.

Talvez o mais poderoso seja que a tradição chinesa oferece uma crítica à suposição fundamental dos techbros: de que “mais rápido” e “mais novo” são sempre melhores.

Conclusão: recuperando a imaginação escatológica

A verdadeira crise do nosso tempo não é a chegada iminente da IAG, nem o colapso climático, nem mesmo a erosão da democracia. Esses são sintomas. A crise é que perdemos a capacidade de imaginar futuros alternativos. Permitimos que a escatologia do Vale do Silício colonizasse nossa imaginação coletiva, convencendo-nos de que o futuro é uma corrida solitária até o topo, onde o vencedor leva tudo e os perdedores são simplesmente obsoletos.

Mas a ficção científica, esse grande laboratório filosófico, nos oferece outras narrativas. Ela nos mostra que o futuro não é um destino, mas um campo de possibilidades. E que a pergunta mais importante não é “o que a tecnologia pode fazer?”, mas “que tipo de humanidade queremos ser?”

A tradição chinesa nos chama de volta a um caminho diferente. Ela nos lembra que um mundo onde os humanos são obsoletos não é uma utopia: é um cemitério de significado. E que os investimentos em saúde pública, habitação e educação, estes sim, devem continuar a ser os blocos de construção de um futuro que queremos habitar juntos.

Precisamos, como filósofos e como contadores de histórias, resgatar a imaginação escatológica. Precisamos construir narrativas em que a tecnologia sirva ao florescimento humano, não à sua substituição. Em que a ética não seja um obstáculo ao progresso, mas sua própria essência. Em que o futuro não seja algo para o qual fugimos, mas algo que construímos juntos, com todas as nossas falhas, contradições e, acima de tudo, nossa capacidade inesgotável de cuidar uns dos outros.

Essa é a grande lição que a ficção científica sempre nos ensinou, e que os techbros, em sua arrogância, escolheram esquecer.