“A IA assusta vocês?”

“Io non ho paura di Berlusconi in sé. Ho
paura del Berlusconi in me”
Gian Piero Alloisio (artista italiano)

“A inteligência artificial assusta vocês?” É com esta pergunta, dirigida aos oradores convidados, que a moderadora deu início ao encontro sobre tradução e IA, na Escola Superior de Educação do Politécnico de Lisboa, no dia 15 de Outubro.

Trata-se de uma pergunta complexa, à qual não é possível responder com um simples sim ou não. A dificuldade – muito bem argumentada pelos oradores e oradoras – reside no amplo leque de atividades e nuances que as caracterizam, e com as quais todos nós lidamos, confiando, ou não, nos poderosos meios que a IA nos proporciona no dia-a-dia.

Para além de ser complexa, aquela pergunta vai diretamente ao cerne do problema que define a relação entre nós e a IA.

O que é que habitualmente nos assusta? Aquilo que conhecemos – embora não sempre de uma forma direta – e que, como temos aprendido ao longo dos séculos, pode prejudicar-nos (as doenças, a guerra, o fogo, etc.). São os elementos que pertencem ao nosso horizonte de referência; com eles, mantemos uma relação de “familiaridade”, sendo que cabem nas leituras e escutas quotidianas, através dos inúmeros meios de comunicação que nos rodeiam. A guerra assusta vocês? Assusta vocês o desemprego, o despejo de casa? Aí seria mais fácil responder sim ou não, e argumentar com explicações exaustivas.

Mas há outros elementos com os quais temos uma relação diferente, menos direta. São aqueles que não podemos dizer de os conhecer; com estes conseguimos manter apenas uma relação de “exterioridade”. Trata-se, neste caso, de coisas que estão “lá fora”, das quais não temos, direta ou indiretamente, nenhuma experiência. Podem ser elementos de natureza empírica, mitológica, fantasmagórica, conforme às nossas atitudes, hábitos mentais, ao nosso legado histórico pessoal ou coletivo. A relação com esses elementos é apoiado em algo diferente do medo.

Como pode assustar, no final das contas, algo que não conhecemos, como por exemplo um voo numa espaçonave, encontrar um lobisomem, ou ser um habitante da Terra Média sob o domínio do Sauron?

Mark Fisher, em O esquisito e o inquietante – o último livro que publicou em vida – oferece-nos uma leitura desta diferença entre o familiar e o “infamiliar”. Isto pode ajudar-nos a dar uma resposta mais contextualizada à pergunta da moderadora, mas exige, antes de mais, uma reformulação do ponto de partida.

São poucos, fora das comunidades de especialistas, aqueles que sabem exatamente como a IA funciona, para além do que todos já conhecemos. A elaboração de bilhões de informações transformadas em tokens, que dialogam com as nossas proposições, por sua vez também “tokenizadas”, é a única parte do processo com que estamos familiarizados. Tudo o resto continua “lá fora”, numa caixa preta que arrecada códigos, metodologias, fontes, agentes, estudos e simulações que nos poderiam dizer muito sobre a dimensão e funcionamento do processo.

Ainda menos, provavelmente, são os que procuram saber como aqueles processos estão alterando os princípios básicos do nosso ser raciocinante e que influência poderiam ter na constituição da subjetividade, sobretudo dos mais jovens – os que hoje têm, digamos, de 10 a 15 anos. Estudos recentes relatados no artigo de Melanie Challanger no AEON, Deskilling the body, mostram como o uso maciço das ferramentas mais comuns da IA afetam seriamente algumas das nossas capacidades. O corpo vai ser afetado por um processo de redução progressiva de habilidades, tanto físicas como mentais, que estão na base da nossa relação com o mundo.

A nossa ignorância total sobre aquelas componentes e estas ameaças põem-nos ao abrigo de sentir ou não sentir medo. Quando muito, as colocamos no domínio do inquietante e do esquisito, não naquele das experiências verdadeiramente medonhas. Os recentes relatos de especialistas sobre o perigo para a humanidade proporcionado pelo desenvolvimento descontrolado da IA não produziram nenhuma reação significativa. Ninguém pode saber com certeza as razões daquelas previsões, só que os desdobramentos não duraram mais de uma semana.

Temos medo, sim, dos data center, porque apreendemos que chupam a água de que precisamos, comem quantidades incríveis de energia que poderia faltar para as nossas necessidades. Mas basta que sejam afastados de onde vivemos e tudo vai desaparecer, continuamos com as nossas preguiçosas pesquisas.

A IA está entrando rapidamente nas nossa vidas, mas por meio de um processo que a distingue daquilo que aconteceu ao longo da história do capitalismo. Não nos deixa o tempo de investigar o que ela é realmente (um advérbio complicado, mas, à espera de encontrar um melhor, mantenhamo-lo), porque a sua evolução é tão rápida que nos deixa desorientados. Quem pode dizer, fora dos especialistas, de ter acompanhado cuidadosamente a evolução do machine learning, ao deep learning e agora à IA agêntica?

O que a distingue das outras inovações dos últimos dois séculos é mesmo a posição que mantém em relação ao que somos: uma posição de exterioridade. A partir daquela posição, a IA atua, atua-nos, produzindo em nós sensações que, com as palavras de Fisher, geram, mais do que medo, algo reconduzível ao esquisito e ao inquietante.

A palavra-chave para compreendermos o sentido e a função desses dois termos é, para já, o fora.

O fora não é simplesmente o que está para além do nosso alcance, mas antes o fora absoluto, um afastamento que não se pode medir em termos espaciais ou temporais, indiferente à nossa vida e à nossa morte. Deleuze, que para Fisher representa uma referência importante, definiu de forma inequívoca o que é o fora. É o reino das forças, das forças do fora, que mudam na passagem entre diferentes formações históricas. As forças do homem entram em relação com estas, por meio da prega que as forças do fora produzem; neste dobramento as forças do fora vão constituir a parte mais profunda do nosso interior.

“Não existe interior – escreve Fisher – exceto enquanto uma prega do exterior; o espelho racha-se, eu sou um outro e sempre fui”. O fora que se torna interior é o processo de subjetivação.

A IA, para além de atuar, nos impacta através de nós mesmos. É assim que se produzem as relações de poder, das quais somos parte, porque, consciente ou inconscientemente, contribuímos para as formar. Mark Fisher descreve este processo, tomando como referência o conceito lacaniano de jouissance (gozo), que mantém juntos prazer e dor. “Um trabalho de jouissance […] não “redime” a negatividade em nenhuma acepção: sublima-a. Ou seja, transforma um objeto comum que causa desagrado numa Coisa que é tão terrível quanto sedutora, que já não pode ser classificada como positiva ou negativa. A Coisa assoberba, não pode ser contida, mas exerce fascínio”.

As nossas forças entram em relação com as novas forças do fora, que encontram hoje a sua mais forte conotação em tudo aquilo que a IA nos apresenta. Compreender quais são os elementos que entram em jogo na composição da subjetividade, redefinir os seus confins é a tarefa que a luta operária nos deixou, do qual não queremos distanciar-nos. O que está em jogo é, mais uma vez, contrastar com todos os meios a asfixia que oprime as nossas vidas.

O que consideramos estranho e inquietante, por um lado, e familiar, por outro, é o que permite atualizar a nossa leitura de onde estamos e do que somos, o nosso âmbito de referência. Ficar bloqueados em velhos esquemas “cíclicos” afasta-nos da possibilidade de vislumbrar as condições de possibilidade da nossa capacidade de agir.

Dito de outra forma, essas definições ajudam-nos a repensar-nos no e contra o novo cenário que, de modo cada vez mais dramático, está a redefinir o “diagrama” no qual precisamos de colocar as nossas ações.

Há um segundo elemento que nos ajuda a descrever a complexidade da relação entre nós e a IA. Não por acaso, é o mesmo que estava no objeto do encontro no Politécnico de Lisboa: a tradução.

Podemos afirmar que a tradução é a condição ontológica de qualquer estado, entidade, língua, cultura. Tudo é sempre e já traduzido de e para algo diferente. Rada Iveković, num dos seus estudos sobre as políticas da tradução, On permanent translation (We are being translated), define-nos a todos como seres constantemente em-tradução. Imaginar-nos como sujeitos iniciadores, não traduzidos, significa colocar-nos na origem da história, num “estado puro, um corpo sem alma”.

A IA baseia-se num contínuo processo de codificação, que remete para o da interpretação e da tradução. Interpretar as palavras e as imagens e traduzi-las em tokens conduz à produção de códigos que, por sua vez, são reinterpretados e retraduzidos em palavras, por meio de uma recodificação.

Traduzir e interpretar não são atos neutros em si: produzem sempre uma tensão entre quem e o que é traduzido, o ato de traduzir e o resultado. É uma parcialidade que se torna ainda mais evidente na produção por parte da IA de qualquer informação que nos propõe. Coloca-se na fronteira entre dentro e fora, traduz essa fronteira, torna-a móvel, deslocando-a numa direção ou na outra.

Nós somos, com todos os efeitos, parte desse processo: a tradução que a IA opera sobre nós e através de nós age em sintonia com o que foi dito acima a respeito dos confins que definem a nossa “familiaridade” com o mundo. Acrescenta, subtrai, altera elementos, modifica a nossa relação com o mundo, com uma velocidade e expansão impensável até há uma década.

Como seres constantemente em tradução, é eliminada do processo de subjetivação que nos forma a possibilidade de reivindicar uma condição essencialista. “A corporalidade animada não é apenas a condição da tradução, mas torna a tradução necessária.”

Esta necessidade da tradução não pode ser sofrida. Os seus percursos, certamente induzidos pelos constantes e violentos fluxos de informação que nos atravessam, tendem a propor-nos os novos limites daquilo que devemos considerar “familiar”. Aconteceu com a Covid, está a acontecer de modo cada vez mais dramático com a guerra.

A combinação de familiaridade e tradução define o campo no interior do qual os processos de subjetivação podem e devem tornar-se antagonistas — como já está a acontecer no ciclo de lutas que está a atravessar a Europa e o mundo — impondo fraturas e recomposição dos nossos limites, através da imaginação, da sabotagem, da fuga e da deserção.