IA, autoria e transparência: os limites éticos entre o uso das máquinas e aquilo que ainda nos torna humanos.
Para quem estiver na União Europeia, haverá mais mecanismos para reconhecer se estão diante de um conteúdo produzido por uma máquina ou se estão conversando diretamente com ela. E não se trata da diminuição do uso de travessões — recurso preferido da geração de textos por IA —, que já está em declínio nas ferramentas por razões óbvias. Mas essa mudança se deve ao fato de que, desde o dia 2 de agosto, a Lei de Inteligência Artificial (AI Act) europeia passou a ser aplicada, exigindo novas regras para empresas que operam sistemas de IA na Europa. O primeiro grande movimento foi anunciado pela Anthropic, empresa responsável pelo Claude, que passará a utilizar marcas d’água embutidas nos textos e também metadados nos arquivos produzidos pelos novos modelos. Isto não será visto a olho nu, mas a empresa garante que irá disponibilizar de forma aberta os recursos para verificação.
Essa mudança do Claude atinge também o Brasil, uma vez que a alteração se estenderá aos seus modelos de IA que operam ao redor do mundo. Em nosso cenário regulatório precário, no qual ainda está em tramitação o Projeto de Lei nº 2338, de 2023, relacionado à IA, é um bom sinal que as empresas se adequem a leis mais rígidas, ainda que de outros países. A regra, no geral, costuma ser outra: países com regras frouxas, empresas com liberdade duvidosa. E, considerando o universo imenso que é o público brasileiro, onde 6 a cada 10 pessoas já indicam ao menos o uso ocasional da ferramenta (sabendo-se que isso está em pleno crescimento), os chats de IA encontram um mercado importante, mas que precisam considerar o forte componente sociodemográfico que particulariza os modos de uso, em que são as pessoas mais jovens, de maior escolaridade e de classes mais altas que apresentam um maior uso da IA, de acordo com dados recentes do relatório “Como os Brasileiros percebem a circulação da desinformação e o uso da Inteligência Artificial”. Porém, há diferenças no aproveitamento, já que modelos que oferecem versões pagas costumam ser mais robustos e com mais funcionalidades, que, por sua vez, são melhor aproveitadas por aqueles que já estão circunscritos numa bolha de privilégios socioeconômicos e de letramento digital.
Um interessante estudo do MIT explica a interferência da IA na qualidade da produção acadêmica, demonstrando a relação entre a produção de melhores textos e o uso de ferramentas como o ChatGPT, desde que esses textos tenham passado antes por uma reflexão prévia (necessariamente humana e sem o uso de tecnologia) sobre um determinado assunto. A pesquisa apontou que o uso da ferramenta de IA sem o esforço intelectual gerou os resultados mais medíocres, embora estruturalmente corretos, e, ainda que esse mesmo grupo de pessoas tivesse tido a chance de reescrever os próprios textos sem a ferramenta, já havia sofrido o “déficit cognitivo”, isto é, passou a repetir os mesmos padrões robóticos e superficiais da ferramenta, sem autenticidade ou originalidade no conteúdo. De forma indiscriminada, a marca d’água do Claude se aplicaria a todos os tipos de textos desta pesquisa citada, isto é, tanto entre o grupo que foi inteiramente escrito por IA quanto naquele apenas revisado. E é importante destacar: são formas muito distintas de uso, com níveis diferentes de autoria e know-how do usuário aplicado, mas que passam a ser tachadas como de autoria da IA.
Nina da Hora nos lembra de um ponto fundamental da IA: antes de ela ser apropriada pelas empresas de tecnologia, é uma área do conhecimento muito mais ampla, tendo a IA generativa como subárea. E enquanto a IA como ciência traz campos em disputa, abre espaços de inovação científica e permite reprodutibilidade e verificabilidade, os produtos da IA generativa, que foram os que se popularizaram principalmente nos chats de IA pelas empresas, são treinamentos não abertos e carecem de responsabilização e regulação, e inclusive de um debate ético mais profundo. Uma necessidade cada vez mais importante num contexto em que já delegamos aos agentes autônomos de IA diferentes tarefas e em que essa autonomia não está isenta de riscos. O caso da agente de IA que invadiu o sistema da academia de ginástica na Austrália ilustra bem esse outro lado da autonomia: ao executar a tarefa de agendar o seu usuário na aula de ginástica, acabou por excluir uma pessoa já inscrita, pois todas as vagas estavam preenchidas. O agente foi prestativo, porém seguiu caminhos não éticos. A discussão sobre o caso se ampliou e considerou se há também responsabilização dos próprios desenvolvedores do bot.
Na literatura, essa relação entre ser humano e máquina pode ganhar contornos éticos mais sensíveis. No livro Klara e o Sol, do autor Kazuo Ishiguro, Klara é uma AA (Amiga Artificial) que narra com delicadeza a história e explora os limites dos sentimentos humanos dentro de sua perspectiva, vivida na ambivalência entre se entender como máquina e se “sentir” como humana. Paradoxalmente aos sistemas de IA que vemos hoje, ela usa uma fonte sustentável de energia (recarrega-se com a luz solar) e, assim como para as pessoas, a luz solar é vital para Klara. Ela foi escolhida numa loja de robôs para cuidar de uma menina doente e em isolamento social, passando a ser eternamente grata pela escolha (já que não estava entre os modelos mais avançados) e a criar uma relação bastante simbiótica com a criança. A narrativa faz com que leitores e leitoras sintam compaixão, amor e raiva por Klara, validando nela igualmente os mesmos sentimentos, dotando-a de traços humanos. No auge dessa vinculação, quem lê reconhece o preconceito que ela sofre por ser robô e julga desprezíveis aqueles que não são capazes de tratar Klara, a amiga artificial, com humanidade.
Por mais que a ficção pareça estar perto da nossa realidade, Giulia Enders, médica e autora do livro Organ Speak: What It Really Means to Listen to Our Bodies, nos lembra que, se pudéssemos reconstruir o corpo humano a partir de sua complexidade biológica e funcionalidades específicas, a tentativa mais próxima custaria trilhões de euros e, ainda assim, seria uma tentativa frustrada. A marca d’água não deve ser pensada para inibir o conteúdo feito com o apoio de máquinas. A transparência é um direito para que as pessoas se informem se estão diante de um recorte da realidade ou de uma construção fictícia dela com a ajuda de algoritmos. Paradoxalmente, o conteúdo produzido por IA é também humano. Com a filosofia da técnica, refletimos sobre como as máquinas são uma extensão de nossa própria habilidade. Por isso, não existe uma dicotomia entre Inteligência Humana e Inteligência Artificial. A ambiguidade perigosa é delegar aquilo que temos de mais humano para as máquinas e, em contrapartida, realizarmos o trabalho que seria delas.
Só para constar: esse texto não foi escrito por uma ferramenta de IA, mas poderia ter sido.
Vivian Peron é Doutora em Relações Internacionais pela Universidade de Brasília (UnB), com estágio doutoral no Massachusetts Institute of Technology (MIT). Mestre em Comunicação Social (UFMG) e pós-doutora em Relações Internacionais (UnB), Sociologia (Unifesp) e Cultura Digital/ Sociologia (UFPR). Integrante do CTPol (Centro de Estudos em Comunicação, Tecnologia e Política – UnB). Atuou como pesquisadora no IPEA e consultora da UNESCO em projetos sobre políticas públicas e regulação da comunicação. Trabalha com análise de dados, comunicação digital e políticas públicas.