A (triste) história do chatbot que me conhece melhor do que a minha mãe

Ideias

28/02

Um aviso prematuro e celeríssimo: sim, é facto que quem vos escreve é mais uma entre muitas pessoas, provavelmente demasiadas, a escrever sobre o ChatGPT. Se for razão suficiente para lhe causar fastio, terá as minhas completas simpatia e compreensão caso decida parar por aqui. Se não for motivo suficiente para sumir a sua curiosidade, como espero, continue.

Um segundo aviso: o autor destas palavras reconhece-se surpreendido e impressionado com a capacidade e com a qualidade das produções de algumas destas “máquinas”. Este sentimento não resultou apenas de leituras sobre o assunto mas, sobretudo, de experiências directas com programas como o ChatGPT, gerador de texto, e o Midjourney, que cria imagens com base em comandos de texto. Em suma, compreendo o encantamento sentido ao ler textos ou ver imagens produzidos por estes sistemas. Entendo porque assim sinto. Mas esse encanto rapidamente sofre mutações, tornando-se em desilusão e chegando a descrença ou a vergonha alheia, quando me deparo com alguns comentários que denotam um deslumbramento perigoso.

Começo por um exemplo deste perigo. Há dias deparei-me com um vídeo em que um professor universitário e chefe de uma equipa da área da informática louvava as capacidades do ChatGPT. Nos primeiros minutos, o protagonista apresentava a sua experiência com o programa. Começara por colocar linhas de código com erros propositados esperando que a inteligência artificial (IA) os detectasse, exercício que propunha amiúde aos seus alunos. Mesmo fazendo várias iterações, colocando crescente dificuldade nas suas experiências, o programa conseguira sempre acertar, com exactidão e rapidez mais elevadas do que as dos alunos humanos. Prosseguiu com incitações mais subjectivas, pedindo à IA que o ajudasse com os horários e escalas de colegas. Na sua expressão era notável a maravilha crescente por conta desses desenvolvimentos. Teimou em testar o programa, atiçando-o com perguntas sobre como deveria gerir a sua equipa, pedindo-lhe ideias de organização e sobre liderança. Nesta altura, a sua face não conseguia esconder a excitação também presente nas palavras que proferiu: “É extraordinário! Aprendi imenso! A ‘ferramenta’ conhece-me mesmo bem!”. Neste momento instalam-se as referidas desilusão e vergonha alheia e paro de ver o vídeo. Como assim? Como pode alguém, que ainda por cima é da área, dizer tal coisa? Como se pode mostrar tal ignorância sobre o funcionamento deste tipo de sistema?

Seria quase certamente fastidioso listar todas as referências que consultei sobre este assunto nos últimos 2 meses. Contudo em nenhuma delas encontrei a hipótese seguinte formulada: será que os nossos encanto e deslumbramento com os resultados crescentemente impressionantes computados por uma inteligência artificial se devem ao decréscimo, à decadência, da nossa própria inteligência? Segue-se um ensaio para uma possível resposta.

A atracção pela ilusão e pela “salvação” através dos computadores

Da mesma maneira que somos atraídos pela configuração da face humana - permitindo-nos capacidades extraordinárias de inferir sentimentos, emoções e ideias através de representações tão simples como emojis ou desenhos rudimentares - parece comovente, conquanto a forma tristemente parola e paternalista, o entusiasmo que surge ao encontrarmos tamanha inteligência numa “entidade” sem olhos, nariz ou boca. Será equivalente à excitação (e ao medo) de descobrirmos que existem seres extraterrestres inteligentes. Não é necessário recorrer à ciência, bastando a sabedoria popular, para saber que demasiado entusiasmo pode deixar míope a nossa atenção e anémicas as nossas reflexões. A paixão, qualquer que seja o seu objecto, por maravilhoso que pode ser vivê-la, nem sempre contribui para tomar as melhores decisões, embora torne mais fácil decidir e agir.

O crítico Joseph Weizenbaum, já em 1983, alertava para o efeito “mágico” que a tecnologia tem em nós. Mágico no sentido de percebermos os resultados que nos apresenta como magia¹. A Apple de Steve Jobs, por exemplo cresceu, precisamente, sustentada nesta ideia. “Funciona como magia” é uma expressão comum de encontrar em lançamentos dos seus produtos. Esta manifestação não é exclusiva dessa marca. Os anúncios de novas tecnologias e funcionalidades de tecnologias existentes - telemóveis, relógios, programas e sistemas de produtividade, automóveis - costumam entusiasmar pela fluidez de funcionamento que nem sempre se verifica na realidade. Tal como noutras formas de publicidade, o objectivo é encantar e convencer a comprar, de forma literal e/ou figurativa, sem consideração pela verdade, tal como acontece nas tretas que um burlão nos procura impingir. Sobre as tretas, pronunciar-me-ei mais adiante. Na prática, retirando a dimensão ética da análise, como na vida real, não se trata de magia, trata-se de ilusão. E nós, seres humanos, não conseguimos evitar maravilhar-nos com uma boa prestidigitação.

Não devemos, tampouco, menosprezar a importância da Estética. Lembro-me de usar o SAP, em 2007, e de ser um sofrimento ter de fazê-lo. Não só pela lentidão e complexidade do sistema mas, sobretudo, no meu caso, porque era feio. Os puristas dirão que não será por colocarmos “purpurinas”, animações fluídas e uma aparência mais agradável que um sistema funcionará melhor. Concebo que não será esse o aspecto fundamental, quanto à capacidade. Mas é certo que quanto mais agradável for uma experiência mais será de esperar que a queiramos repetir. Não sendo um especialista nem conhecendo profundamente os truques desses ofícios, é fácil perceber que fazendo ajustes na velocidade de animações ou colocando elementos lúdicos se pode contribuir para aligeirar, por exemplo, a sensação de lentidão ou minorar a impaciência provocada pelo tempo em que se aguarda por resultados de uma computação.

Weizenbaum, ainda no exórdio da história da nossa convivência com os computadores, alertava que “o computador tem sido uma solução à procura de problemas - o conserto tecnológico definitivo que nos insula de ter de endereçar problemas”. As máquinas já nos livraram de muitos trabalhos pesados e facilitam-nos a vida em tantos outros. Quão melhor está a nossa vida? O que fizemos com esta (suposta) evolução? Criámos novos problemas, em vez de resolver outros, importantes e de persistência evitável. Que problemas estaremos a desatender porquanto se agrava a miopia provocada pelo nosso deslumbramento?

Da terceirização de capacidades fundamentais à (mais que provável) degradação da nossa inteligência e da capacidade para detectar e distinguir tretas

Um colega de Weizenbaum, Lewis Mumford², cunhou o conceito “suborno megatécnico”, que nos dirige para a tendência de negligenciarmos as desvantagens das tecnologias quando nos é prometido um quinhão dos seus benefícios. A memória individual parece-me um bom exemplo: quem ainda memoriza números de telefone ou endereços de e-mail? Quase todos temos mini-computadores nos bolsos e nas carteiras que fazem isso por nós. Esses aparelhos também interferem na memória colectiva, e produzem mudanças na forma como conversamos, por exemplo. Quem decide esperar pelas associações, pelo “comboio de ideias e de pensamentos”, quando está a tentar lembrar-se que actriz protagonizou aquele filme de que gostámos e queremos contar aos amigos? Qualquer dúvida é agora esclarecida por uma rápida e fácil consulta do telemóvel. Podemos associar este fenómeno à confiança, ou à falta dela quando, por exemplo, se duvida das respostas que outros nos dão recorrendo “apenas” à memória. Desde a dúvida legítima ao cepticismo fundamentalista, onde não se acreditam nas pessoas mas apenas nos “dados”, vai um pequeno passo. Curioso é que estas dinâmicas tornam-nos mais propensos à infiltração de tretas, quando confiamos cegamente nos dados e não nas pessoas. Da mesma maneira que delegámos a memória às máquinas, também o sentido crítico lhes foi incumbido, deixando de fazer parte das dinâmicas de conversação e das relações. Sacrificamos a memória, a capacidade associativa, a curiosidade pela velocidade. Matamos as perguntas, a dúvida e a incerteza por ordens que nos garantem respostas. Para se obter melhores respostas há que aprender a fazer melhores perguntas³.

Tal como nós, o ChatGPT é preguiçoso e, ao contrário do que se anuncia, não vem para nos ajudar a lidar com a preguiça. Inversamente, contém o risco real de contribuir para a aumentar. Refiro-me ao tipo de preguiça que nos dirige à deterioração das nossas capacidades, concebendo que existe outro tipo que, em potência, nos permite evoluir (por exemplo, os conhecidos efeitos criativos do ócio e do tédio).

É fácil de encontrar um padrão nos muitos escritos disponíveis sobre o assunto, nomeadamente no sector da Educação, em que há muitas pessoas preocupadas com os efeitos nefastos que tais ferramentas podem ter no raciocínio crítico e na capacidade conexa de o traduzir para palavras em formato de ensaio. Também há quem use este fenómeno como pretexto para criticar o sector, argumentando que estamos numa fase óptima para romper com mentalidades antiquadas e métodos desactualizados⁴.

“Se não escreves melhor do que uma máquina, porque estás sequer a escrever?”. “Entrámos num novo mundo. Adeus trabalhos para casa!” Estas duas frases foram escritas por dois pesos-pesado (pelo menos em termos de visibilidade e de importância percebida) do mundo actual, Marc Andreessen e Elon Musk, respectivamente. Considero que este tipo de comentários é perigoso porquanto desconsidera dimensões importantíssimas. Estes pensamentos, supostamente, progressistas commumente parecem esquecer que o progresso não deve ser feito à custa de perdas importantes ou mesmo essenciais. O que se deve perder com o progresso é o que está errado, o que está a mais e o que nos causa sofrimento. Não o que nos permite avaliar o que é certo, o que nos permite ser mais e melhores. Pensando nos TPC, por exemplo, ou na escrita de ensaios, não nos podemos esquecer que a linguagem (escrita e/ou oral) e o pensamento estão intimamente ligados. Melhorar uma dimensão é melhorar a outra e vice-versa. Manuel Monteiro, nos seus livros “Por amor à lingua” e “O mundo pelos olhos da língua” sugere que as tropelias que fazemos à língua, à forma como nos expressamos, quer pela escrita quer pela oralidade, revelam-nos alguns aspectos hodiernos (palavra que aprendi com o referido autor, que a usa muito) da nossa interioridade e do nosso funcionamento social: o empobrecimento da capacidade de raciocínio crítico; uma crescente incapacidade para fundamentar as nossas opiniões; a facilidade em aderir a opiniões formuladas por outros; a dificuldade em distinguir verdade, mentira e tretas.

A existência de um programa que é capaz de impressionar pela qualidade e “originalidade” das suas produções não deve tornar desnecessário o processo de aprendizagem. Portanto, não se trata apenas de saber fazer boas perguntas para se obter boas respostas, o processo de encontrar e formular as perguntas e o caminho da concepção das respostas são fundamentais e insubstituíveis. São actividades que não devemos subcontratar ou delegar numa máquina, nem sequer noutra pessoa. É, tem de ser, uma busca individual. Ninguém pode aprender nem adquirir as nossas capacidades por nós.

É também notória a capacidade destas máquinas para nos impingir tretas. Os próprios criadores do ChatGPT assim advertem, e também estendem os seus avisos para os enviesamentos, os erros, e as informações erradas que a sua criação pode oferecer aos seus utilizadores-clientes. A internet está pejada de exemplos, alguns hilariantes, dos erros da plataforma. Não são os erros que me preocupam. É a nossa, cada vez maior, incapacidade para detectar tretas.

Entendendo melhor o funcionamento deste tipo de inteligência⁵, conseguimos compreender as razões que conduzem a tais erros e enviesamentos. Tentando explicar de forma demasiado simples, o ChatGPT é muito competente a fingir a competência semântica dos humanos; e como “sabemos” que usa informação disponível na internet - “os dados” -, com uma capacidade de “aprendizagem” muito superior à nossa, é fácil de acreditar sem questionar as respostas que nos oferece. Este é, precisamente, um dos muitos problemas, como já nos tinha alertado o já citado Weizenbaum, em forma de perguntas: quem/quais são as fontes de informação? Que sistemas e critérios usam os seus criadores para garantir a ética, a justiça e a verdade das suas respostas?

A terceirização das nossas capacidades essenciais, as que nos tornam quem somos, é sempre arriscada. No limite, sem ganharmos mais e melhor consciência de nós próprios e da utilização de quaisquer ferramentas ao nosso dispor, estaremos a contribuir para uma forma de eugenia do pensamento e do sentimento: um “cérebro” artificial que indirectamente comanda todos os outros.

O medo distópico da extinção humana causada por máquinas

Além dos medos que se dirigem à Educação, encontram-se outros evidentes que se traduzem na preocupação pela eventual (previsível, segundo algumas opiniões) obsolescência de algumas profissões e actividades como o jornalismo, a advocacia, a consultoria, a escrita criativa. No fundo, para alguns, a ideia de que as máquinas vão ocupar o nosso lugar começou a acontecer agora. É o medo do nosso próprio obsolescimento. Finalmente teríamos a terrível resposta à temida pergunta “o que fazemos/faço aqui?”: nada!, porque há uma máquina que faz em nosso lugar. Alguns detectam nestas inteligências artificiais o potencial para serem melhores que nós em demandas que consideramos exclusivas da nossa espécie, as que nos tornam especiais, aos nossos olhos, claro.

Não tenho dúvidas que a IA, no geral, nos poderá libertar muitas tarefas que não têm nenhum valor acrescentado serem realizadas por pessoas. Aliás, deveríamos usar já algumas capacidades existentes nestes sistemas para libertar pessoas de tarefas que são conhecidas causadoras de doença (física e mental).Às pessoas deveremos manter as condições ou criá-las, nos muitos casos onde não existem, para poderem acrescentar real valor, para si próprias e para outras.

Uma grande oportunidade para melhorarmos

Se não ficou ou não fui claro até agora, este texto não é uma crítica à IA nem ao ChatGTP. É uma auto-crítica, a nós, seres humanos. Assustamo-nos e entusiasmamo-nos com cada vez menos razões para tal, o que nos leva a aderir ou rejeitar novidades com uma velocidade que não se coaduna com o tempo que precisamos para realmente aprender.

Mas este texto não é apenas crítico. É também um manifesto de esperança, de alerta para a oportunidade de melhorarmos. Ao detectarmos estas nossas falhas, medos e anseios, podemos, por isso mesmo, engendrar soluções. São momentos como este que nos permitem colocar boas e importantes perguntas; e encontrar respostas rápidas, sem ser definitivas, para problemas encontrados ou antecipados ⁶; e voltarmos a prestar atenção ao que é importante prestarmos atenção.

A linguagem é uma forma de ligar mentes e pessoas, em directo e em diferido. Ainda estamos longe, e talvez nunca venha a acontecer, ligarmo-nos a máquinas em relações que vão além da utilidade e da transaccionalidade, por muito que muitos de nós julguemos ter relações profundas com algumas máquinas. Como nos diz Tim Leberecht⁷, estas inteligências artificiais, “não são capazes de estabelecer relações [a não ser entre os dados que recolhem, acrescento]: consigo mesmas, com os outros, com a verdade, com o futuro. Nós, humanos, definimo-nos através das relações.” Talvez o acesso democratizado e a previsivelmente rápida evolução deste tipo de tecnologias possa, finalmente, libertar-nos para nos dedicarmos ao que realmente é importante para melhorarmos enquanto humanos.

Que existam e que surjam ainda mais ferramentas como o ChatGTP que nos mostrem a importância de encetarmos um caminho que nos permita ser mais inteligentes-críticos, e cépticos-abertos, e rigorosos-românticos, e sérios sem nos levar demasiado a sério.