A IA transformou-se numa espécie de confessionário onde colocamos as nossas dúvidas existenciais, medos obscuros, intenções malévolas, asneiras ou amores escondidos. Assumimos que a nossa IA é o Padre de uma terra distante, que somos pecadores anónimos. Só que não é bem assim. O risco é a rendição voluntária e transparente do nosso eu mais profundo a uma máquina que guarda tudo, cruza tudo e antecipa tudo o que somos.
Quando entra num confessionário, há algo intrínseco na confissão: o sigilo. Os crentes confiam nos padres ao ponto de manifestarem junto deles as suas ações ou mesmo pensamentos mais escuros, solicitando a absolvição ao mesmo tempo que confiam não na discrição, mas no sigilo. E estas são duas coisas bem diferentes.
Já todos nos demos conta que, quando pesquisamos sobre um determinado tema num motor de pesquisa, esse tema parece rodear-nos em imensas plataformas. Se eu pesquisar sobre tanques e piscinas num sítio qualquer, vão aparecer-me durante muitos dias anúncios de bombas para piscinas, filtros para piscinas, tanques em cimento, fabricantes de piscinas e muitas outras coisas relacionadas. Isto é factual e relativamente fácil de verificar. Eu já me deparei com coisas ainda mais estranhas: falar sobre um tema ou um produto esquisito, não escrever em lado nenhum e depois, como por magia, o meu telefone começar a sugerir-me coisas ligadas ao tema esquisito. Neste segundo caso não me vou alongar em teorias da conspiração e vou, por agora, chamar-lhe coincidência. No primeiro caso, chamam-lhe cookies.
Há um algoritmo que usa as nossas pesquisas para aferir interesses e usa os interesses para promover vendas ou, pelo menos, engagement.
Certo é que há um algoritmo que usa as nossas pesquisas para aferir interesses e usa os interesses para promover vendas ou, pelo menos, engagement. Não digo que não tenha as minhas definições de utilização demasiado abertas quanto às tais cookies e restantes restrições, mas penso que não estarei longe da maioria que aceita, sem ler, os termos e condições quando lhe aparece um botão enorme ao fim de 15 páginas a dizer “aceitar tudo”. Há quem lhe chame a “fadiga de consentimento” e depois há o “medo do esquecimento”. Aceitamos tudo porque estamos fartos de tentar limitar algo que não entendemos, e aceitamos tudo porque temos medo de sermos atirados para um canto qualquer esquecido da rede social.
As pesquisas old school… e as novas pesquisas com a IA
Vamos então assumir que, quando pesquisamos algo num motor de pesquisa, o mesmo fica indexado ao nosso perfil e que ele toca a campainha do nosso interesse. Pesquiso sobre piscinas e aparecem-me inúmeras páginas sobre piscinas, como construir, como transformar um tanque em piscina, teses académicas sobre piscinas, e tudo o demais. Depois cabe-me a mim selecionar o que quero ver em detalhe face à lista que me aparece à frente.
Esse algoritmo aprende o nosso interesse. Consegue depois ver, dentro das opções que sugere, para onde vai o nosso interesse e até mesmo quanto tempo permanecemos numa página para perceber se tivemos interesse na página proposta. O algoritmo vai-se afinando para perceber o nosso comportamento mas não interage connosco de forma direta. Não nos pergunta porque queremos saber algo sobre a piscina, vai tentar adivinhar com base no que nos oferece e com a nossa reação ao oferecido.
Com a IA a conversa é outra, porque com a IA estamos, de facto, a conversar. A IA não nos oferece opções com base no que solicitamos. A IA vai “ao osso”, fala connosco, tenta compreender-nos e ao nosso interesse. Faz perguntas atrás de perguntas e afina a sua resposta. A IA não é reativa como os motores de busca. A IA é ativa e invasiva. Entra em nós!
A IA quer saber, o modelo de pesquisas anterior apenas queria fornecer opções. A IA quer oferecer respostas. E há uma diferença enorme entre fornecer opções e fornecer a resposta. No primeiro caso, somos nós a construir a resposta. No segundo, a resposta já vem feita e, para que a IA consiga dar a resposta, tem que saber muito bem ao que está a responder. A IA sabe que se eu lhe perguntar sobre cal ou soda caustica numa piscina, não estarei propriamente preocupado com o skimmer da piscina e que provavelmente sou um membro de um cartel qualquer a querer fazer algo bem mais rebuscado.
A Memória
Temos andado todos livremente e muito entusiasmados a interagir com a IA a questionar sobre tudo e todos. Diria até que, apesar de estarmos a reduzir a nossa capacidade de aprendizagem por pesquisa, estamos a aprender com isso. A IA responde sem que tenhamos que procurar mais e sem que tenhamos de pensar mais. Com a IA só temos que saber perguntar. Temos que saber o que queremos saber, e porque se trata de um modelo conversacional, a IA, com paciência acabará por nos levar à pergunta certa mesmo que não saibamos qual é.
A grande limitação do momento com a IA tem a ver com a memória. Quando interagimos com versões demo, percebemos que a IA sem memória é aborrecida porque nos obriga a explicar tudo outra vez. A memória massiva será o grande salto seguinte. Convenhamos que não pode haver inteligência sem memória e os gigantes da IA sabem isso. Os modelos de IA precisam de garantir memória quase infinita para que a inteligência se desenvolva por contribuição individual e contribuição coletiva, transformando toda a IA num grande cérebro artificial.
A memória persistente da IA não é um mal em si. É, inclusive, extraordinariamente útil, trazendo continuidade, personalização e evitando a frustração diária de termos de explicar tudo do zero a cada nova sessão. Seremos os primeiros a exigi-la mas poderemos um dia ter o problema que não é a existência da memória, mas sim quem a controla, por quanto tempo, e com que finalidade.
Assumimos que a IA é o Padre de uma terra distante, que não nos vai reconhecer quando nos voltarmos a cruzar com ela. Só que não é bem assim.
É por conveniência que a IA se transformou para nós numa espécie de confessionário onde podemos colocar todas as nossas dúvidas existenciais, os nossos medos obscuros, as nossas intenções malévolas, as nossas asneiras ou os nossos amores escondidos. Partimos do princípio que a IA é alguém que não vemos e que, portanto, não nos julgará, tal como o Padre tapado dentro do confessionário, mas há uma diferença gigante. Se eu for a um confessionário da minha terrinha, o Padre pode até conseguir saber quem eu sou, mas se eu sair daqui para me confessar em Faro, o Padre de Faro não fará a mínima ideia de quem sou. Serei um pecador anónimo.
Nós assumimos que a nossa IA é o Padre de uma terra distante. Que não nos vai reconhecer quando nos voltarmos a cruzar com ela, e que se por alguma razão não mantiver o sigilo, não conseguirá associar o que lhe dizemos à pessoa que somos.
Só que não é bem assim. A IA pode reconhecer-nos, se assim configurarmos, e a questão é que a maioria de nós não sabe sequer que a opção de não reconhecimento existe, ou não a compreende ao certo. A IA tem o potencial de saber quem somos e de voltar a cruzar-se connosco, retendo o que lhe formos dizendo. Quando a IA tiver memória infinita, a IA vai saber muito mais sobre nós do que um “mero” motor de busca.
O que a IA não faz porque não pode
Quando falamos com a nossa IA (LLM) temos várias opções que começam também a depender do plano de subscrição que temos. Por exemplo, podemos selecionar se queremos que a nossa IA se recorde de outras conversas ou se se vai esquecer delas e podemos escolher se a nossa interação pode ser usada no modelo de treino ou não. Isto são as tais opções que nos fazem acreditar que podemos escolher se queremos ir sempre ao mesmo confessionário com o mesmo Padre, ou se preferimos ir todos os dias a um diferente. Eu recomendo nunca partirmos do princípio que a IA não nos reconhece se não souber o nosso nome ou se não vir a nossa cara.
Esta opcionalidade que nos parece transparência pode não inócua. O boom na utilização de modelos conversacionais de IA foi tão grande que a gestão da memória envolve um equilíbrio complexo entre custos computacionais, limites energéticos, arquitetura de sistemas, estratégias comerciais e enquadramentos regulatórios. Guardar e processar continuamente um histórico infinito para centenas de milhões de utilizadores em tempo real exige uma escala de processamento e energia brutal. A falta de memória omnipresente hoje tem menos a ver com princípios éticos de privacidade e mais com otimização de recursos e escolhas de produto. À medida que os custos de processamento caem, as arquiteturas evoluem e os incentivos comerciais para criar perfis ultra-personalizados crescem, a memória persistente e profunda tenderá a tornar-se o padrão, transformando o esquecimento num produto premium ou numa ilusão do passado.
A opcionalidade de memorizar conversas não é, para a IA, puramente altruísta. Um sistema só é verdadeiramente inteligente se tiver capacidade de interligar contextos. As calculadoras só permitiram fazer cálculos interligados quando começaram a ter aquele botãozinho “M” para memorizar o resultado anterior. Parece que não é nada, mas faz toda a diferença entre um sistema que opera com interações independentes ou um sistema que interliga operações.
Hoje, a amnésia temporária da IA responde a esse compromisso de capacidade, energia, custo e regulação. A IA esquece não por convicção moral, mas por limites do ecossistema que a suporta. A opção de apagar o histórico pode só existir por uma questão de conveniência atual e não por um compromisso ético da arquitetura.
Amanhã a IA vai conseguir lembrar-se de tudo e vai lembrar-se de certeza do que fizemos no verão passado. Aliás, só aí a IA é verdadeiramente inteligente. Lembre-se disso quando interagir com a IA.
Uma pegada permanente
É verdade que até aqui o grande tema de discussão sempre foi a pegada digital. O chavão do: “O que é publicado jamais será esquecido.” Aprendemos a viver com isso e aprendemos a gerir a nossa presença digital com base nisso. Se as redes sociais nos ensinaram a aperfeiçoar uma fachada, a construir meticulosamente a imagem que queremos dar da vida real, entre férias de sonho e conquistas profissionais, o problema da IA é exatamente o oposto e pode desmontar tudo o que construímos para fora. A IA não quer saber da nossa máscara. A IA quer saber da nossa verdade.
Quando estamos dentro de quatro paredes a interagir com a IA de uma forma que consideramos fechada, restrita e confidencial, temos tendência para nos desarmar. Se nas redes sociais mostramos o jantar impecável, na IA passamos horas a tentar perceber como pagar as dívidas ao fim do mês, a desabafar sobre um casamento em rutura ou a procurar sintomas de uma doença que nos aterroriza. Sentimos liberdade para expor o que jamais publicaríamos num feed. Mas a IA sabe que o que colocamos no feed pode não quadrar com a nossa vida real.
Esse quarto fechado que é um prompt de IA dá-nos uma falsa sensação de segurança. Abstrai-nos do facto de que, do outro lado, não está um confessor a conceder a absolvição, mas um sistema a desenhar o nosso mapa psicológico real. A IA não nos vai avaliar por aquilo que queremos parecer ser, mas por aquilo que efetivamente somos na intimidade do nosso pseudo-sigilo e há algo de verdadeiramente fantástico: A IA pode obrigar o ser humano a ser genuinamente verdadeiro e assumidamente transparente.
O risco já não é a exposição pública daqueles que mostram as férias ou os filhos. É a rendição voluntária e transparente do nosso eu mais profundo a uma máquina que guarda tudo, cruza tudo e antecipa tudo o que somos. No fim, a absolvição não chega. Chega apenas o perfil perfeito da nossa vida real pronto a ser usado contra a nossa própria vontade.
Leave a Reply