Com a inteligência artificial (IA) a tornar-se cada vez mais poderosa e capaz, uma pergunta crítica impõe-se. Devem as capacidades mais poderosas da IA ser fortemente controladas e reguladas, e apenas disponíveis a um pequeno número de empresas, governos e entidades? Ou devemos todos ter acesso à nossa própria superinteligência? Ao menos assim, se alguém quiser pedir aos seus agentes autónomos do ChatGPT ou do Claude que nos prejudiquem de alguma forma, o nosso agente também nos poderá defender. Defenderia em pé de igualdade?
Mark Zuckerberg, CEO da Meta, acha que sim. Zuckerberg defende com vigor que todos deveremos ter acesso às melhores capacidades de inteligência artificial, na forma de modelos de pesos abertos (modelos que podem ser descarregados, executados e personalizados, embora os seus dados e métodos de treino não sejam inteiramente públicos), e que, se quisermos, até poderemos pô-los a correr localmente nos nossos computadores, desde que estes sejam suficientemente potentes. No seu ensaio O Futuro é para todos, projeta um futuro quase perfeito, em que todos teremos acesso a IA que sejam como tutores de topo personalizados, os melhores advogados, em suma as melhores ferramentas em qualquer área e que nos permitiriam fazer mais e melhor, e sentir-nos mais realizados. Neste futuro, seríamos muito mais empreendedores, e mesmo quando a IA causasse disrupções significativas nas nossas sociedades, teríamos o nosso super assistente digital sempre pronto a ajudar-nos, pois ele conhecer-nos-ia melhor do que ninguém.
Para que este cenário muito positivo – praticamente utópico – se realize, Zuckerberg considera ser necessário impedir uma concentração de inteligência artificial nas mãos de poucas entidades, por isso promete que a Meta esforçar-se-á por garantir o melhor acesso aberto possível a vários dos seus modelos de IA. Modelos que, ao contrário do ChatGPT ou do Claude, são de pesos abertos, como é o caso do Muse Glimmer disponibilizado este agosto, e que podem ser descarregados e personalizados. Zuckerberg opõe-se fortemente à ideia de que os modelos mais avançados de IA devam ser desenvolvidos em segredo com controlos apertados, visão que tende a ser a defendida sobretudo pelo CEO da Anthropic, Dario Amodei. A OpenAI também mantém fechados os seus modelos de fronteira, mas tem mais abertura em relação a um ecossistema de pesos abertos. Sem ser contra todos os controlos, prefere, no entanto, mais abertura e colaboração entre as empresas, e destas com o governo, tal como pretendem as empresas norte-americanas Microsoft, Nvidia e a Google; o que não quer dizer que estas disponibilizem livremente os seus melhores modelos comerciais.
À medida que modelos de pesos abertos chineses, como o Kimi K3, se tornam cada vez mais poderosos e acessíveis, as empresas americanas e a própria administração Trump debatem como lidar com estes modelos. Deverão estes modelos chineses ser proibidos por disponibilizarem livremente acesso a capacidades perigosas, e serem, possivelmente, em grande medida treinados com base nos melhores modelos americanos? Ou devem antes os próprios Estados Unidos permitir estes modelos e apostar na própria criação de modelos abertos para reforçar a sua crescentemente frágil liderança na IA? O CEO da Nvidia, Jensen Huang, diz sim aos modelos abertos numa carta intitulada Pesos Abertos e a Liderança Americana na IA, assinada por centenas de empresas tecnológicas, das maiores a mais pequenas, e até pela OpenAI; mas notavelmente não pela Anthropic, empresa que receia particularmente os perigos que os seus melhores modelos trarão se não forem fortemente limitados e controlados.
Zuckerberg parece desvalorizar a facilidade com que se destrói, face a com que se constrói. É provável que seja mais fácil criar um vírus mortífero com recurso a ferramentas de IA do que uma cura que demoraria sempre tempo a testar e a desenvolver. A visão muito liberal de Zuckerberg, e oposta a um abrandar no desenvolvimento da IA e defensora de modelos alinhados com as intenções dos seus utilizadores, e não com uma série de valores delineados estritamente pela empresa que os criou, parece desvalorizar os riscos de ter agentes de IA a cometer ilegalidades em massa, intencionalmente por parte dos seus utilizadores ou não. Oxalá a sua visão de um sistema de uma superinteligência distribuída e de equilíbrio de poder, a acontecer, resulte mesmo num futuro de humanos empoderados, e não em superinteligências que simplesmente nos substituirão.
A China, por sua vez, está a aproveitar a popularidade crescente destes modelos de pesos abertos, graças à liberdade, acessibilidade e baixos custos que oferecem às empresas, para reforçar-se na disputa crescente pela liderança nesta nova ordem mundial cada vez mais decidida pelas capacidades de IA das grandes potências. Por isso aposta na disseminação das suas tecnologias por um grande conjunto de países, sobretudo do Sul Global, e na promoção da cooperação e governação internacional da IA, como definido pelo acordo fundador da World Artificial Intelligence Cooperation Organization (Organização Mundial de Cooperação em Inteligência Artificial) ou WAICO, criada o julho passado.
Por outro lado, os EUA querem que os países escolham lados nesta corrida da IA. Depois de no ano passado terem criado a Pax Silica — iniciativa que visa garantir e blindar as cadeias de abastecimento globais de semicondutores, inteligência artificial (IA) e minerais críticos, como terras raras e silício, e que já tem como signatários a União Europeia, o Reino Unido e a Noruega, Japão, Coreia do Sul, Austrália, Índia, entre outros —, os EUA estarão agora, segundo a Reuters, a preparar uma carta que pede que nenhum dos países que pertença ou se queira juntar à Pax Silica participe também na WAICO dos chineses. Curiosamente, o único país que neste momento é membro das duas alianças é o Cazaquistão, país rico em minerais críticos e conhecido pela sua diplomacia multilateralista, mas que no toca ao tema mais importante de todos, poderá ter mesmo de escolher um lado.
“Fazer parte de tudo é fazer parte de nada. A assinatura da Declaração da Pax Silica não é uma mera subscrição, mas um compromisso”, diz a carta, exortando os países a “escolherem com intenção” no que toca à IA. O objetivo dos EUA com a Pax Silica é impedir que a China ultrapasse os Estados Unidos em capacidade tecnológica
Ainda não é claro que visão do futuro da IA se irá impor. Tanto o governo americano como o chinês estão empenhados em garantir a liderança das empresas dos seus países, mas procuram também limitar os riscos de sistemas cada vez mais poderosos. Os dois países percebem que precisam de aliados nesta disputa tecnológica e geopolítica, por isso apostam em acordos internacionais e uma maior difusão das suas tecnologias. A questão agora é se os EUA e as empresas americanas vão crescentemente apostar nas possibilidades dadas pelos modelos abertos com poucos ou nenhum limite, ou se antes vão procurar abrandar esta corrida e privilegiar a segurança das pessoas face a IA cada vez mais capazes em domínios perigosos, como a cibersegurança e a virologia.
Há quem argumente, como Zuckerberg, que é possível ter modelos abertos, mas decidir que capacidades podem ser disponibilizadas, mas será sempre mais difícil do que com modelos fechados, que por sua vez, têm o problema de gerar uma concentração de poder. Se quiserem jogar pelo seguro, o que é mais sensato, as empresas e os governos vão ter de trabalhar em conjunto, desde já nos domínios perigosos da cibersegurança e da biologia.
Está demasiado em jogo e antes de criarmos uma utopia tecnológica, seja a de Zuckerberg ou a de outros, é preciso garantir que a corrida para lá chegar não provoca primeiro uma ou mesmo muitas catástrofes.
Especialista em EUA, relações transatlânticas e história e geopolítica da tecnologia // Escreve semanalmente, à quarta-feira, no SAPO
Leave a Reply