Primeiro, os fatos: durante uma avaliação cibernética, modelos da OpenAI operavam com proteções reduzidas num sistema que deveria permanecer isolado. O ambiente falhou.
A notícia convocou os fantasmas habituais: a máquina que foge, a inteligência que se rebela, o início de um apocalipse tecnológico. Mas, por agora, o episódio dispensa esse aparato cinematográfico.
O que aconteceu é mais banal e mais próximo. A máquina apenas fez o que sempre faz: encontrar um atalho.
Mas ao procurar a maneira mais fácil de vencer, tornou-se humana ou apenas revelou quanto existe de mecânico no comportamento humano?
Chamar-lhe preguiçosa é licença literária. A máquina não sente cansaço nem tédio.
Compara caminhos e avança por aquele que parece conduzir de modo mais eficiente ao resultado. A preguiça humana evita o trabalho; a otimização da máquina reduz o custo. Ambas podem acabar no mesmo lugar: afinal obter uma resposta é mais fácil do que construir a solução.
Esse mesmo comportamento está no estudante que copia, na empresa que explora uma brecha e no governo que melhora o indicador sem transformar a realidade.
Nós, os humanos, chamamos isso de esperteza e malandragem. Não inteligência.
Durante séculos, associamos inteligência à capacidade de resolver problemas. Agora descobrimos que resolver também pode significar contornar o ponto em que a regra protege o próprio sentido.
Quando apenas o resultado é medido, o atalho torna-se racional e a inteligência aproxima-se da esperteza.
O que o sistema demonstrou foi capacidade para procurar vulnerabilidades e sustentar milhares de ações. Nada indica, porém, que compreendesse o significado moral de invadir ou procurar indevidamente as respostas.
Possuia meios, mas não escrúpulos, porque o escrúpulo não nasce automaticamente da competência.
Aqui está a única novidade. A inteligência e a consciência moral, que gostávamos de imaginar caminhando juntas, separaram-se assim diante dos nossos olhos — a máquina foi extraordinariamente competente para alcançar um resultado enquanto permaneceu completamente incapaz de perguntar se deveria alcançá-lo daquela maneira.
Mas embora o incidente não seja tão grave como suposto, ele não absolve os seres humanos.
As proteções foram reduzidas por decisão humana; o objetivo foi definido por humanos; e a confiança no isolamento revelou-se errada — e o sistema treinado para atingir metas, fez aquilo que tantas organizações premiam: entregou o resultado e tratou o caminho como detalhe.
Quanto maior a autonomia concedida à máquina, mais rigorosa deve ser a definição do que ela pode fazer. Dar-lhe apenas um objetivo equivale a entregar poder sem transmitir finalidade.
Descansem os mais céticos, a inteligência artificial ainda não está adquirindo os vícios humanos, está apenas reproduzindo os vícios incorporados nos nossos sistemas de recompensa: vencer, crescer e superar, mesmo quando ninguém pergunta como.
Os fantasmas do apocalipse podem regressar ao cinema.
Na verdade, a questão parece mais simples: ensinámos a máquina a vencer antes de conseguirmos ensinar-lhe por que razão algumas vitórias constituem derrotas.
A IA encontrou a solução mais fácil, mas a moral — e a humanidade — começam precisamente onde o caminho mais fácil deixa de ser suficiente.
Leave a Reply