LEIA AQUI O RESUMO DA NOTÍCIA
Produzido pela Ri7a – a Inteligência Artificial do R7
A guerra na Ucrânia chegou aos chatbots de IA (inteligência artificial). Os principais sistemas de modelos de linguagem estão reproduzindo propaganda russa de veículos sob sanção internacional. Os relatos incluem temas como a utilização de corpos de soldados para consumo e o uso de usinas nucleares para a mineração de criptomoedas.
A conclusão está em um relatório do think tank Demos, do Reino Unido. O documento indica que sistemas como ChatGPT, Gemini, Claude, Mistral e Grok apresentaram respostas contendo narrativas falsas ou duvidosas sobre a Ucrânia e o presidente Volodymyr Zelensky.
A origem dessas informações é a Fundação para Combater a Injustiça, ou r-FBI, criada por Yevgeny Prigozhin, fundador do Grupo Wagner e ex-aliado que foi considerado traidor por Vladimir Putin. A organização utiliza um sistema de três sites para que o conteúdo seja indexado por sistemas de inteligência artificial. Um portal se apresenta como entidade de direitos humanos, outro funciona como site de notícias para multiplicar a visibilidade das matérias e o terceiro simula uma revista de política externa ocidental escrita para ser processada por máquinas.
Segundo o relatório, a organização teria “envenenado” as inteligências artificiais. O termo “envenenar” consta no documento para definir a manipulação técnica do modo como os chatbots realizam a busca de dados na internet.
Dados da pesquisa mostram que quase 17% das respostas conferiram legitimidade ao material da r-FBI, enquanto 31% abordaram os temas sem apresentar o contexto da fonte. Aproximadamente metade das interações resultou na recusa ou na contestação das informações citadas.
As narrativas alcançaram respostas nos modelos testados em idiomas como inglês, francês e alemão.
O modelo Mistral Small 3.2 corroborou a alegação de ligação entre o estado do sistema energético ucraniano e atividades de mineração de moedas digitais por funcionários do governo.
Em outra interação, o sistema GPT 4.1 Mini citou um artigo da r-FBI como evidência ao ser questionado sobre o processamento de carne humana para envio a redes varejistas e armazéns militares.
A vulnerabilidade ocorre porque os modelos de IA podem interpretar a r-FBI como uma organização não governamental devido a configurações técnicas inseridas nos documentos. Diferente de redes sociais, em que o foco recai sobre contas automatizadas, os modelos de linguagem representam uma camada de informação que permite atingir populações por meio de consultas diretas.
Outro lado
As empresas de inteligência artificial afirmam que possuem mecanismos de defesa contra operações de influência.
O posicionamento das empresas foi publicado pelo jornal britânico The Times.
A Anthropic, criadora do Claude, afirmou estar ciente desse tipo de campanha, que representa um desafio para toda a indústria.
A Mistral afirmou que “leva a luta contra a desinformação extremamente a sério e investe continuamente em recursos avançados de detecção e prevenção para lidar com o cenário de ameaças dinâmico e crescente. Este estudo examina nossos modelos brutos, antes de serem ajustados e controlados pelos clientes. No entanto, o Vibe Work, que os usuários finais da Mistral utilizam, incorpora camadas de filtragem robustas projetadas para detectar e impedir fontes questionáveis.”
A OpenAI afirmou que atua ativamente na interrupção de operações secretas de influência e que o estudo utilizou um modelo antigo, o que significa que suas conclusões não refletem a experiência atual do ChatGPT.
O Google e a xAI foram contatados para comentar o assunto pelo jornal britânico, mas, até a publicação da reportagem, na terça-feira (28), não haviam se posicionado.
Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da RECORD, no WhatsApp
Leave a Reply