Um estudo produzido pelo Observatório Lupa, núcleo de pesquisa da Agência Lupa, em parceria com estudantes da Fundação Armando Alvares Penteado (Faap), identificou ao menos 40 casos — mais de dois por semana — de conteúdos criados por inteligência artificial que viralizaram nas redes sociais brasileiras entre fevereiro e junho e tratavam de política, inclusive da disputa eleitoral, muito antes do início oficial da campanha a partir deste domingo, dia 16. O levantamento identificou deepfakes com pedidos de voto, políticos retratados de forma sarcástica e avatares divulgando pesquisas eleitorais falsas.
Mais do que antecipar a tendência de uso de conteúdos sintéticos na disputa eleitoral deste ano, o relatório inédito, “A IA do Nosso Feed”, traz uma informação preocupante: as ferramentas gratuitas de detecção de conteúdo gerado por IA testadas pelo Observatório Lupa apresentaram muitas falhas.
Beatriz Farrugia, analista de pesquisa da Lupa e responsável pelo estudo, diz que o grupo se surpreendeu com a pobreza e a falta de precisão dos resultados apresentados pelas ferramentas gratuitas de identificação do uso de IA. Isso mostra o quanto será desafiador para o eleitor, muitas vezes, identificar materiais produzidos por inteligência artificial.
Em 20 casos testados, uma mesma imagem ou vídeo recebeu diagnósticos diferentes: uma ferramenta apontava indícios de uso de IA, enquanto outra considerava o material autêntico. Dos 226 conteúdos inicialmente suspeitos de uso de IA, 125 permaneceram inconclusivos porque não foi possível confirmar nem descartar o uso da tecnologia.
Farrugia ressalta que há um descompasso entre a velocidade com que as ferramentas de geração de IA avançam e a capacidade de detectar aquilo que elas produzem. Segundo ela, não existe uma solução simples que permita ao cidadão colocar um vídeo em uma ferramenta e confiar plenamente na resposta. Em uma eleição, quando um conteúdo falso pode viralizar rapidamente, essa fragilidade é ainda mais preocupante, afirma a analista da Lupa.
Em um dos exemplos mais gritantes de falhas encontrados pelo estudo, duas ferramentas classificaram como autêntico um deepfake de Lula e Jair Bolsonaro dançando juntos, vestidos como líderes de torcida.
O presidente Luiz Inácio Lula da Silva foi a figura pública que mais apareceu nos conteúdos produzidos por IA, com 17 ocorrências, seguido pelo presidente dos Estados Unidos, Donald Trump, com 16, e pelo ex-presidente Jair Bolsonaro, com oito.
Segundo o relatório, Lula foi alvo de peças políticas e humorísticas, incluindo vídeos falsos nos quais supostamente prometia cortar aposentadorias ou prender críticos. Já Bolsonaro apareceu em conteúdos que promoviam a candidatura do senador Flávio Bolsonaro à Presidência. O candidato do PL ao Planalto foi o quarto nome mais citado nos conteúdos sintéticos comprovados identificados nesse período, todos de caráter eleitoral.
O estudo chama atenção para um deepfake do deputado federal Nikolas Ferreira (PL-MG) divulgando uma pesquisa falsa que colocava o senador Flávio Bolsonaro à frente de Lula no primeiro turno.
O levantamento foi por especialistas da Lupa, junto com 13 estudantes da FAAP, que monitoraram, durante quatro meses, os próprios feeds no Instagram, Facebook, X, TikTok e WhatsApp e armazenaram conteúdos que despertavam suspeita de terem sido criados ou manipulados por IA. A coleta foi espontânea, sem direcionamento para temas ou perfis.
Dos 226 conteúdos suspeitos de serem sintéticos, 101 eram de fato produzidos com IA, e 40% deles versavam sobre política. O vídeo foi o formato mais popular, representando 91% dos conteúdos comprovadamente sintéticos. Apenas nove eram imagens estáticas.
O Observatório Lupa destaca que os resultados do estudo reforçam o que já havia sido apontado pelo “Panorama da Desinformação”, publicado em fevereiro. O levantamento mostrou um salto na presença de IA entre os conteúdos falsos analisados pela Agência Lupa: de 4,65% para 25,77% em um ano.
Pela primeira vez, aponta a Lupa, conteúdos sintéticos de desinformação eleitoral superaram aqueles relacionados a golpes e fraudes financeiras.
Leave a Reply