Conteúdos de IA conhecidos como “slop”, em especial vídeos de frutas animadas gerados por inteligência artificial, estão a contribuir para um declínio cognitivo significativo e para tendências violentas entre crianças, segundo novas investigações.
PUBLICIDADE
PUBLICIDADE
A análise, conduzida pela Global Network on Extremism and Technology (GNET), concluiu que os vídeos de frutas animadas gerados por IA, que atualmente inundam os feeds das crianças em todo o mundo, podem funcionar como forma discreta de difusão de “conteúdos violentos e extremistas”.
O termo AI “slop” designa conteúdos gerados por IA produzidos em massa, altamente repetitivos e de baixa qualidade, quase sem qualquer intervenção humana. Normalmente, procuram apenas maximizar visualizações, cliques, interação e receitas publicitárias, sendo criados a custos muito reduzidos.
Assim, um único criador pode produzir centenas destes vídeos de formato curto, enchendo várias plataformas com grandes quantidades de conteúdos. Como muitas redes sociais recompensam a atividade constante e o carregamento frequente de vídeos, esta estratégia torna-se muito eficaz para chegar a milhões de crianças em todo o mundo.
Este fenómeno alimenta a degradação cognitiva, ou “brain rot”, expressão que descreve os efeitos culturais e psicológicos de consumir demasiados conteúdos rápidos, hiperestimulantes e deliberadamente vazios de significado, muitas vezes absurdos e que exploram hábitos como o scroll infinito e a procura de descargas imediatas de dopamina.
O surgimento de aplicações baratas, fáceis de aprender e muito convenientes, como PixVerse, VeoE.ai, Media.io e Sora, também tem contribuído para o forte aumento deste tipo de conteúdos gerados por IA nos últimos anos.
Como os conteúdos de IA “slop” alimentam a radicalização online
Os conteúdos de IA “slop” podem espalhar de forma encoberta mensagens de radicalização online através de vídeos que à primeira vista parecem inofensivos, absurdos ou até cómicos, como os vídeos de frutas e legumes animados.
Este tipo de conteúdos recorre frequentemente a narrativas dramáticas, com romance, conflitos domésticos, traições e infidelidade, entre outros enredos protagonizados por frutas animadas aparentemente inocentes. Podem incluir forte agressividade e violência emocional e ser altamente estimulantes para mentes impressionáveis, pela forma como estruturam a narrativa.
Em muitos casos, estes vídeos são usados para glorificar, celebrar e difundir o extremismo violento e ataques terroristas, através de peças apelativas que se aproveitam de tendências e temas virais na Internet.
Os conteúdos sangrentos com frutas e legumes gerados por IA podem incluir cenas de tortura, mutilações extremas e violência hiper-realista, o que acaba por dessensibilizar de forma significativa o público, escondendo-se atrás da familiaridade destas personagens animadas.
Podem também mostrar assassínios, eventos com múltiplas vítimas e homicídios brutais, por exemplo uma fruta a matar outra com uma arma.
Em muitos casos, os vídeos partilham características com conteúdos de organizações extremistas que promovem ideologias de extrema-direita, niilistas ou violentas, bem como com cartéis criminosos.
Num exemplo recorrente, uma personagem popular, Carrot Khalifah, aparece a dizer a um exército num vídeo que “o Estado Cenoura voltará a erguer-se”, numa referência clara à ideologia e propaganda conhecidas do grupo Estado Islâmico (EI).
Embora plataformas como o TikTok tenham políticas para travar a disseminação deste tipo de conteúdos extremamente violentos, estas medidas não são infalíveis, já que os geradores de IA conseguem contornar as regras e ocultar-se sob a aparência de conteúdos aparentemente inofensivos.
Leave a Reply