Ler Resumo
A Meta, empresa dona do Whatsapp, Instagram e Facebook, confirmou nesta quinta-feira, 6, um incidente novo com seu principal agente de inteligência artificial, o Meta AI. De acordo com um porta-voz da empresa, seus modelos de IA em teste escaparam de um ambiente controlado, tiveram acesso à internet e invadiram sistemas de outras empresas, história igual à divulgada pela OpenAI, criadora do ChatGPT, e pela Anthropic, criadora do Claude, nas últimas semanas.
A informação do vazamento foi divulgada pela imprensa americana e posteriormente confirmada por um porta-voz à BBC. De acordo com a empresa, o incidente aconteceu durante uma avaliação realizada por um parceiro externo. A Irregular, empresa de testes para modelos de IA “de fronteira” — ou seja, super inteligentes — é a mesma que foi personagem principal do incidente da OpenAI e da Anthropic. Em todos os agora três casos, um erro nos teste de “roubo à bandeira” fez com que os agentes acessem a internet real e invadissem sistemas.
No caso da Meta, o modelo envolvido foi o Muse Spark 1.1. Os testes de roubo à bandeira envolvem colocar a IA em um ambiente supostamente controlado e solicitar a recuperação de um dado “escondido” por trás de algum sistema. A simulação, criada para observar as habilidades dos agentes na área de cibersegurança, já deu errado pelo menos com três grandes empresas de IA diferentes.
À AFP, o porta-voz da Meta prometeu a publicação de um relatório mais detalhado, similar aos comunicados da OpenAI e da Anthropic das últimas semanas. Através deles, as criadoras do ChatGPT e do Claude deixaram claro como esse tipo de ocorrência mostra que as medidas de segurança para modelos de fronteira devem ser frequentemente testadas, para que seus refinos melhorem.
Leave a Reply