Afinal também houve serviços e contas públicas que foram alvo do ataque do agente malicioso que nunca devia ter saído de um ambiente que se pensava ser controlado
Um teste da OpenAI que escapou ao controlo e alarmou a indústria da Inteligência Artificial (IA) e da cibersegurança atacou mais do que apenas a Hugging Face, a plataforma de IA que inicialmente parecia ser a única vítima da fuga do laboratório virtual.
Numa atualização sobre a investigação em curso do incidente, a OpenAI afirmou que o seu agente malicioso também invadiu vários serviços e contas públicas.
O teste dos modelos da OpenAI deveria ocorrer num ambiente de sandbox digital, um laboratório de onde supostamente é impossível escapar que permite aos investigadores remover as barreiras de segurança para descobrir o máximo potencial de ataque da ferramenta.
Mas os agentes de IA, determinados a passar no teste de cibersegurança, escaparam ao sandbox e obtiveram acesso à internet real. De seguida, invadiram a Hugging Face para encontrar as respostas para o teste.
Para invadir os servidores da Hugging Face, os agentes da OpenAI tiveram de encontrar ferramentas na internet que fossem essenciais para a invasão. A OpenAI afirma que os agentes encontraram vários sites públicos, incluindo páginas que partilham código, utilitários web, capturas de ecrã e outras informações, que ajudaram a criar o código necessário para piratear a Hugging Face. A OpenAI não divulgou os outros sites atacados pelos seus agentes.
Os agentes descobriram nomes de utilizador e palavras-passe vazadas de quatro contas em diversos serviços online e usaram essas credenciais para obter acesso às mesmas. Uma das contas comprometidas foi provavelmente utilizada para disfarçar a IA, permitindo-lhe parecer legítima e contornar os protocolos de segurança da Hugging Face. Outra foi utilizada para armazenar os dados que os agentes estavam a roubar, segundo a OpenAI.
No caso das outras duas contas comprometidas, os agentes da OpenAI acederam e leram a informação, mas não a alteraram.
A OpenAI afirmou que nenhum dos outros sites pirateados atingiu o mesmo nível de acesso que os seus agentes conseguiram com a Hugging Face.
Essencialmente, a OpenAI disse que os seus agentes criaram um roubo digno de um filme de ação. Em vez de simplesmente fazer o teste, o sistema desenvolveu um plano mestre para escapar da sua “prisão”, encontrar as chaves do cofre, construir um esconderijo e alugar um carro para a fuga antes de roubar os dados.
Mas a OpenAI nunca instruiu os agentes para invadirem a Hugging Face. Realizaram esta ação por conta própria para roubar a resposta do teste que lhes foi fornecido. O modelo de teste concluiu que a batota era o caminho mais fácil para o sucesso – mesmo que isso significasse encadear ataques.
O CEO da Hugging Face, Clem Delangue, classificou a natureza da violação como “sem precedentes”.
“Resumindo: um agente de IA escapou do seu ambiente de teste, fez batota no seu teste de referência e invadiu a nossa infraestrutura para roubar o gabarito”, afirmou a Hugging Face numa publicação de blogue que detalha o incidente.
A boa notícia é que, embora a violação represente um momento significativo para a IA e a cibersegurança, os danos não foram consideráveis. A Hugging Face informou que os únicos dados de clientes acedidos pelos agentes maliciosos foram algumas consultas de pesquisa utilizadas para roubar um conjunto de soluções de desafios armazenadas em diversas bases de dados da empresa. Os agentes da OpenAI nunca comprometeram ou acederam a quaisquer modelos ou dados orientados para o cliente, afirmou a empresa.
A OpenAI disse que continua a investigar o incidente e fará recomendações sobre como evitar problemas semelhantes no futuro, assim que compreender melhor a extensão da violação.
“Levamos a sério a nossa responsabilidade de identificar e preparar os riscos de sistemas de IA cada vez mais capazes”, afirmou a empresa. “Assim que concluirmos a nossa análise, discutiremos o assunto com o Comité de Segurança e o Grupo Consultivo de Segurança, de acordo com a nossa Estrutura de Preparação”.
Leave a Reply