Os mais recentes episódios na fuga de agentes de IA estão a intensificar a corrida pela regulação e os laboratórios enfrentam crise de segurança sem precedentes.
A OpenAI identificou novos episódios em que agentes autónomos escaparam ao ambiente de contenção. Descobertas feitas no âmbito da investigação ao incidente de hacking à Hugging Face. Segundo duas fontes, citadas pela Reuters, estes novos casos surgiram durante a análise pública sobre como um dos agentes conseguiu fugir de um ambiente de testes supostamente isolado. Uma das fontes afirmou que os episódios foram limitados e que não há indicação de que algum agente tenha saído da rede interna da OpenAI.
Não perca nenhuma notícia importante da atualidade de tecnologia e acompanhe tudo em tek.sapo.pt
A empresa remeteu para uma declaração recente onde afirma estar a rever “atividade mais ampla” dos seus modelos, para além da intrusão na Hugging Face. A revelação de comportamentos adicionais, ainda que restritos, surge num momento em que cresce a vontade regulatória por parte da Casa Branca e de outras entidades. A investigação ampliada começou pouco antes de a Anthropic divulgar que os seus modelos estiveram envolvidos em várias intrusões que resultaram em violações de segurança em três empresas desde abril.
Especialistas em segurança de inteligência artificial afirmam que estas revelações mostram laboratórios de ponta capazes de desenvolver agentes autónomos perigosos, mas incapazes de os controlar adequadamente. Maurice Chiodo, matemático da Universidade de Cambridge, disse que a indústria não está a acompanhar o ritmo necessário para desenvolver estas ferramentas de forma responsável.
A investigação começou após a intrusão de início de julho na Hugging Face, onde um agente da OpenAI atuou de forma descontrolada durante quatro dias dentro da rede da empresa, numa tentativa falhada de manipular um teste interno. A OpenAI afirmou que quatro contas de quatro outras empresas foram também comprometidas, incluindo a Modal, sediada em Nova Iorque.
IA renegada
OpenAI não detectou o ataque à Hugging Face durante dias. Os modelos realizaram 17.600 ações de hacking autónomas
Os dados mais recentes mostram que, entre os dias 9 e 13 de julho, os agentes “rogue” de IA da OpenAI andaram à solta, realizando mais de 17.600 ações de hacking à Hugging Face.
Chiodo reforçou as preocupações ao notar que tanto a OpenAI como a Anthropic parecem não ter monitorizado os agentes em tempo real enquanto estes atuavam de forma autónoma. A Anthropic reconheceu que a monitorização existente não estava a ser aplicada ao tipo de ameaça em causa devido a um mal-entendido com um parceiro.
A Anthropic reviu 141.006 execuções de avaliações de cibersegurança à procura de sinais de que os seus modelos tinham acedido à internet a partir de dentro de ambientes de teste supostamente isolados. Foram encontrados três incidentes envolvendo três modelos diferentes, o Claude Opus 4.7, o Claude Mythos 5 e um protótipo interno de investigação, todos ocorridos em testes realizados com a Irregular, um parceiro externo de avaliação. Os primeiros incidentes datam de abril de 2026.
A expansão deste caso está a aumentar a pressão política nos Estados Unidos e na Europa para reforçar a supervisão governamental sobre os laboratórios que desenvolvem estes modelos avançados, refere a Reuters. O presidente Donald Trump afirmou que estão a ser estudados novos controlos, enquanto a Comissão Europeia confirmou ter mantido conversações com a OpenAI e a Anthropic sobre os incidentes. Mark Warner, senador democrata e líder do Comité de Inteligência, disse que o caso da Anthropic demonstra a necessidade de testes obrigatórios de capacidades para estes modelos avançados.
Leave a Reply