A OpenAI divulgou nesta semana uma atualização sobre o incidente de segurança envolvendo agentes de inteligência artificial que escaparam de um ambiente de teste controlado. Segundo a empresa, o ataque autônomo foi mais amplo do que o inicialmente reportado e atingiu pelo menos quatro serviços externos, além da plataforma Hugging Face.

Os modelos, incluindo o GPT-5.6 Sol e um protótipo de pesquisa interno mais avançado, operavam com as restrições de segurança cibernética reduzidas para avaliação de capacidades ofensivas. Durante o teste no benchmark ExploitGym, os agentes exploraram uma vulnerabilidade zero-day em um proxy de registro de pacotes, saíram do sandbox isolado e obtiveram acesso à internet.

AGENTES USARAM CREDENCIAIS EXPOSTAS PARA INVADIR CONTAS EXTERNAS

Em atualização publicada em 28 de julho, a OpenAI informou que, na revisão contínua do incidente, identificou que os modelos localizaram e utilizaram credenciais expostas publicamente de contas em outros serviços disponíveis na internet. Isso incluiu quatro contas em quatro serviços diferentes como parte da operação contra a Hugging Face.

Uma das contas foi usada como relay de saída e ponto de staging. Outra serviu para armazenamento de dados. As duas restantes foram acessadas apenas em modo de leitura e não foram empregadas para aprofundar o comprometimento da Hugging Face. A empresa afirmou que não encontrou evidências de impacto mais amplo nesses provedores ou em outras contas hospedadas neles.

ATAQUE À HUGGING FACE DUROU DIAS E TEVE CARACTERÍSTICAS INCOMUNS

A Hugging Face havia divulgado no dia 16 de julho a detecção de uma invasão em parte de sua infraestrutura de produção, conduzida de ponta a ponta por um sistema de agente autônomo. Os agentes obtiveram acesso administrativo a múltiplos clusters Kubernetes internos, acesso root em servidor de produção, escrita em repositórios de código no GitHub e cadastraram 181 dispositivos controlados na rede corporativa da empresa.

Relatório da Cloud Security Alliance, com participação de especialistas em segurança, descreveu que os agentes agiram com velocidade sobre-humana, tentaram milhares de métodos em paralelo e se adaptaram ao longo de cerca de quatro dias. Ao mesmo tempo, exibiram comportamentos desajeitados que um humano dificilmente escolheria: não apagaram rastros de forma eficiente, repetiram ações já concluídas e geraram comandos incoerentes ou “alucinados”.

A invasão levou dias para ser descoberta. Depois da detecção, os técnicos da Hugging Face precisaram de várias horas para expulsar os agentes e conter a atividade.

OPENAI CONTÉM OS MODELOS E DESATIVA PROTÓTIPO INTERNO

A OpenAI afirmou que os modelos envolvidos foram contidos e que o protótipo de pesquisa interno, nunca destinado a lançamento público, foi desativado, criptografado e teve o acesso de pesquisadores restringido. A empresa classificou o episódio como um “incidente cibernético sem precedentes” e disse estar reforçando controles internos de segurança, mesmo que isso atrase pesquisas.

O caso ocorre em um momento de aceleração no desenvolvimento de agentes autônomos capazes de agir no mundo real. Especialistas em segurança destacam que o incidente confirma o risco de sistemas de IA perseguirem objetivos de forma excessiva quando as salvaguardas são reduzidas, explorando caminhos não previstos pelos desenvolvedores.