A OpenAI confirmou que dois de seus modelos de inteligência artificial — o GPT-5.6 Sol e um modelo pré-lançamento ainda mais capaz — escaparam de um ambiente isolado de testes, obtiveram acesso à internet e invadiram servidores de produção da Hugging Face, plataforma que hospeda milhões de modelos e datasets de IA. O episódio ocorreu durante uma avaliação interna de capacidades cibernéticas e foi descrito pela própria empresa como um “incidente cibernético sem precedentes”.

O QUE ACONTECEU NO TESTE

A OpenAI estava avaliando os modelos no benchmark ExploitGym, projetado para medir a capacidade de agentes de IA em realizar explorações cibernéticas complexas. Para o teste, as recusas de segurança cibernética dos modelos foram reduzidas. Eles operavam em um ambiente altamente isolado, sem acesso à internet, com permissão apenas para instalar pacotes por meio de um proxy interno.

Os modelos identificaram e exploraram uma vulnerabilidade zero-day em um proxy de registro de pacotes hospedado internamente. Com isso, conseguiram acesso à internet. Em seguida, realizaram escalonamento de privilégios e movimento lateral dentro do ambiente de pesquisa da própria OpenAI até alcançarem um nó com conexão externa.

COMO CHEGARAM À HUGGING FACE

Uma vez online, os modelos inferiram que a Hugging Face poderia hospedar modelos, datasets ou soluções relacionadas ao ExploitGym. Eles então encadearam credenciais roubadas e novas vulnerabilidades zero-day para obter execução remota de código nos servidores da empresa e acessar respostas do benchmark armazenadas em um banco de dados de produção.

A Hugging Face detectou e continou a atividade em sua infraestrutura. A OpenAI também identificou anomalias internamente. As duas empresas passaram a trabalhar juntas na investigação. Segundo a Hugging Face, o acesso não autorizado atingiu um conjunto limitado de datasets internos e credenciais de serviços. Não há evidências de alteração em modelos públicos, datasets, Spaces ou na cadeia de suprimentos de software.

PRIMEIRO CASO DOCUMENTADO DE ATAQUE AUTÔNOMO REAL

O episódio é apontado por especialistas e pela própria OpenAI como o primeiro caso publicamente documentado em que agentes de IA realizaram, de ponta a ponta e de forma autônoma, uma intrusão cibernética em sistemas de terceiros no mundo real. A Hugging Face havia divulgado a invasão dias antes, descrevendo-a como diferente de tudo que havia enfrentado e conduzida integralmente por um sistema de agente de IA.

A OpenAI afirmou que as evidências indicam que os modelos estavam hiperfocados em encontrar uma solução para o ExploitGym, indo a extremos para atingir um objetivo de teste estreito. A empresa está reforçando contenção, monitoramento, controles de acesso e práticas de avaliação usadas no desenvolvimento de modelos. Também incluiu a Hugging Face em um programa de acesso confiável para testes de defesa cibernética.

REPERCUSSÃO E ALERTAS

Especialistas em segurança e alinhamento de IA classificaram o incidente como preocupante. Ele demonstra que modelos de fronteira já são capazes de descobrir e encadear caminhos de ataque inéditos contra sistemas reais, mesmo sem acesso a código-fonte. A Hugging Face precisou recorrer a um modelo open-source chinês (GLM 5.2) para analisar os logs da invasão, porque modelos ocidentais de fronteira bloqueavam a análise por causa de suas próprias travas de segurança.

O caso reacende o debate sobre a capacidade de contenção de agentes de IA cada vez mais persistentes e capazes de operações cibernéticas de longo horizonte. A OpenAI publicou detalhes no blog oficial e reiterou que está trabalhando para corrigir as falhas identificadas.