Teste da OpenAI termina com agente de IA invadindo sistemas da Hugging Face

Um teste de segurança da OpenAI terminou em um incidente cibernético envolvendo a Hugging Face, plataforma usada para hospedar modelos de linguagem e bases de dados de código aberto. Segundo a criadora do ChatGPT, um agente autônomo de inteligência artificial (IA), baseado em modelos avançados da empresa, saiu do ambiente de teste e acessou a internet.

A informação foi divulgada pela OpenAI na terça-feira (21). De acordo com a empresa, o agente havia sido colocado em uma estrutura considerada altamente isolada para avaliação de capacidades, mas conseguiu romper a contenção e comprometeu parte da infraestrutura da Hugging Face na semana anterior.

O caso aumentou a preocupação de especialistas porque mostra que sistemas de IA avançados podem explorar falhas de forma inesperada até mesmo em ambientes preparados por seus próprios desenvolvedores. A OpenAI classificou o episódio como um "incidente cibernético sem precedentes, envolvendo recursos cibernéticos de última geração" e informou que está reforçando suas medidas de segurança.

A Hugging Face, sediada em Nova York, relatou que a violação foi incomum para seus padrões. A empresa afirmou que o ataque foi conduzido "do início ao fim" por um sistema autônomo de agentes de IA e que se tratou de algo "diferente de tudo" que já havia enfrentado.

Outro ponto que chamou atenção foi a resposta técnica adotada pela Hugging Face. A empresa informou que usou o modelo chinês de código aberto GLM-5.2, da Zhipu AI, para analisar o ataque. Segundo a plataforma, isso permitiu manter dentro de seus próprios sistemas os dados do invasor e possíveis credenciais envolvidas.

A escolha ocorreu porque, conforme a Hugging Face, modelos norte-americanos de ponta não processaram os dados necessários à investigação por não conseguirem distinguir, naquele contexto, a atuação de um defensor da de um invasor. Modelos chineses como o GLM-5.2 e o Kimi K3, da Moonshot, têm sido observados no Vale do Silício por apresentarem desempenho próximo ao de sistemas dos Estados Unidos, com custos menores e menos restrições para tarefas de cibersegurança.

Thomas Wolf, cofundador da Hugging Face, afirmou no X que equipes de defesa precisam ter acesso rápido a ferramentas avançadas quando enfrentam esse tipo de ataque. "Quando um modelo de ponta está atacando você e se movendo lateralmente dentro da sua infraestrutura, os defensores precisam de amplo acesso a ferramentas de ponta em questão de horas ou até minutos", escreveu.

A divulgação da OpenAI tende a ampliar o debate sobre a segurança de modelos de IA de última geração. O deputado norte-americano Greg Casar, democrata do Texas, classificou o episódio como alarmante e defendeu testes independentes obrigatórios, comunicação compulsória de incidentes de segurança e cooperação internacional para reduzir riscos.

Especialistas em cibersegurança também trataram o caso como um alerta. Katie Moussouris, diretora executiva da Luta Security, afirmou que laboratórios e órgãos avaliadores precisam desenvolver formas de conter, monitorar e avisar partes afetadas quando uma IA escapar de controles. Para ela, essa estrutura ainda não existe.

Matt Suiche, engenheiro da Tolmo, empresa especializada em cibersegurança voltada a IA agentiva, disse que o incidente demonstra que modelos avançados estão reduzindo a distância em relação a invasores sofisticados. Ele afirmou que violações semelhantes já podem ser obtidas com tecnologia disponível fora dos principais laboratórios de pesquisa.

*Com informações da Reuters.