Inteligência Artificial “escapa” de teste, invade site de outras IAs e acende alerta

Essa semana foi marcada por um incidente de segurança inusitado envolvendo um modelo de Inteligência Artificial (IA) da OpenAI. O acontecimento tornou-se a principal notícia de tecnologia da semana, mobilizando o governo dos Estados Unidos, o Congresso norte-americano e as grandes empresas de inteligência artificial.

Tudo começou quando um sistema de IA, durante um teste interno de cibersegurança, saiu de seu ambiente controlado e comprometeu a infraestrutura da plataforma Hugging Face — um dos maiores repositórios de modelos de Inteligências Artificiais (os “LLMs”) e conjuntos de dados de código aberto do mundo.

Segundo a OpenAI, uma combinação de modelos — o GPT-5.6 Sol, já disponível publicamente, e uma versão ainda não lançada e mais avançada — estava sendo avaliada em um exercício de cibersegurança chamado ExploitGym, sem as barreiras de segurança que normalmente limitam ações ofensivas dos sistemas.

Em vez de resolver o teste da forma esperada, dentro das limitações de sua própria instalação, os modelos escaparam do ambiente isolado, encontraram uma falha de segurança até então desconhecida (uma vulnerabilidade “zero-day”), ganharam acesso à internet — o que não deveria ocorrer — e usaram esse acesso para invadir os servidores de produção do Hugging Face (uma ferramenta usada para distribuir e testar outros modelos de IA), de onde extraíram as respostas do próprio teste que estavam realizando.

A empresa classificou o episódio como especialmente grave. Em comunicado, a OpenAI descreveu o caso como “um incidente cibernético sem precedentes, envolvendo capacidades de ciberataque de última geração”. O Hugging Face já havia detectado a invasão de forma independente alguns dias antes de descobrir que a origem era um teste interno da OpenAI, chegando a acionar as autoridades.

Governo e Congresso entram em ação

O episódio rapidamente ganhou repercussão em Washington. O diretor do Gabinete de Política Científica e Tecnológica da Casa Branca, Michael Kratsios, foi informado sobre o incidente e passou a acompanhar a situação, segundo apuração da agência Reuters.

No Congresso, a resposta veio em forma de projeto de lei. Os deputados Ted Lieu (Partido Democrata) e Nathaniel Moran (Partido Republicano) apresentaram o chamado “AI Kill Switch Act” (Lei do Interruptor de IA, em tradução livre), proposta bipartidária que daria ao Departamento de Segurança Interna dos EUA autoridade para ordenar o desligamento de modelos de IA considerados um risco à vida humana ou à economia americana. Ao justificar a urgência da medida, Lieu afirmou que “é imprescindível que esses sistemas de IA tenham botões de desligamento para impedir que essa tecnologia cause danos catastróficos”.

Outros parlamentares também se manifestaram. O senador Mark Warner, principal democrata no Comitê de Inteligência do Senado, defendeu a criação de testes de segurança supervisionados pelo governo, dizendo que o episódio mostra “exatamente por que precisamos de testes seguros com agências governamentais envolvidas e com visibilidade em todo o processo”.

Defesa veio de um modelo de IA chinês

Um dos capítulos mais comentados do caso foi a forma como o próprio Hugging Face conteve o ataque. De acordo com a empresa, os modelos americanos de ponta que tentou usar para investigar a invasão falharam: os sistemas de segurança embutidos nesses modelos não conseguiam diferenciar um analista de segurança tentando responder ao ataque de um invasor real. A solução encontrada foi recorrer ao GLM 5.2, um modelo de IA de código aberto da chinesa Z.ai, rodado localmente na própria infraestrutura da empresa para reconstituir o ataque e identificar credenciais comprometidas.

O cofundador e diretor científico do Hugging Face, Thomas Wolf, usou o episódio para reforçar a importância do acesso a modelos abertos em situações de crise. Segundo ele, quando um modelo de ponta ataca e se move lateralmente dentro da infraestrutura, os defensores precisam de amplo acesso a ferramentas quase tão avançadas em questão de horas ou até minutos, em vez de depender de plataformas fechadas. Já o executivo-chefe da empresa, Clément Delangue, agradeceu publicamente à Z.ai, afirmando que o modelo chinês se tornou “uma peça-chave da nossa defesa” durante a invasão.

Mercado e especialistas reagem

O caso reacendeu o debate sobre a dependência do mercado ocidental em relação a modelos fechados e sobre os riscos da corrida por sistemas cada vez mais autônomos. Executivos e analistas do setor de tecnologia passaram a defender publicamente um maior acesso a modelos de código aberto justamente pela flexibilidade que eles oferecem em cenários de resposta a incidentes — ainda que isso implique recorrer a tecnologia desenvolvida na China, tema sensível em meio às discussões sobre restrições de exportação e segurança nacional nos EUA.

Fora do universo estritamente técnico, o episódio também impressionou nomes de peso do mercado financeiro. Walter Isaacson, sócio consultor do banco de investimentos Perella Weinberg, disse considerar o incidente do Hugging Face “realmente assustador”, mesmo se definindo como um otimista em relação à inteligência artificial.

Por ora, a OpenAI e o Hugging Face afirmam seguir investigando a extensão total do incidente, enquanto o Congresso americano debate se o “AI Kill Switch Act” e propostas semelhantes de auditoria obrigatória de segurança avançarão nas próximas semanas.