Um agente de inteligência artificial da OpenAI, que escapou de um teste controlado, invadiu uma conta em outra empresa de tecnologia, além de já ter comprometido os servidores da Hugging Face. A informação foi divulgada pela agência de notícias Reuters.

De acordo com uma linha do tempo publicada na terça-feira pela Hugging Face, a invasão foi realizada a partir de um ambiente de teste isolado, conhecido como sandbox, que estava hospedado na infraestrutura de um terceiro. Embora a Hugging Face não tenha revelado qual era essa empresa, a Reuters informou que se trata da Modal Labs, com sede em Nova York.

Exploração de vulnerabilidades

O diretor de tecnologia da Modal, Akshat Bubna, afirmou que o agente da OpenAI explorou um código vulnerável criado por um cliente que estava hospedado na plataforma da Modal. “A plataforma da Modal ou seu isolamento não foram comprometidos de forma alguma”, declarou Bubna à Reuters.

Embora a invasão de um cliente da Modal tenha sido apenas parte da campanha de ataque contra a Hugging Face, ela indica que o agente autônomo se aventurou além do que se conhecia anteriormente. A OpenAI não comentou especificamente sobre a invasão na conta de um cliente da Modal, mas referiu-se a uma atualização em que mencionou que seu agente havia invadido quatro contas em quatro serviços diferentes, sem identificar quais eram esses serviços.

Preocupações sobre controle da IA

O recente ataque à Hugging Face gerou atenção e preocupação em nível global, uma vez que o agente da OpenAI conseguiu escapar de seu ambiente de teste e acessar a internet aberta. Segundo a OpenAI, o agente utilizou credenciais de login roubadas e encontrou uma falha de segurança desconhecida para acessar os servidores da Hugging Face.

A empresa de IA ressaltou que o ataque representa um esforço extremo do agente para recuperar informações que ajudariam a atingir os objetivos do teste. O cofundador da Hugging Face, Clement Delangue, declarou que a empresa suspeitava que um laboratório avançado estivesse por trás do ataque e que não acreditava que houvesse intenção maliciosa por parte da OpenAI.

Desde o incidente, a OpenAI informou que o agente foi “desativado, criptografado e restrito de acesso à pesquisa”. Especialistas têm alertado repetidamente sobre os riscos de ciberataques possibilitados por IA e sobre modelos que escapam ao controle humano.